ChatGPT4o 新功能引发安全担忧:AI生成的假收据能骗过谁?

虚假收据的蔓延

ChatGPT最新推出的4o模型图像生成功能正在引发安全忧虑，尤其是生成逼真文本方面的进步可能为欺诈者提供新工具。社交媒体上已经出现多个用户利用该功能创建假餐厅收据的案例，这些收据看起来足以假乱真。

现实中的潜在风险

风险投资家Deedy Das在X平台上展示了一张使用4o生成的旧金山牛排馆假收据，强调: "现实世界中有太多验证流程依赖'真实图像'作为证据。那个时代已经结束了。" 其他用户也成功复制了类似结果，有些甚至添加了食物污渍以增加真实感。

伪造收据的技术简化

测试后发现，虽然AI生成的收据仍存在明显缺陷（如使用逗号代替小数点、计算错误等），但这些问题可以通过简单的照片编辑或更精确的提示轻松修正。这一技术简化了伪造收据的过程，为 "报销"虚假费用等欺诈行为创造了可能性。

OpenAI的立场

对此，OpenAI发言人Taya Christianson表示，所有ChatGPT生成的图像都包含表明其AI来源的元数据，并称公司会对违反使用政策的行为 "采取行动"。当被问及为何允许生成虚假收据时，Christianson解释称OpenAI的 "目标是给予用户尽可能多的创作自由"，并指出AI收据可用于非欺诈场合，如金融教育、艺术创作和产品广告。

YiAI团队

AI大模型技术专家团队

YiAI团队是一支专注于AI大模型应用的技术团队，由来自国内外知名科技公司的AI专家组成。 我们致力于为企业和开发者提供高质量、低成本的AI大模型API服务，涵盖文本生成、对话交互、 内容理解、知识问答等多个领域。团队拥有丰富的大规模语言模型开发和应用经验，深入理解 企业在AI落地过程中的实际需求和技术痛点。