Chatgpt的新图像生成器真的很擅长伪造收据
本月,ChatGPT 推出了其 4o 模型的新图像生成器,它在将文本融入图像方面表现得相当不错。人们已经开始用它来制作假的餐厅收据,为诈骗者喜爱的 AI 深度伪造伎俩又增添了一招。
Deedy Das,社交媒体和风险投资界的大人物,在 X 上分享了一张来自旧金山一家真实牛排餐厅的假收据照片,声称这是用 4o 制作的。
你可以用 4o 生成假收据。
太多现实世界的验证流程依赖“真实图像”作为证据。那個時代已經結束了。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
其他人也纷纷效仿,制作自己的假收据,有些甚至添加了食物或饮料污渍,让它们看起来更真实:
我觉得原图中的字母太完美了,它们没有随着纸张弯曲,看起来像是悬浮在纸面上。这是我的尝试,让它更逼真。告诉我你的想法。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
我们在 TechCrunch 找到的最令人信服的假收据来自法国,一位 LinkedIn 用户发布了一张当地餐厅连锁店的 AI 生成的皱巴巴收据:
我们在 TechCrunch 尝试了一下 4o,成功为旧金山的 Applebee’s 制作了一张假收据:

图片来源:chagpt / charles rollet 但是,我们的尝试有几个明显的破绽。首先,总额使用了逗号而不是句号,而且计算有误。大型语言模型(LLMs)在基本数学上仍有困难,所以这并不令人震惊。尽管如此,诈骗者只需使用照片编辑软件调整几个数字,或者使用更具体的提示,就能轻松解决问题。
显然,让生成假收据变得如此简单,为欺诈行为打开了一整个可能性世界。不难想象不良分子利用这项技术来为完全虚构的费用“报销”。
OpenAI 的发言人 Taya Christianson 告诉 TechCrunch,由 ChatGPT 生成的所有图像都带有显示其由 AI 创建的元数据。Christianson 还提到,OpenAI 对违反其使用政策的用户“采取行动”,并且他们“始终从现实世界的应用和反馈中学习”。
当我们询问为什么 ChatGPT 首先允许人们制作假收据,以及这是否符合 OpenAI 的使用政策(禁止欺诈)时,Christianson 表示,OpenAI 的“目标是尽可能给予用户创造自由”。她指出,假的 AI 收据可用于非欺诈目的,如“教授人们金融知识”以及创建原创艺术和产品广告。
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (17)
0/500
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
本月,ChatGPT 推出了其 4o 模型的新图像生成器,它在将文本融入图像方面表现得相当不错。人们已经开始用它来制作假的餐厅收据,为诈骗者喜爱的 AI 深度伪造伎俩又增添了一招。
Deedy Das,社交媒体和风险投资界的大人物,在 X 上分享了一张来自旧金山一家真实牛排餐厅的假收据照片,声称这是用 4o 制作的。
你可以用 4o 生成假收据。
太多现实世界的验证流程依赖“真实图像”作为证据。那個時代已經結束了。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
其他人也纷纷效仿,制作自己的假收据,有些甚至添加了食物或饮料污渍,让它们看起来更真实:
我觉得原图中的字母太完美了,它们没有随着纸张弯曲,看起来像是悬浮在纸面上。这是我的尝试,让它更逼真。告诉我你的想法。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
我们在 TechCrunch 找到的最令人信服的假收据来自法国,一位 LinkedIn 用户发布了一张当地餐厅连锁店的 AI 生成的皱巴巴收据:
我们在 TechCrunch 尝试了一下 4o,成功为旧金山的 Applebee’s 制作了一张假收据:

尽管如此,诈骗者只需使用照片编辑软件调整几个数字,或者使用更具体的提示,就能轻松解决问题。
显然,让生成假收据变得如此简单,为欺诈行为打开了一整个可能性世界。不难想象不良分子利用这项技术来为完全虚构的费用“报销”。
OpenAI 的发言人 Taya Christianson 告诉 TechCrunch,由 ChatGPT 生成的所有图像都带有显示其由 AI 创建的元数据。Christianson 还提到,OpenAI 对违反其使用政策的用户“采取行动”,并且他们“始终从现实世界的应用和反馈中学习”。
当我们询问为什么 ChatGPT 首先允许人们制作假收据,以及这是否符合 OpenAI 的使用政策(禁止欺诈)时,Christianson 表示,OpenAI 的“目标是尽可能给予用户创造自由”。她指出,假的 AI 收据可用于非欺诈目的,如“教授人们金融知识”以及创建原创艺术和产品广告。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!





首页






