ChatGptの新しい画像ジェネレーターは、領収書を偽造するのが本当に得意です
今月、ChatGPTは4oモデルで新しい画像生成機能を展開しました。この機能は画像にテキストを挿入するのに非常に優れており、かなり良い出来です。人々はすでにこれを使って偽のレストランのレシートを作成しており、詐欺師が好むAIディープフェイクのトリックの数々に新たな手口を追加しています。
ソーシャルメディアやVCの世界で有名なDeedy Dasは、Xでサンフランシスコの実際のステーキハウスからの偽レシートの画像を共有し、4oで作成したと主張しました。
4oを使って偽のレシートを生成できます。
「本物の画像」を証明として頼る現実世界の検証フローが多すぎます。その時代は終わりました。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
他の人々もこの流れに乗り、独自の偽物を作成しました。なかには、食べ物や飲み物の汚れを追加してより本物らしく見せる人もいました:
元の画像では文字が完璧すぎて、紙の曲がりに沿っていないように見えます。紙の上に浮いているように見えます。よりリアルにするための私の試みです。どう思うか教えてください。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
TechCrunchで見つけた最も説得力のある偽物はフランスからで、LinkedInユーザーが地元のレストランチェーンからのAI生成のくしゃくしゃのレシートを投稿しました:
TechCrunchでも4oを試し、サンフランシスコのApplebee’sの偽レシートを作成しました:

画像クレジット:chagpt / charles rollet しかし、私たちの試みには偽物であることが分かるいくつかの兆候がありました。まず、合計金額にピリオドの代わりにカンマが使われており、計算も間違っていました。LLMは基本的な計算にまだ苦労しているので、これは驚くことではありません。それでも、詐欺師がフォトエディットソフトやもっと具体的なプロンプトを使って数字を少し調整するのは難しくないでしょう。
偽のレシートを非常に簡単に生成できるようにすることは、詐欺の可能性を大きく広げることは明らかです。悪意のある者がこの技術を使って完全にでっち上げた経費の「払い戻し」を求めるのは想像に難くありません。
OpenAIの広報担当者Taya Christiansonは、TechCrunchに対し、ChatGPTで作成されたすべての画像にはAIによって作られたことを示すメタデータが含まれていると語りました。Christiansonはまた、OpenAIは使用ポリシーを破るユーザーに対して「措置を講じる」とし、「現実世界での使用やフィードバックから常に学んでいる」と述べました。
ChatGPTがそもそも偽のレシートを作成できるようにしている理由や、それがOpenAIの使用ポリシー(詐欺を禁止している)で許容されるかどうか尋ねたところ、ChristiansonはOpenAIの「目標はユーザーに可能な限り多くの創造的自由を与えること」と述べました。彼女は、偽のAIレシートが「金融リテラシーの教育」やオリジナルのアート、製品広告の作成など、詐欺以外の目的にも使用できると指摘しました。
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
関連特集おすすめ
コメント (17)
0/500
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!
今月、ChatGPTは4oモデルで新しい画像生成機能を展開しました。この機能は画像にテキストを挿入するのに非常に優れており、かなり良い出来です。人々はすでにこれを使って偽のレストランのレシートを作成しており、詐欺師が好むAIディープフェイクのトリックの数々に新たな手口を追加しています。
ソーシャルメディアやVCの世界で有名なDeedy Dasは、Xでサンフランシスコの実際のステーキハウスからの偽レシートの画像を共有し、4oで作成したと主張しました。
4oを使って偽のレシートを生成できます。
「本物の画像」を証明として頼る現実世界の検証フローが多すぎます。その時代は終わりました。pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas) 2025年3月29日
他の人々もこの流れに乗り、独自の偽物を作成しました。なかには、食べ物や飲み物の汚れを追加してより本物らしく見せる人もいました:
元の画像では文字が完璧すぎて、紙の曲がりに沿っていないように見えます。紙の上に浮いているように見えます。よりリアルにするための私の試みです。どう思うか教えてください。pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman) 2025年3月29日
TechCrunchで見つけた最も説得力のある偽物はフランスからで、LinkedInユーザーが地元のレストランチェーンからのAI生成のくしゃくしゃのレシートを投稿しました:
TechCrunchでも4oを試し、サンフランシスコのApplebee’sの偽レシートを作成しました:

それでも、詐欺師がフォトエディットソフトやもっと具体的なプロンプトを使って数字を少し調整するのは難しくないでしょう。
偽のレシートを非常に簡単に生成できるようにすることは、詐欺の可能性を大きく広げることは明らかです。悪意のある者がこの技術を使って完全にでっち上げた経費の「払い戻し」を求めるのは想像に難くありません。
OpenAIの広報担当者Taya Christiansonは、TechCrunchに対し、ChatGPTで作成されたすべての画像にはAIによって作られたことを示すメタデータが含まれていると語りました。Christiansonはまた、OpenAIは使用ポリシーを破るユーザーに対して「措置を講じる」とし、「現実世界での使用やフィードバックから常に学んでいる」と述べました。
ChatGPTがそもそも偽のレシートを作成できるようにしている理由や、それがOpenAIの使用ポリシー(詐欺を禁止している)で許容されるかどうか尋ねたところ、ChristiansonはOpenAIの「目標はユーザーに可能な限り多くの創造的自由を与えること」と述べました。彼女は、偽のAIレシートが「金融リテラシーの教育」やオリジナルのアート、製品広告の作成など、詐欺以外の目的にも使用できると指摘しました。
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
Создание поддельных чеков с помощью ИИ — это просто невероятно! 😱 Теперь мошенники могут легко генерировать фальшивые документы, и это пугает. Как мы можем защитить себя от таких подделок? Может, нужны специальные цифровые водяные знаки?
Como usuario casual de IA, esto me da un poco de miedo 😅 Hacer recibos falsos tan fácil... ¿qué sigue? ¿Falsificar facturas médicas? Aunque la tecnología es impresionante, ojalá las plataformas implementen medidas para detectar este tipo de abusos antes de que sea demasiado tarde. ¡Necesitamos regulación YA!
ChatGPTの新しい画像生成器を使って、豪華なディナーのレシートを作りました。めっちゃリアルで友達も信じちゃった。面白いけど、こんなに簡単に偽物が作れるのはちょっと怖いですね。この機能、使うときは注意が必要です!
O novo gerador de imagens do ChatGPT é incrível! Usei para criar um recibo falso de um jantar chique e ficou tão real que meus amigos acreditaram. É divertido, mas também assustador como é fácil criar falsificações convincentes. Cuidado com isso!
ChatGPT의 새로운 이미지 생성기로 고급 저녁 식사의 영수증을 만들었어요. 너무 진짜 같아서 친구들도 속았어요. 재미있지만, 이렇게 쉽게 가짜를 만들 수 있다는 게 조금 무섭네요. 이 기능, 사용할 때 조심해야 할 것 같아요!





家






