概要: OpenAIの新しい画像生成ツール「4o」が、偽のレストランの領収書、規制薬物の処方箋、そしておそらくはその他の身分証明書や金融文書など、本物そっくりの偽造文書を作成するために使用されたと報じられています。ユーザーは、このモデルが安全規制を回避し、経費詐欺、医療文書の偽造、その他様々な形態の文書偽造に悪用される可能性があることを実証しました。
Alleged: OpenAI developed an AI system deployed by scammers と Fraudsters, which harmed Regulatory agencies , Pharmacists , Law enforcement , healthcare providers , General public , Expense management platforms と Employers.
インシデントのステータス
インシデントID
1018
レポート数
2
インシデント発生日
2025-03-31
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...

OpenAIの最新の画像生成モデル「4o」は、画像内テキスト生成において驚くほど優れている。これは、多くの先行モデルでは特に困難であった機能である。
そして、ユーザーが実感しているように、このモデルは偽造文書の画像生成に強力なツールとなっている。
一例として、Menlo VenturesのプリンシパルであるDeedy Das氏は、サンフランシスコの実在するステーキハウスでの豪華な食事の偽造レシートの写真をツイートした。これはTechCrunchが発見。
「4oを使えば偽のレシ…
Loading...