概要: OpenAIの新しい画像生成ツール「4o」が、偽のレストランの領収書、規制薬物の処方箋、そしておそらくはその他の身分証明書や金融文書など、本物そっくりの偽造文書を作成するために使用されたと報じられています。ユーザーは、このモデルが安全規制を回避し、経費詐欺、医療文書の偽造、その他様々な形態の文書偽造に悪用される可能性があることを実証しました。
Alleged: OpenAI developed an AI system deployed by scammers と Fraudsters, which harmed Regulatory agencies , Pharmacists , Law enforcement , healthcare providers , General public , Expense management platforms と Employers.
インシデントのステータス
インシデントID
1018
レポート数
2
インシデント発生日
2025-03-31
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
OpenAIの最新の画像生成モデル「4o」は、画像内テキスト生成において驚くほど優れている。これは、多くの先行モデルでは特に困難であった機能である。
そして、ユーザーが実感しているように、このモデルは偽造文書の画像生成に強力なツールとなっている。
一例として、Menlo VenturesのプリンシパルであるDeedy Das氏は、サンフランシスコの実在するステーキハウスでの豪華な食事の偽造レシートの写真をツイートした 。これはTechCrunchが発見。
「4oを使えば偽のレシ…
OpenAIのGPT-4oは、その高度な視覚スキルに加え、危険な悪用の可能性も注目を集めています。GPT-4oは、画像内に本物らしく読みやすいテキストを生成する点で、従来のモデルとは一線を画しており、不正文書作成において重大なリスクを生み出します。
Menlo Venturesのプリンシ パル、ディーディ・ダス氏は最近、GPT-4oが生成した偽造レシートの画像を投稿しました。画像には本物のサンフランシスコのステーキハウスの料理が写っており、税金やチップの計算を含むすべての品目と…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
