概要: OpenAI’s new image generator, 4o, was reportedly used to produce realistic fraudulent documents, including fake restaurant receipts, prescriptions for controlled substances, and potentially other identity or financial documents. Users demonstrated how the model could be prompted to bypass safety restrictions to be misused for expense fraud, medical forgery, and other various forms of document falsification.
Alleged: OpenAI developed an AI system deployed by scammers と Fraudsters, which harmed Regulatory agencies , Pharmacists , Law enforcement , healthcare providers , General public , Expense management platforms と Employers.
インシデントのステータス
インシデントID
1018
レポート数
2
インシデント発生日
2025-03-31
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
OpenAIの最新の画像生成モデル「4o」は、画像 内テキスト生成において驚くほど優れている。これは、多くの先行モデルでは特に困難であった機能である。
そして、ユーザーが実感しているように、このモデルは偽造文書の画像生成に強力なツールとなっている。
一例として、Menlo VenturesのプリンシパルであるDeedy Das氏は、サンフランシスコの実在するステーキハウスでの豪華な食事の偽造レシートの写真をツイートした。これはTechCrunchが発見。
「4oを使えば偽のレシ…
OpenAIのGPT-4oは、その高度な視覚スキルに加え、危険な悪用の可能性も注目を集めています。GPT-4oは、画像内に本物らしく読みやすいテキストを生成する点で、従来のモデルとは一線を画しており、不正文書作成において重大なリスクを生み出します。
Menlo Venturesのプリンシパル、ディーディ・ダス氏は最近、GPT-4oが生成した偽造レシートの画像を投稿しました。画像には本物のサンフランシスコのステーキハウスの料理が写っており、税金やチップの計算を含むすべての品目と…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents