Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Law enforcement

影響を受けたインシデント

インシデント 10182 Report
OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

2025-03-31

OpenAI’s new image generator, 4o, was reportedly used to produce realistic fraudulent documents, including fake restaurant receipts, prescriptions for controlled substances, and potentially other identity or financial documents. Users demonstrated how the model could be prompted to bypass safety restrictions to be misused for expense fraud, medical forgery, and other various forms of document falsification.

もっと

インシデント 11911 Report
NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

2025-04-21

The NYPD's facial recognition system allegedly misidentified Trevis Williams as a suspect in a Union Square indecent exposure case. Despite reportedly notable physical differences and exculpatory phone data, Williams was arrested, jailed for more than two days, and charged. The case was later dismissed.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

scammers

Incidents involved as Deployer
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

Fraudsters

Incidents involved as Deployer
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

OpenAI

Incidents involved as Developer
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

Regulatory agencies

影響を受けたインシデント
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

Pharmacists

影響を受けたインシデント
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

healthcare providers

影響を受けたインシデント
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと
Entity

Expense management platforms

影響を受けたインシデント
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

Employers

影響を受けたインシデント
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

Prescription validation systems

Incidents implicated systems
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

OpenAI 4o image generator

Incidents implicated systems
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

Expense reporting systems

Incidents implicated systems
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

Document verification systems

Incidents implicated systems
  • インシデント 1018
    2 レポート

    OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

もっと
Entity

New York Police Department

Incidents involved as Deployer
  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと
Entity

NYPD

Incidents involved as Deployer
  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと
Entity

Unknown facial recognition system developer

Incidents involved as Developer
  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと
Entity

Trevis Williams

影響を受けたインシデント
  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと
Entity

Judicial integrity

影響を受けたインシデント
  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと
Entity

Judicial system

影響を受けたインシデント
  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと
Entity

General public of New York

影響を受けたインシデント
  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと
Entity

Unknown facial recognition system

Incidents implicated systems
  • インシデント 1191
    1 レポート

    NYPD Facial Recognition System Allegedly Produced Erroneous Match That Reportedly Resulted in Wrongful Detention of Trevis Williams

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 26ad817