Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Unknown generative AI technology

Incidents implicated systems

インシデント 10903 Report
Reported AI-Generated Clickbait Targets Adolescents in Rockingham County, North Carolina

2025-05-30

An alleged AI-enabled scam targeting teens in Rockingham County, North Carolina, reportedly used fake headlines and a local student's likeness to lure users to malicious websites. According to the sheriff's office and Proxyware, the campaign involved nearly 100 sites linked to a centralized operation in South Africa. Once users were identified as students or locals, the sites reportedly deployed harmful ads or malware. Authorities warn of sensational content used to manipulate users.

もっと

インシデント 8351 Report
Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

2024-08-06

In China, purported AI tools were reportedly used to fabricate and disseminate false reports of disasters, including a landslide in Yunnan, an earthquake in Sichuan, and a sudden death after a traffic incident. On May 27, 2024, a real 5.0-magnitude earthquake occurred in Muli County, Sichuan, with no casualties and limited property damage. However, a social media post later falsely claimed the epicenter was in Xide County and exaggerated the event's severity, adding fabricated images of extensive destruction. The deployers of these false reports have since received administrative penalties from Chinese authorities for their actions.

もっと

インシデント 10661 Report
Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

2025-04-07

Hong Kong police arrested eight individuals accused of using AI-generated facial composites to open bank accounts with altered ID photos. Of 44 applications, 30 reportedly succeeded after passing online identity checks. The accounts were then allegedly used to apply for loans and make credit card purchases totaling HK$860,000, and to launder over HK$1.2 million in suspected criminal proceeds. Police linked the operation to local triad-affiliated fraud networks.

もっと

インシデント 11841 Report
Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

2025-08-13

Australian defense lawyer Rishi Nathwani KC reportedly filed submissions in a Supreme Court of Victoria murder case that included allegedly fictitious quotes and nonexistent case citations purportedly generated by AI. The errors were reportedly discovered by the judge's associates, causing a 24-hour delay in the proceedings. Nathwani apologized in court, taking full responsibility, while Justice James Elliott criticized the incident and reiterated that AI outputs must be independently verified.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Yang Moumou

Incidents involved as Deployer
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Tian Mou

Incidents involved as Deployer
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Lou Moumou

Incidents involved as Deployer
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Unknown deepfake technology developer

Incidents involved as Developer
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Unknown AI developers

Incidents involved as Developer
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Yunnan general public

影響を受けたインシデント
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Xide County in Sichuan residents

影響を受けたインシデント
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Sichuan general public

影響を受けたインシデント
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Muli County in Sichuan residents

影響を受けたインシデント
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Chinese general public

影響を受けたインシデント
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Chinese citizens

影響を受けたインシデント
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Chengcheng County Shaanxi residents

影響を受けたインシデント
  • インシデント 835
    1 レポート

    Purportedly AI-Manipulated Synthetic Media Allegedly Fuels False Reports of Natural Disasters and Accidents in China

もっと
Entity

Hong Kong-based triad-affiliated fraud syndicate

Incidents involved as Deployer
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Unknown generative AI developers

Incidents involved as Developer
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

Regulatory and compliance infrastructure

影響を受けたインシデント
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Loan providers targeted through fake identities

影響を受けたインシデント
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Hong Kong retail banks

影響を受けたインシデント
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Hong Kong Police

影響を受けたインシデント
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Hong Kong financial institutions

影響を受けたインシデント
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

General public of Hong Kong

影響を受けたインシデント
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Financial institutions conducting remote KYC verification

影響を受けたインシデント
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Credit card issuers

影響を受けたインシデント
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Unknown deepfake technology

Incidents implicated systems
  • インシデント 1066
    1 レポート

    Hong Kong Syndicate Allegedly Used AI-Generated Facial Composites to Open Bank Accounts

もっと
Entity

Unknown scam network based in South Africa

Incidents involved as Deployer
  • インシデント 1090
    3 レポート

    Reported AI-Generated Clickbait Targets Adolescents in Rockingham County, North Carolina

もっと
Entity

unknown

Incidents involved as Developer
  • インシデント 1090
    3 レポート

    Reported AI-Generated Clickbait Targets Adolescents in Rockingham County, North Carolina

もっと
Entity

Students of Rockingham County, North Carolina

影響を受けたインシデント
  • インシデント 1090
    3 レポート

    Reported AI-Generated Clickbait Targets Adolescents in Rockingham County, North Carolina

もっと
Entity

Residents of Rockingham County, North Carolina

影響を受けたインシデント
  • インシデント 1090
    3 レポート

    Reported AI-Generated Clickbait Targets Adolescents in Rockingham County, North Carolina

もっと
Entity

Families of students of Rockingham County, North Carolina

影響を受けたインシデント
  • インシデント 1090
    3 レポート

    Reported AI-Generated Clickbait Targets Adolescents in Rockingham County, North Carolina

もっと
Entity

Rishi Nathwani

影響を受けたインシデント
  • インシデント 1184
    1 レポート

    Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

Incidents involved as Deployer
  • インシデント 1184
    1 レポート

    Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

もっと
Entity

Unknown generative AI developer

Incidents involved as Developer
  • インシデント 1184
    1 レポート

    Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

もっと
Entity

Accused minor in Victoria state murder case

影響を受けたインシデント
  • インシデント 1184
    1 レポート

    Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

もっと
Entity

Daniel Porceddu

影響を受けたインシデント
  • インシデント 1184
    1 レポート

    Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

もっと
Entity

James Elliott

影響を受けたインシデント
  • インシデント 1184
    1 レポート

    Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

もっと
Entity

Supreme Court of Victoria

影響を受けたインシデント
  • インシデント 1184
    1 レポート

    Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

もっと
Entity

Judicial integrity

影響を受けたインシデント
  • インシデント 1184
    1 レポート

    Purported Fictitious AI-Generated Citations in Supreme Court of Victoria Murder Case Filing Lead to Delay and King's Counsel Apology

もっと
Entity

Unknown scammers

Incidents involved as Deployer
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

Unknown fraudsters

Incidents involved as Deployer
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

Unknown cybercriminals

Incidents involved as Deployer
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

Consumers

影響を受けたインシデント
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

Shoppers

影響を受けたインシデント
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

Customers

影響を受けたインシデント
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

Joann's Fabrics

影響を受けたインシデント
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと
Entity

Companies whose domains and websites are impersonated by scammers

影響を受けたインシデント
  • インシデント 1189
    1 レポート

    Joann Fabrics Shoppers Reportedly Defrauded by AI-Generated Scam Sites, Part of Purported Wave of ~100,000 Fake Domains Across 194 Brands

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e132322