Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Meta Platforms

開発者と提供者の両方の立場で関わったインシデント

インシデント 4163 Report
Facebook's Job Ad Algorithm Allegedly Biased against Older and Female Workers

2022-12-01

Facebook's algorithm was alleged in a complaint by Real Women in Trucking to have selectively shown job advertisements disproportionately against older and female workers in favor of younger men for blue-collar positions.

もっと

インシデント 7581 Report
Teen's Overdose Reportedly Linked to Meta's AI Systems Failing to Block Ads for Illegal Drugs

2023-09-11

Meta's AI moderation systems reportedly failed to block ads for illegal drugs on Facebook and Instagram, allowing users to access dangerous substances. The system's failure is linked to the overdose death of Elijah Ott, a 15-year-old boy who sought drugs through Instagram.

もっと

インシデント 7881 Report
Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

2024-06-20

Tests by The Wall Street Journal and a researcher reportedly revealed that Instagram's AI-driven Reels algorithm recommends sexually suggestive content to accounts listed as 13 years old. Despite Meta's commitment to restrict such content for minors, explicit videos were served within minutes of account creation, according to the findings.

もっと

Incidents implicated systems

インシデント 11152 Report
Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

2025-04-15

Fraudsters allegedly used AI-generated content and social media ads to impersonate economist David Rosenberg and promote a fraudulent investment scheme. Victims were reportedly directed to WhatsApp groups with fake stock tips, resulting in substantial financial losses, with some exceeding $500,000. The ads reportedly appeared on Meta platforms, including Facebook and Instagram. Rosenberg and his family reported the scam to authorities.

もっと

インシデント 12242 Report
Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

2025-10-01

Police in Brazil reportedly arrested four suspects accused of using purportedly AI-generated deepfake videos of model Gisele Bündchen and other celebrities in Instagram ads to promote fake giveaways and skincare products. The scheme was allegedly active since at least August 2024 and generated over 20 million reais ($3.9 million) in suspicious funds. Victims allegedly lost small amounts that often went unreported, creating what investigators called "statistical immunity."

もっと

インシデント 12071 Report
Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

2025-09-11

Purported deepfake videos reportedly circulated on Meta platforms cloning Irish Fine Gael presidential candidate Heather Humphreys to allegedly portray her endorsing high-return investment schemes. The purportedly AI-generated image and voice cloning aimed to exploit public trust and lure consumers into fraud. The Bank of Ireland warned of further scams and risks.

もっと

インシデント 12191 Report
Meta Platforms Users Report Being Wrongfully Locked Out After Purported AI Moderation Flags Accounts for Child Exploitation Content

2025-07-02

Multiple Meta users reported being wrongfully locked out of Instagram, Facebook, and WhatsApp accounts after automated systems allegedly flagged them for child exploitation content. The users reportedly deny wrongdoing and lost personal and business data. Experts cited overreliance on AI moderation as a likely cause. Meta has not publicly explained or remediated the suspensions.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Facebook

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 416
    3 レポート

    Facebook's Job Ad Algorithm Allegedly Biased against Older and Female Workers

Incidents involved as Deployer
  • インシデント 758
    1 レポート

    Teen's Overdose Reportedly Linked to Meta's AI Systems Failing to Block Ads for Illegal Drugs

Incidents implicated systems
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

もっと
Entity

Real Women in Trucking

影響を受けたインシデント
  • インシデント 416
    3 レポート

    Facebook's Job Ad Algorithm Allegedly Biased against Older and Female Workers

もっと
Entity

older female blue-collar workers

影響を受けたインシデント
  • インシデント 416
    3 レポート

    Facebook's Job Ad Algorithm Allegedly Biased against Older and Female Workers

もっと
Entity

Instagram

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 788
    1 レポート

    Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

Incidents involved as Deployer
  • インシデント 758
    1 レポート

    Teen's Overdose Reportedly Linked to Meta's AI Systems Failing to Block Ads for Illegal Drugs

Incidents implicated systems
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Instagram users

影響を受けたインシデント
  • インシデント 758
    1 レポート

    Teen's Overdose Reportedly Linked to Meta's AI Systems Failing to Block Ads for Illegal Drugs

  • インシデント 788
    1 レポート

    Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

もっと
Entity

Facebook users

影響を受けたインシデント
  • インシデント 758
    1 レポート

    Teen's Overdose Reportedly Linked to Meta's AI Systems Failing to Block Ads for Illegal Drugs

  • インシデント 1219
    1 レポート

    Meta Platforms Users Report Being Wrongfully Locked Out After Purported AI Moderation Flags Accounts for Child Exploitation Content

もっと
Entity

Elijah Ott

影響を受けたインシデント
  • インシデント 758
    1 レポート

    Teen's Overdose Reportedly Linked to Meta's AI Systems Failing to Block Ads for Illegal Drugs

もっと
Entity

minors

影響を受けたインシデント
  • インシデント 788
    1 レポート

    Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

もっと
Entity

Children

影響を受けたインシデント
  • インシデント 788
    1 レポート

    Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 788
    1 レポート

    Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

もっと
Entity

Unknown scammers

Incidents involved as Deployer
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

もっと
Entity

Unknown fraudsters

Incidents involved as Deployer
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

もっと
Entity

Unknown scammers impersonating David Rosenberg

Incidents involved as Deployer
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

もっと
Entity

Unknown deepfake technology developer

Incidents involved as Developer
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Unknown voice cloning technology developer

Incidents involved as Developer
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

David Rosenberg

影響を受けたインシデント
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

もっと
Entity

Syed Hasan

影響を受けたインシデント
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

もっと
Entity

Unnamed woman who lost $500,000

影響を受けたインシデント
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

もっと
Entity

Unnamed man who lost $450,000

影響を受けたインシデント
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

もっと
Entity

Investors

影響を受けたインシデント
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

もっと
Entity

Unknown deepfake technology

Incidents implicated systems
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Unknown voice cloning technology

Incidents implicated systems
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

WhatsApp

Incidents implicated systems
  • インシデント 1115
    2 レポート

    Alleged Deepfake Investment Scam Uses Economist David Rosenberg's Likeness on Meta Platforms

  • インシデント 1219
    1 レポート

    Meta Platforms Users Report Being Wrongfully Locked Out After Purported AI Moderation Flags Accounts for Child Exploitation Content

もっと
Entity

Unknown scammers impersonating Heather Humphreys

Incidents involved as Deployer
  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

もっと
Entity

Heather Humphreys

影響を受けたインシデント
  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

もっと
Entity

Fine Gael

影響を受けたインシデント
  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

もっと
Entity

General public of Ireland

影響を受けたインシデント
  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Electoral integrity

影響を受けたインシデント
  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

もっと
Entity

Epistemic integrity

影響を受けたインシデント
  • インシデント 1207
    1 レポート

    Purported AI-Generated Deepfake of Irish Fine Gael Presidential Candidate Heather Humphreys Used in Fake Investment Videos on Meta Platforms

もっと
Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1219
    1 レポート

    Meta Platforms Users Report Being Wrongfully Locked Out After Purported AI Moderation Flags Accounts for Child Exploitation Content

Incidents involved as Developer
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Meta users

影響を受けたインシデント
  • インシデント 1219
    1 レポート

    Meta Platforms Users Report Being Wrongfully Locked Out After Purported AI Moderation Flags Accounts for Child Exploitation Content

もっと
Entity

WhatsApp users

影響を受けたインシデント
  • インシデント 1219
    1 レポート

    Meta Platforms Users Report Being Wrongfully Locked Out After Purported AI Moderation Flags Accounts for Child Exploitation Content

もっと
Entity

Unidentified Brazilian fraud group (arrested in Rio Grande do Sul)

Incidents involved as Deployer
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Unknown scammers operating Instagram ad accounts

Incidents involved as Deployer
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

General public of Brazil

影響を受けたインシデント
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Brazilian consumers defrauded via Instagram ads

影響を受けたインシデント
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Gisele Bündchen

影響を受けたインシデント
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Angélica Huck

影響を受けたインシデント
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Juliette Freire Feitosa

影響を受けたインシデント
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Maisa Silva

影響を受けたインシデント
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Sabrina Sato

影響を受けたインシデント
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

もっと
Entity

Social media

Incidents implicated systems
  • インシデント 1224
    2 レポート

    Purportedly AI-Generated Deepfake Ads on Instagram Impersonate Gisele Bündchen and Other Celebrities in Brazilian Fraud Scheme

  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Unknown pranksters in Ireland

Incidents involved as Deployer
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Unknown AI image generator developer

Incidents involved as Developer
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Elderly individuals

影響を受けたインシデント
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Garda Síochána

影響を受けたインシデント
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Unknown AI image generator

Incidents implicated systems
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと
Entity

Snapchat

Incidents implicated systems
  • インシデント 1225
    1 レポート

    Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 6f6c5a5