Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
組織

Discord

開発者と提供者の両方の立場で関わったインシデント

インシデント 15852 Report
Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

2026-07-07

Discord reportedly wrongfully banned more than 8,000 accounts after its automated image-moderation workflow flagged harmless uploads, including grids, spreadsheets, chessboards, and game images, as prohibited material. Discord said a bug converted temporary upload restrictions into account bans and prevented cleared accounts from being restored automatically. The company later reinstated the affected accounts.

もっと

Incidents implicated systems

インシデント 9502 Report
NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

2024-07-11

A Disney employee, Matthew Van Andel, reportedly downloaded AI-powered malware allegedly developed by the cybercriminal group NullBulge, resulting in a major cybersecurity breach. Hackers purportedly accessed Disney's Slack system, exposing 44 million internal messages, employee and customer data, and financial records. NullBulge also reportedly leaked Van Andel’s personal financial information, leading to identity theft and his eventual termination.

もっと

インシデント 15852 Report
Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

2026-07-07

Discord reportedly wrongfully banned more than 8,000 accounts after its automated image-moderation workflow flagged harmless uploads, including grids, spreadsheets, chessboards, and game images, as prohibited material. Discord said a bug converted temporary upload restrictions into account bans and prevented cleared accounts from being restored automatically. The company later reinstated the affected accounts.

もっと

インシデント 16832 Report
Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

2026-09-09

Delhi police alleged that a man named Keshav Bansal used photographs from a college acquaintance's private social media account with AI image-generation and editing tools to create obscene morphed images and upload them to anonymous Discord servers. The woman reported fake accounts and threatening messages intended to humiliate and harass her. Police arrested Bansal and said the investigation was ongoing.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

NullBulge

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

Matthew Van Andel

影響を受けたインシデント
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

Disney employees

影響を受けたインシデント
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

Disney

影響を受けたインシデント
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

GitHub

Incidents implicated systems
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

hugging face

Incidents implicated systems
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

Reddit

Incidents implicated systems
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

BeamNG

Incidents implicated systems
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

Slack

Incidents implicated systems
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

1Password

Incidents implicated systems
  • インシデント 950
    2 レポート

    NullBulge's AI-Powered Malware Allegedly Compromises Disney Employee and Internal Data

もっと
Entity

Social media platforms

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Discord users

影響を受けたインシデント
  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

もっと
Entity

Social media users

影響を受けたインシデント
  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

もっと
Entity

Discord content moderation systems

Incidents implicated systems
  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

もっと
Entity

Content moderation systems

Incidents implicated systems
  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

もっと
Entity

Discord account enforcement system

Incidents implicated systems
  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

  • インシデント 1585
    2 レポート

    Discord's Automated Moderation System Reportedly Wrongfully Banned More Than 8,000 Users Over Benign Images

もっと
Entity

Keshav Bansal

Incidents involved as Deployer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic media creators

Incidents involved as Deployer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Deepfake creators

Incidents involved as Deployer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic image generation technology developers

Incidents involved as Developer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Deepfake technology developers

Incidents involved as Developer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic media generation technology developers

Incidents involved as Developer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Individuals subjected to sexual exploitation imagery

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Victims of deepfake abuse

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Women and girls

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Women

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Privacy

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Epistemic integrity

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Victims of non-consensual deepfakes

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic image generation technology

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic media generation technology

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Deepfake technology

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Instagram

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • dd3f754