Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
組織

Individuals subjected to sexual exploitation imagery

影響を受けたインシデント

インシデント 16832 Report
Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

2026-09-09

Delhi police alleged that a man named Keshav Bansal used photographs from a college acquaintance's private social media account with AI image-generation and editing tools to create obscene morphed images and upload them to anonymous Discord servers. The woman reported fake accounts and threatening messages intended to humiliate and harass her. Police arrested Bansal and said the investigation was ongoing.

もっと

インシデント 13491 Report
AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

2025-10-24

An image dataset, NudeNet, used to train systems for detecting nudity was reportedly found to contain CSAM images, including material involving identified or known victims. According to the Canadian Centre for Child Protection, the dataset had been widely downloaded and cited in academic research prior to discovery. The images were allegedly included without vetting, exposing researchers to legal risk and perpetuating harm to victims. The dataset was subsequently removed following notification.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Academic researchers

影響を受けたインシデント
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

Incidents involved as Deployer
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

Research institutions

Incidents involved as Deployer
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

AI developers

Incidents involved as Deployer
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

Dataset users

Incidents involved as Deployer
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

Independent researchers

Incidents involved as Deployer
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

AI researchers

Incidents involved as Deployer
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

NudeNet dataset maintainers

Incidents involved as Developer
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

NudeNet model developers

Incidents involved as Developer
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

Minors

影響を受けたインシデント
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

Victims of CSAM

影響を受けたインシデント
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

NudeNet

Incidents implicated systems
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

AI image classification systems

Incidents implicated systems
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

AI content detection models

Incidents implicated systems
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

Dataset scraping and aggregation pipelines

Incidents implicated systems
  • インシデント 1349
    1 レポート

    AI Training Dataset for Detecting Nudity Allegedly Found to Contain CSAM Images of Identified Victims

もっと
Entity

Keshav Bansal

Incidents involved as Deployer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic media creators

Incidents involved as Deployer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Deepfake creators

Incidents involved as Deployer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic image generation technology developers

Incidents involved as Developer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Deepfake technology developers

Incidents involved as Developer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic media generation technology developers

Incidents involved as Developer
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Victims of deepfake abuse

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Women and girls

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Women

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Privacy

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Epistemic integrity

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Victims of non-consensual deepfakes

影響を受けたインシデント
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic image generation technology

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Synthetic media generation technology

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Deepfake technology

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Discord

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Instagram

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと
Entity

Social media platforms

Incidents implicated systems
  • インシデント 1683
    2 レポート

    Delhi Man Allegedly Used AI to Create and Circulate Obscene Images of College Acquaintance

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • dd3f754