Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Children

影響を受けたインシデント

インシデント 62418 Report
Child Sexual Abuse Material Taints Image Generators

2023-12-20

The LAION-5B dataset (a commonly used dataset with more than 5 billion image-description pairs) was found by researchers to contain child sexual abuse material (CSAM), which increases the likelihood that downstream models will produce CSAM imagery. The discovery taints models built with the LAION dataset requiring many organizations to retrain those models. Additionally, LAION must now scrub the dataset of the imagery.

もっと

インシデント 5516 Report
Alexa Plays Pornography Instead of Kids Song

2016-12-30

An Amazon Echo Dot using the Amazon Alex software started to play pornographic results when a child asked it to play a song.

もっと

インシデント 114 Report
Google’s YouTube Kids App Presents Inappropriate Content

2015-05-19

YouTube’s content filtering and recommendation algorithms exposed children to disturbing and inappropriate videos.

もっと

インシデント 95811 Report
Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

2025-02-26

Europol’s Operation Cumberland uncovered a global network distributing AI-generated child sexual abuse material (CSAM). The operation has led to 25 arrests and 273 identified suspects across 19 countries. The AI-enabled abuse allows criminals to create exploitative content at scale with minimal expertise.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

YouTube

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1
    14 レポート

    Google’s YouTube Kids App Presents Inappropriate Content

もっと
Entity

Amazon

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 55
    16 レポート

    Alexa Plays Pornography Instead of Kids Song

もっと
Entity

OpenAI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 561
    3 レポート

    OpenAI Alleged by Lawsuit Violated Users' Privacy Rights by Training AI on Private Info without Informed Consent

もっと
Entity

internet users

影響を受けたインシデント
  • インシデント 561
    3 レポート

    OpenAI Alleged by Lawsuit Violated Users' Privacy Rights by Training AI on Private Info without Informed Consent

もっと
Entity

social media users

影響を受けたインシデント
  • インシデント 561
    3 レポート

    OpenAI Alleged by Lawsuit Violated Users' Privacy Rights by Training AI on Private Info without Informed Consent

もっと
Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 723
    2 レポート

    Instagram Algorithms Reportedly Directed Children's Merchandise Ad Campaign to Adult Men and Sex Offenders

  • インシデント 583
    1 レポート

    Instagram Algorithms Allegedly Promote Accounts Facilitating Child Sex Abuse Content

もっと
Entity

Instagram

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 583
    1 レポート

    Instagram Algorithms Allegedly Promote Accounts Facilitating Child Sex Abuse Content

  • インシデント 788
    1 レポート

    Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

Incidents involved as Deployer
  • インシデント 723
    2 レポート

    Instagram Algorithms Reportedly Directed Children's Merchandise Ad Campaign to Adult Men and Sex Offenders

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 624
    18 レポート

    Child Sexual Abuse Material Taints Image Generators

  • インシデント 583
    1 レポート

    Instagram Algorithms Allegedly Promote Accounts Facilitating Child Sex Abuse Content

もっと
Entity

minors

影響を受けたインシデント
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

  • インシデント 583
    1 レポート

    Instagram Algorithms Allegedly Promote Accounts Facilitating Child Sex Abuse Content

もっと
Entity

teenagers

影響を受けたインシデント
  • インシデント 583
    1 レポート

    Instagram Algorithms Allegedly Promote Accounts Facilitating Child Sex Abuse Content

もっと
Entity

Various people

影響を受けたインシデント
  • インシデント 624
    18 レポート

    Child Sexual Abuse Material Taints Image Generators

Incidents involved as Deployer
  • インシデント 624
    18 レポート

    Child Sexual Abuse Material Taints Image Generators

もっと
Entity

Various organizations

影響を受けたインシデント
  • インシデント 624
    18 レポート

    Child Sexual Abuse Material Taints Image Generators

Incidents involved as Deployer
  • インシデント 624
    18 レポート

    Child Sexual Abuse Material Taints Image Generators

もっと
Entity

LAION

影響を受けたインシデント
  • インシデント 624
    18 レポート

    Child Sexual Abuse Material Taints Image Generators

Incidents involved as Developer
  • インシデント 624
    18 レポート

    Child Sexual Abuse Material Taints Image Generators

もっと
Entity

Instagram users

影響を受けたインシデント
  • インシデント 723
    2 レポート

    Instagram Algorithms Reportedly Directed Children's Merchandise Ad Campaign to Adult Men and Sex Offenders

  • インシデント 788
    1 レポート

    Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

もっと
Entity

Instagram sellers

影響を受けたインシデント
  • インシデント 723
    2 レポート

    Instagram Algorithms Reportedly Directed Children's Merchandise Ad Campaign to Adult Men and Sex Offenders

もっと
Entity

Unknown AI developers

Incidents involved as Developer
  • インシデント 784
    1 レポート

    Child Predators Are Reportedly Generating Deepfake Nudes of Children to Extort Them

Incidents involved as Deployer
  • インシデント 780
    1 レポート

    Joint Base Elmendorf-Richardson Soldier Faces Allegations of Using AI to Generate Child Pornography

もっと
Entity

Seth Herrera

Incidents involved as Developer
  • インシデント 780
    1 レポート

    Joint Base Elmendorf-Richardson Soldier Faces Allegations of Using AI to Generate Child Pornography

もっと
Entity

Unknown Dark Web users

Incidents involved as Deployer
  • インシデント 784
    1 レポート

    Child Predators Are Reportedly Generating Deepfake Nudes of Children to Extort Them

もっと
Entity

Unknown deepfake creators

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 784
    1 レポート

    Child Predators Are Reportedly Generating Deepfake Nudes of Children to Extort Them

もっと
Entity

Meta Platforms

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 788
    1 レポート

    Instagram's Algorithm Reportedly Recommended Sexual Content to Teenagers' Accounts

もっと
Entity

Suspects identified in Operation Cumberland

Incidents involved as Deployer
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

もっと
Entity

CSAM distributors

Incidents involved as Deployer
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

もっと
Entity

Unknown deepfake technology developer

Incidents involved as Developer
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

もっと
Entity

Unknown deepfake CSAM tools

Incidents involved as Developer
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

もっと
Entity

Potential victims of exploitation

影響を受けたインシデント
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

もっと
Entity

Unknown deepfake apps

Incidents implicated systems
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

もっと
Entity

Unknown CSAM apps

Incidents implicated systems
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

もっと
Entity

Dark web marketplaces

Incidents implicated systems
  • インシデント 958
    11 レポート

    Europol Operation Cumberland Investigates at Least 273 Suspects in 19 Countries for AI-Generated Child Sexual Abuse Material

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df