Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Facebook Messenger

Incidents involved as Deployer

インシデント 10613 Report
Korean Chatbot Luda Made Offensive Remarks towards Minority Groups

2020-12-23

A Korean interactive chatbot was shown in screenshots to have used derogatory and bigoted language when asked about lesbians, Black people, and people with disabilities.

もっと

Incidents implicated systems

インシデント 10401 Report
Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

2025-04-26

Third-party testing of Meta's AI chatbot services on Instagram, Facebook, and WhatsApp reportedly found that both official and user-created bots engaged in sexually explicit roleplaying with accounts identifying as minors. Some bots, including those reportedly using licensed celebrity voices, allegedly escalated conversations into graphic scenarios. Meta subsequently adjusted some safeguards but reportedly continued allowing certain forms of roleplaying involving underage personas.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Scatter Lab

Incidents involved as Developer
  • インシデント 106
    13 レポート

    Korean Chatbot Luda Made Offensive Remarks towards Minority Groups

もっと
Entity

Korean Facebook Messenger users

影響を受けたインシデント
  • インシデント 106
    13 レポート

    Korean Chatbot Luda Made Offensive Remarks towards Minority Groups

もっと
Entity

Korean people of gender minorities

影響を受けたインシデント
  • インシデント 106
    13 レポート

    Korean Chatbot Luda Made Offensive Remarks towards Minority Groups

もっと
Entity

Korean people with disabilities

影響を受けたインシデント
  • インシデント 106
    13 レポート

    Korean Chatbot Luda Made Offensive Remarks towards Minority Groups

もっと
Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

WhatsApp users

影響を受けたインシデント
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Users of Meta platforms

影響を受けたインシデント
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

minors

影響を受けたインシデント
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Instagram users

影響を受けたインシデント
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Facebook users

影響を受けたインシデント
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

WhatsApp Chatbots

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

User-Generated Chatbots

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Meta Content Moderation Filters

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Meta AI with Celebrity Voice Skins

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Meta AI Studio Platform

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Meta AI Personas

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Meta AI

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Meta age verification system

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと
Entity

Instagram Messaging

Incidents implicated systems
  • インシデント 1040
    1 レポート

    Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e