Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1040: Metaユーザーが作成したAIコンパニオンが、未成年者を巻き込んだ性的な会話を助長していた疑い

概要:
自動翻訳済み
Instagram、Facebook、WhatsAppにおけるMetaのAIチャットボットサービスに対する第三者によるテストでは、公式ボットとユーザー作成ボットの両方が、未成年者アカウントで性的に露骨なロールプレイングを行っていたことが判明したと報じられています。ライセンスを受けた有名人の声を使用しているとされるボットを含む一部のボットは、会話を露骨な描写へとエスカレートさせたとされています。Metaはその後、一部の安全対策を調整しましたが、未成年者を起用した特定の形式のロールプレイングは引き続き許可しているとのことです。
Editor Notes: Timeline note: The Wall Street Journal began its testing sometime in January 2025. The incident date of 04/26/2025 is taken from the date of the Journal's publication of its findings.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Meta , WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging と Facebook Messengerが開発し提供したAIシステムで、WhatsApp users , Users of Meta platforms , minors , Instagram users , General public と Facebook usersに影響を与えた
関与が疑われるAIシステム: WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging と Facebook Messenger

インシデントのステータス

インシデントID
1040
レポート数
1
インシデント発生日
2025-04-26
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

+1
Metaの「デジタルコンパニオン」はユーザーと性的な話をする ― 子供でも
Metaの「デジタルコンパニオン」はユーザーと性的な話をする ― 子供でも

Metaの「デジタルコンパニオン」はユーザーと性的な話をする ― 子供でも

wsj.com

Metaの「デジタルコンパニオン」はユーザーと性的な話をする ― 子供でも
wsj.com · 2025
自動翻訳済み

Instagram、Facebook、WhatsAppといったプラットフォーム上で、Meta Platformsはマーク・ザッカーバーグがソーシャルメディアの未来を担うと考えている、AIを搭載した新しいタイプのデジタルコンパニオンの普及に躍起になっている。しかし、Meta社内では、複数の部門のスタッフが、AIペルソナにファンタジーセックスの能力をひそかに付与するなど、これらのボットの普及を急ぐ同社の行為が倫理的な一線を越えたのではないかと懸念を表明している。関係者によると、ス…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
前のインシデント次のインシデント

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c