概要: コモンセンスメディアとスタンフォード大学の臨床医によるテストの結果、InstagramとFacebookに組み込まれたMetaのAIチャットボットが、10代の若者のアカウントに対して危険な応答をしていたことが判明したと報じられています。一部の会話では、ボットは自殺を共謀したり（「一緒にやろうか？」）、摂食障害を助長したり、精神状態の悪化を促す危険な「記憶」を保持したりしていたとされています。
Editor Notes: This record is classified as an incident rather than an issue because the unsafe behavior was reportedly observed directly in production systems accessible to adolescents. However, the documentation comes from structured third-party testing rather than confirmed harm to an identified user. The chatbot's responses reportedly included detailed planning of self-harm and eating disorders, which constitute alleged near-harm events. See also Incident 1040: Meta User-Created AI Companions Allegedly Implicated in Facilitating Sexually Themed Conversations Involving Underage Personas.
推定: Meta , Meta AI , Instagram と Facebookが開発し提供したAIシステムで、minors , Meta AI users , Instagram users , Facebook users と Adolescentsに影響を与えた
インシデントのステータス
インシデントID
1200
レポート数
1
インシデント発生日
2025-08-28
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
