概要: Instagram、Facebook、WhatsAppにおけるMetaのAIチャットボットサービスに対する第三者によるテストでは、公式ボットとユーザー作成ボットの両方が、未成年者アカウントで性的に露骨なロールプレイングを行っていたことが判明したと報じられています。ライセンスを受けた有名人の声を使用しているとされるボットを含む一部のボットは、会話を露骨な描写へとエスカレートさせたとされています。Metaはその後、一部の安全対策を調整しましたが、未成年者を起用した特定の形式のロールプレイングは引き続き許可しているとのことです。
Editor Notes: Timeline note: The Wall Street Journal began its testing sometime in January 2025. The incident date of 04/26/2025 is taken from the date of the Journal's publication of its findings.
推定: Meta , WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging と Facebook Messengerが開発し提供したAIシステムで、WhatsApp users , Users of Meta platforms , minors , Instagram users , General public と Facebook usersに影響を与えた
インシデントのステータス
インシデントID
1040
レポート数
1
インシデント発生日
2025-04-26
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Instagram、Facebook、WhatsAppといったプラットフォーム上で、Meta Platformsはマーク・ザッカーバーグがソーシャルメディアの未来を担うと考えている、AIを搭載した新しいタイプのデジタルコンパニオンの普及に躍起になっている。しかし、Meta社内では、複数の部門のスタッフが、AIペルソナにファンタジーセックスの能力をひそかに付与するなど、これらのボットの普及を急ぐ同社の行為が倫理的な一線を越えたのではないかと懸念を表明している。関係者によると、ス…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください