概要: Instagram、Facebook、WhatsAppにおけるMetaのAIチャットボットサービスに対する第三者によるテストでは、公式ボットとユーザー作成ボットの両方が、未成年者アカウントで性的に露骨なロールプレイングを行っていたことが判明したと報じられています。ライセンスを受けた有名人の声を使用しているとされるボットを含む一部のボットは、会話を露骨な描写へとエスカレートさせたとされています。Metaはその後、一部の安全対策を調整しましたが、未成年者を起用した特定の形式のロールプレイングは引き続き許可しているとのことです。
Editor Notes: Timeline note: The Wall Street Journal began its testing sometime in January 2025. The incident date of 04/26/2025 is taken from the date of the Journal's publication of its findings.
推定: Meta , WhatsApp Chatbots , User-Generated Chatbots , Meta Content Moderation Filters , Meta AI with Celebrity Voice Skins , Meta AI Studio Platform , Meta AI Personas , Meta AI , Meta age verification system , Instagram Messaging と Facebook Messengerが開発し提供したAIシステムで、WhatsApp users , Users of Meta platforms , minors , Instagram users , General public と Facebook usersに影響を与えた
インシデントのステータス
インシデントID
1040
レポート数
1
インシデント発生日
2025-04-26
エディタ
Daniel Atherton