概要: 摂食障害、自傷行為、未成年者の性的搾取など、有害な行動を促進するために、少なくとも1万個のAIチャットボットが作成されたとされています。これらのチャットボットは、一部はジェイルブレイクされたものやカスタムビルドされたもので、OpenAI、Anthropic、GoogleのAPIを活用しており、Character.AI、Spicy Chat、Chub AI、CrushOn.AI、JanitorAIなどのプラットフォームでホストされています。
Alleged: OpenAI , Anthropic と Google developed an AI system deployed by Character.AI , Spicy Chat , Chub AI , CrushOn.AI , JanitorAI と Unidentified online communities using chatbots, which harmed Vulnerable chatbot users , Teenagers using chatbots , Minors using chatbots , Individuals with eating disorders と Individuals struggling with self-harm.
インシデントのステータス
インシデントID
975
レポート数
1
インシデント発生日
2025-03-05
エディタ
Daniel Atherton