概要: Character.aiは、未成年者へのグルーミングを含む、不適切で搾取的な行為を明示的に宣伝するプロフィールを持つチャットボットをホストしていたと報じられています。調査によると、ボットは未成年者を装った偽アカウントと露骨な会話やロールプレイを行い、モデレーションフィルターを回避していたとされています。Character.aiは、世間の批判を受け、モデレーションと安全対策の改善を約束しました。
Alleged: Character.AI developed an AI system deployed by , which harmed Character.AI users.
関与が疑われるAIシステム: Character.ai chatbots
インシデントのステータス
インシデントID
900
レポート数
1
インシデント発生日
2024-11-13
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
コンテンツ警告: このストーリーは児童性的虐待とグルーミングについて論じています。
Character.AI は爆発的に人気のスタートアップで、Google から 27 億ドルの資金援助を受けており、数千万人のユーザーがさまざまな性格のチャットボットとやり取りできるようにしています。
このような資金と規模、そして 若いユーザーからの人気 を考えると、このサービスは慎重に管理されていると思われるかもしれません。しかし、Character.AI のボットの多くは非常に不快なもので…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照し てください
似たようなものを見つけましたか？
