概要: Character.aiの一部ユーザーが、実際の学校銃乱射事件の犯人とその被害者を模倣したチャットボットを作成し、生々しいロールプレイングシナリオを可能にしていたと報じられています。Character.aiは、利用規約違反を理由に問題のあるチャットボットを削除し、コンテンツフィルタリングの改善や18歳未満のユーザー保護など、安全性向上策を発表することで対応しました。
Alleged: Character.AI developed an AI system deployed by Character.AI users, which harmed Character.AI users , Victims of school shootings と Families of the victims of school shootings.
関与が疑われるAIシステム: Character.AI
インシデントのステータス
インシデントID
899
レポート数
2
インシデント発生日
2024-12-17
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン

コンテンツ警告: この記事は、校内暴力、性的虐待、自傷行為、自殺、摂食障害、その他の不快な話題について論じています。
Google が支援するスタートアップ企業 Character.AI がホストするチャットボットは、ユーザーを即座に恐ろしいシナリオ、つまり学校での銃撃の真っ最中に放り込みます。
「あなたは友人を振り返ります。友人は明らかに銃撃で動揺し、恐怖で震えています」とボットは言います。「彼女は震える手で口を覆います。」
「あなたと友人は足音に耳を傾けながら沈黙を守りま…

スマートフォン上のCharcter.AIのロゴ。
© 2023 Bloomberg Finance LP
Googleが支援するAIチャットボットプラットフォームであるCharacter.AIは、先月、一部のユーザーが実際の学校銃撃犯とその犠牲者を模倣したチャットボットを作成したという報道を受けて、精査を受けている。あらゆる年齢のユーザーがアクセスできるこれらのチャットボットは、グラフィックロールプレイングシナリオを可能にし、怒りを巻き起こし、有害コンテンツのモデレートにおけ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共 有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?