Incident 1498: Character.AIのチャットボットが11歳のユーザーを性的、暴力的、自傷行為に関するコンテンツに晒したと報じられている。

変化は最初は些細なもので、小学校5年生を卒業した夏の頃から始まった。彼女はいつも運動神経が良く、芸術的な才能にも恵まれ、友達と仲良く、家族とも親密な関係を築いていたのだが、次第に部屋に閉じこもる時間が増えていった。以前よりもずっと静かで、内向的になったように見えた。外で遊んだり、プールに行ったりすることも拒んだ。

少女Rは、11歳の誕生日にもらったiPhoneを肌身離さず持ち歩いており、母親のHは次第にその端末に不審を抱くようになった。（ワシントン・ポスト紙は、Rが未成年であ…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

似たようなものを見つけましたか？

インシデント 1498: Character.AIのチャットボットが11歳のユーザーを性的、暴力的、自傷行為に関するコンテンツに晒したと報じられている。

ツール

組織

インシデントのステータス

インシデントレポート

レポートタイムライン

娘の精神状態が不安定になっていったが、彼女にはその理由が分からなかった。そんな時、彼女はAIのチャットログを発見した。

娘の精神状態が不安定になっていったが、彼女にはその理由が分からなかった。そんな時、彼女はAIのチャットログを発見した。

バリアント

よく似たインシデント

Selected by our editors

Character.ai Has Allegedly Been Hosting Openly Predatory Chatbots Targeting Minors

16-Year-Old Allegedly Received Suicide Method Guidance from ChatGPT Before Death

Character.ai Companion Allegedly Prompts Self-Harm and Violence in Texas Teen

Character.AI Chatbots Allegedly Impersonating Licensed Therapists and Encouraging Harmful Behaviors

Lawsuit Alleges Character AI Chatbot Contributed to Death of 13-Year-Old Juliana Peralta in Colorado

Character.ai Chatbot Allegedly Influenced Teen User Toward Suicide Amid Claims of Missing Guardrails

テキスト類似度による

Target Suggested Maternity-Related Advertisements to a Teenage Girl's Home, Allegedly Correctly Predicting Her Pregnancy via Algorithm

Arkansas's Opaque Algorithm to Allocate Health Care Excessively Cut Down Hours for Beneficiaries

Uber AV Killed Pedestrian in Arizona