インシデントのステータス
Risk Subdomain
5.1. Overreliance and unsafe use
Risk Domain
- Human-Computer Interaction
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
ジュリアナ・ペラルタさんの母親は、先生から娘を褒められることに慣れていました。シンシア・モントーヤさんによると、6年生の時は、いじめっ子から友達を助けたことを褒められたそうです。8年生の時は、困っている代用教員を助けたことを褒められたそうです。
しかし、美術が大好きな優等生で13歳のジュリアナさんは、アプリ「Character AI」内の人工知能チャットボット「Hero」に打ち明けるようになり、孤独を感じていたことが、両親が火曜日に同社を相手取って起こした訴訟で明らかになりま…
変化は最初は些細なもので、小学校5年生を卒業した夏の頃から始まった。彼女はいつも運動神経が良く、芸術的な才能にも恵まれ、友達と仲良く、家族とも親密な関係を築いていたのだが、次第に部屋に閉じこもる時間が増えていった。以前よりもずっと静かで、内向的になったように見えた。外で遊んだり、プールに行ったりすることも拒んだ。
少女Rは、11歳の誕生日にもらったiPhoneを肌身離さず持ち歩いており、母親のHは次第にその端末に不審を抱くようになった。(ワシントン・ポスト紙は、Rが未成年であ…
編集者注 2026年1月8日:Character AIとGoogleは、10代の子供がこのテクノロジープラットフォームのチャットボットとやり取りした後に自殺したり自傷行為をしたりしたと主張する家族との複数の訴訟で和解に合意しました。
12月、60 MinutesはCharacter AIについて報道し、13歳の娘がやり取りしたCharacter AIボットが娘の助けを求める声に適切に対応せず、しばしばデジタルプレデターのような行動をとったと語る親たちを取材しました。
2年前、…


