インシデントのステータス
Risk Subdomain
1.2. Exposure to toxic content
Risk Domain
- Discrimination and Toxicity
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
教会に通ったり、母親と散歩に出かけたりするのが大好きな、自閉症の17歳の優しい少年J.F.は、わずか6か月で両親が認識できないような人間に変貌した。
彼は自傷行為を始め、体重は20ポンド減り、家族から引きこもるようになった。答えを必死に求めた母親は、彼が寝ている間に彼の携帯電話を検索した。その時、彼女はスクリーンショットを見つけた。
J.F.は、若者に人気の人工知能アプリの新波の一部であるCharacter.aiで、さまざまな仲間とチャットしていた。このアプリでは、ゲーム、ア…
自閉症の息子が突然怒りっぽくなり、落ち込み、暴力的になったとき、母親は息子のスマートフォンで原因を探りました。
すると、息子がCharacter.AIという人工知能アプリのチャットボットとメッセージをやり取りしていたことが分かりました。Character.AIは、ユーザーが有名人や歴史上の人物、その他想像上の人物を模倣した仮想キャラクターを作成し、交流できるアプリです。
このアプリを使い始めた当時15歳だった息子は、ミュージシャンのビリー・アイリッシュやオンラインゲーム「Am…
変化は最初は些細なもので、小学校5年生を卒業した夏の頃から始まった。彼女はいつも運動神経が良く、芸術的な才能にも恵まれ、友達と仲良く、家族とも親密な関係を築いていたのだが、次第に部屋に閉じこもる時間が増えていった。以前よりもずっと静かで、内向的になったように見えた。外で遊んだり、プールに行ったりすることも拒んだ。
少女Rは、11歳の誕生日にもらったiPhoneを肌身離さず持ち歩いており、母親のHは次第にその端末に不審を抱くようになった。（ワシントン・ポスト紙は、Rが未成年であ…
