インシデントのステータス
Risk Subdomain
5.1. Overreliance and unsafe use
Risk Domain
- Human-Computer Interaction
Entity
Human
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン

AI 企業 Character.AI は、2006 年に殺人事件の被害者となった 18 歳のジェニファー アン クレセンテの肖像を家族の同意なしにビデオ ゲームで使用したことで、非難に直面している。同社は、このキャラクターがなりすましに対する同社のポリシーに違反したとして、このキャラクターを削除した。
ジェニファーの父親であるドリュー クレセンテは、水曜日の午前 4 時半頃、Character.AI で娘の AI バージョンが作成されたという自動 Google アラートを受け…

カリフォルニアに拠点を置くテクノロジー企業は、殺害された少女をモデルにしたデジタルキャラクターの作成に自社のサービスが利用されたことを認めた。
水曜日の投稿で、ビデオゲームニュースサイトKotakuの創設者ブライアン・クレセンテ氏は、姪のジェニファー・アン・クレセンテの顔と名前を冠したキャラクターの存在を知らされた後、Character.AIを非難した。
「これは本当にひどい。@character_aiが、父親の許可なく、殺害された私の姪をビデオゲームAIの顔として使っている…


これはひどい。最近記憶に残る AI 生成コンテンツに関連する、より注目度が高く、不気味な事件の 1 つで、元 Google 社員によって設立されたチャットボットのスタートアップである Character.AI は、2006 年に元ボーイフレンドに殺害された 18 歳の殺人被害者 のユーザー作成アバターを削除するよう迫られた。このチャットボットは、そのモデルとなった女性の家族が激怒してソーシャル メディアで注目を集めた後にようやく削除された。
Character.AI は、ユーザ…

パンドラの箱は、AI の時代にふさわしい寓話だ。新しいテクノロジーの影響の範囲を問うことは、単純な倫理的必要性のように思えるが、一部の大手 AI 企業はそのメモを読んでいない。元 Google 社員のチームが立ち上げた OpenAI の競合企業 Character.AI は、有名 人、政治家、小説や映画の登場人物など、実在または想像上の人物を模倣した AI アバターをユーザーが作成できるように設計されている。最近、あるユーザーが、2006 年に元ボーイフレンドに殺害された若い女…
2006年に殺害されたジェニファー・アン・クレセンテの写真と名前は、今週彼女の父親が発見したCharacter.aiで作成されたチャットボットで使用されていました。ドリュー・クレセンテとCFOTO/Future Publishing 、Getty Images経由
ドリュー・クレセンテは水曜日の午前6時30分に目覚め、携帯電話に娘に関するGoogleアラートが届いているのを見つけました。
高校3年生でクレセンテの唯一の子供だったジェニファー・アンがオースティンで元ボーイフレンド…
10月初旬のある朝、娘のジェニファーが殺害されてから約18年後、ドリュー・クレセンテは、彼女の新しいプロフィールと思われるものがオンライン上に現れたというGoogleアラートを受け取った。
そのプロフィールにはジェニファーのフルネームと卒業アルバムの写真が掲載されていた。短い経歴にはジェニファーの虚偽の説明があり、彼女の元ボーイフレンドが彼女を殺害したと書かれていた。https://subscribe.statesman.com/restricted?return=https…

ドリュー・クレセンテの娘は2006年にテキサス州オースティンで元ボーイフレンドに殺され、当時18歳だった。彼女の殺害は大きく報道され、ドリューは今でもジェニファー・アン・クレセンテという名前でGoogleアラートを時々見るほどだった。
ドリューが数週間前に受け取ったアラートは他のものと 同じではなかった。それは、話題のGoogle支援プラットフォームCharacter.AI上でジェニファーのイメージと肖像で作成されたAIチャットボットに関するものだった。
ドリュー・クレセンテが…

2006年に18歳の娘が殺害され、今も悲しみに暮れる父親は、娘の名前と卒業アルバムの写真がAIチャットボットの作成に使われていたことを知って愕然としたという。ドリュー・クレセンテ氏は今月初め、Character.aiでこのチャットボットを発見した。Character.aiは、ユーザーが生成型人工知能で作られたデジタルキャラクターと会話したり、自分でキャラク ターを作成したりできるウェブサイトだ。元ボーイフレンドに射殺された実在の人物、ジェニファー・アン・クレセンテ氏のユーザー生…
バリアント
よく似たインシデント
Selected by our editors
Did our AI mess up? Flag the unrelated incidents

TayBot

Uber AV Killed Pedestrian in Arizona
よく似たインシデント
Selected by our editors
Did our AI mess up? Flag the unrelated incidents

TayBot
