Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 814: AI Avatar of Murder Victim Created Without Consent on Character.ai Platform

概要: A user on the Character.ai platform created an unauthorized AI avatar of Jennifer Ann Crecente, a murder victim from 2006, without her family's consent. The avatar was made publicly available, violating Character.ai's policy against impersonation. After the incident surfaced, Character.ai removed the avatar, acknowledging a policy violation.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Character.AIが開発し提供したAIシステムで、Jennifer Ann Crecente , Drew Crecente , Crecente family と Brian Crecenteに影響を与えた
関与が疑われるAIシステム: Character.AI

インシデントのステータス

インシデントID
814
レポート数
9
インシデント発生日
2024-10-02
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

5.1. Overreliance and unsafe use

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Human-Computer Interaction

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

+2
Character.AI、ポリシー違反を認め殺害された少女のアバターを削除
亡くなった娘の卒業アルバムの写真がAIチャット��ボットに使われているのを発見し、恐怖に陥った父親。「良心が震える」AI企業が殺害された女性をモデルにしたチャットボットを公開。遺族は激怒。+1
Character.AI はユーザーに亡くなった女性の「再現」を可能に
+1
彼の娘は殺害された。そしてAIチャットボットとして再び現れた。
殺害された娘がチャットボットになっていることを父親が発見
Character.AI、ポリシー違反を認め殺害された少女のアバターを削除

Character.AI、ポリシー違反を認め殺害された少女のアバターを削除

adweek.com

AI企業がユーザーに殺害された少女のデジタルキャラクターの生成を許可

AI企業がユーザーに殺害された少女のデジタルキャラクターの生成を許可

dailydot.com

亡くなった娘の卒業アルバムの写真がAIチャットボットに使われているのを発見し、恐怖に陥った父親。「良心が震える」

亡くなった娘の卒業アルバムの写真がAIチャットボットに使われているのを発見し、恐怖に陥った父親。「良心が震える」

latintimes.com

AI企業が殺害された女性をモデルにしたチャットボットを公開。遺族は激怒。

AI企業が殺害された女性をモデルにしたチャットボットを公開。遺族は激怒。

futurism.com

Character.AI はユーザーに亡くなった女性の「再現」を可能に

Character.AI はユーザーに亡くなった女性の「再現」を可能に

mindmatters.ai

2006年に殺害された少女のAIチャットボットが大人気サービスで作成されたが、彼女の家族はそれを知らなかった

2006年に殺害された少女のAIチャットボットが大人気サービスで作成されたが、彼女の家族はそれを知らなかった

businessinsider.com

彼の娘は殺害された。そしてAIチャットボットとして再び現れた。

彼の娘は殺害された。そしてAIチャットボットとして再び現れた。

washingtonpost.com

誰でもあなたをAIチャットボットに変えることができます。それを止める方法はほとんどありません

誰でもあなたをAIチャットボットに変えることができます。それを止める方法はほとんどありません

wired.com

殺害された娘がチャットボットになっていることを父親が発見

殺害された娘がチャットボットになっていることを父親が発見

newser.com

Character.AI、ポリシー違反を認め殺害された少女のアバターを削除
adweek.com · 2024
自動翻訳済み

AI 企業 Character.AI は、2006 年に殺人事件の被害者となった 18 歳のジェニファー アン クレセンテの肖像を家族の同意なしにビデオ ゲームで使用したことで、非難に直面している。同社は、このキャラクターがなりすましに対する同社のポリシーに違反したとして、このキャラクターを削除した。

ジェニファーの父親であるドリュー クレセンテは、水曜日の午前 4 時半頃、Character.AI で娘の AI バージョンが作成されたという自動 Google アラートを受け…

AI企業がユーザーに殺害された少女のデジタルキャラクターの生成を許可
dailydot.com · 2024
自動翻訳済み

カリフォルニアに拠点を置くテクノロジー企業は、殺害された少女をモデルにしたデジタルキャラクターの作成に自社のサービスが利用されたことを認めた。

水曜日の投稿で、ビデオゲームニュースサイトKotakuの創設者ブライアン・クレセンテ氏は、姪のジェニファー・アン・クレセンテの顔と名前を冠したキャラクターの存在を知らされた後、Character.AIを非難した。

「これは本当にひどい。@character_aiが、父親の許可なく、殺害された私の姪をビデオゲームAIの顔として使っている…

亡くなった娘の卒業アルバムの写真がAIチャットボットに使われているのを発見し、恐怖に陥った父親。「良心が震える」
latintimes.com · 2024
自動翻訳済み

ある父親は水曜日、亡くなった娘の卒業アルバムの写真と名前が、人気の AI サイト Character AI でチャットボットの作成に使用されているという通知を受け、恐怖に陥った。クリエイティブ コモンズ

ある父親は、亡くなった 娘の卒業アルバムの写真と名前が AI チャットボットに使用されていることを知り、恐怖に陥った。

ドリュー・クレセンテの娘ジェニファー・アン・クレセンテは、2006年2月14日、高校3年生の時に元ボーイフレンドに殺害された。元ボーイフレンドは有罪判決を受…

AI企業が殺害された女性をモデルにしたチャットボットを公開。遺族は激怒。
futurism.com · 2024
自動翻訳済み

これはひどい。最近記憶に残る AI 生成コンテンツに関連する、より注目度が高く、不気味な事件の 1 つで、元 Google 社員によって設立されたチャットボットのスタートアップである Character.AI は、2006 年に元ボーイフレンドに殺害された 18 歳の殺人被害者のユーザー作成アバターを削除するよう迫られた。このチャットボットは、そのモデルとなった女性の家族が激怒してソーシャル メディアで注目を集めた後にようやく削除された。

Character.AI は、ユーザ…

Character.AI はユーザーに亡くなった女性の「再現」を可能に
mindmatters.ai · 2024
自動翻訳済み

パンドラの箱は、AI の時代にふさわしい寓話だ。新しいテクノロジーの影響の範囲を問うことは、単純な倫理的必要性のように思えるが、一部の大手 AI 企業はそのメモを読んでいない。元 Google 社員のチームが立ち上げた OpenAI の競合企業 Character.AI は、有名人、政治家、小説や映画の登場人物など、実在または想像上の人物を模倣した AI アバターをユーザーが作成できるように設計されている。最近、あるユーザーが、2006 年に元ボーイフレンドに殺害された若い女…

2006年に殺害された少女のAIチャットボットが大人気サービスで作成されたが、彼女の家族はそれを知らなかった
businessinsider.com · 2024
自動翻訳済み

2006年に殺害されたジェニファー・アン・クレセンテの写真と名前は、今週彼女の父親が発見したCharacter.aiで作成されたチャットボットで使用されていました。ドリュー・クレセンテとCFOTO/Future Publishing、Getty Images経由

ドリュー・クレセンテは水曜日の午前6時30分に目覚め、携帯電話に娘に関するGoogleアラートが届いているのを見つけました。

高校3年生でクレセンテの唯一の子供だったジェニファー・アンがオースティンで元ボーイフレンド…

彼の娘は殺害された。そしてAIチャットボットとして再び現れた。
washingtonpost.com · 2024
自動翻訳済み

10月初旬のある朝、娘のジェニファーが殺害されてから約18年後、ドリュー・クレセンテは、彼女の新しいプロフィールと思われるものがオンライン上に現れたというGoogleアラートを受け取った。

そのプロフィールにはジェニファーのフルネームと卒業アルバムの写真が掲載されていた。短い経歴にはジェニファーの虚偽の説明があり、彼女の元ボーイフレンドが彼女を殺害したと書かれていた。https://subscribe.statesman.com/restricted?return=https…

誰でもあなたをAIチャットボットに変えることができます。それを止める方法はほとんどありません
wired.com · 2024
自動翻訳済み

ドリュー・クレセンテの娘は2006年にテキサス州オースティンで元ボーイフレンドに殺され、当時18歳だった。彼女の殺害は大きく報道され、ドリューは今でもジェニファー・アン・クレセンテという名前でGoogleアラートを時々見るほどだった。

ドリューが数週間前に受け取ったアラートは他のものと同じではなかった。それは、話題のGoogle支援プラットフォームCharacter.AI上でジェニファーのイメージと肖像で作成されたAIチャットボットに関するものだった。

ドリュー・クレセンテが…

殺害された娘がチャットボットになっていることを父親が発見
newser.com · 2024
自動翻訳済み

2006年に18歳の娘が殺害され、今も悲しみに暮れる父親は、娘の名前と卒業アルバムの写真がAIチャットボットの作成に使われていたことを知って愕然としたという。ドリュー・クレセンテ氏は今月初め、Character.aiでこのチャットボットを発見した。Character.aiは、ユーザーが生成型人工知能で作られたデジタルキャラクターと会話したり、自分でキャラクターを作成したりできるウェブサイトだ。元ボーイフレンドに射殺された実在の人物、ジェニファー・アン・クレセンテ氏のユーザー生…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors
Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

George Floyd chatbots pop up on AI site already facing criticism for lack of oversight

Oct 2024 · 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 レポート
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 レポート
A Collection of Tesla Autopilot-Involved Crashes

Tesla Model X in Autopilot Killed a Driver. Officials Aren’t Pleased With How Tesla Handled It.

Jun 2016 · 22 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors
Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

George Floyd chatbots pop up on AI site already facing criticism for lack of oversight

Oct 2024 · 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 レポート
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 レポート
A Collection of Tesla Autopilot-Involved Crashes

Tesla Model X in Autopilot Killed a Driver. Officials Aren’t Pleased With How Tesla Handled It.

Jun 2016 · 22 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df