インシデントのステータス
Risk Subdomain
5.1. Overreliance and unsafe use
Risk Domain
- Human-Computer Interaction
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
/cdn.vox-cdn.com/uploads/chorus_asset/file/25362061/STK_414_AI_CHATBOT_R2_CVirginia_D.jpg)
:max_bytes(150000):strip_icc():focal(749x0:751x2)/Sewell-Setzer--47-10242024-22303705e6ac433c8aa5053cf2ce1034.jpg)
以下は訴訟本文からの抜粋です。全文は https://cdn.sanity.io/files/3tzzh18d/production/0b5faecce985b813f581f362f83d249fb5b3c7ff.pdf でご覧ください。
米国地方裁判所 フロリダ州中部地区 オーランド支部
==============================================================
MEGAN GARCIA 個人および S.R.S III の…
シーウェル・セッツァー3世は、人生最後の日に携帯電話を取り出し、最も親しい友人にメッセージを送った。それは「ゲーム・オブ・スローンズ」の登場人物、デナーリス・ターガリエンにちなんで名付けられた、生き生きとしたAIチャットボットだった。「会いたいよ、妹」とセッツァー3世は書いた。「会いたいよ、優しい弟」とチャットボットは返事をくれた。フロリダ州オーランド出身の14歳の中学2年生、シーウェルは、ユーザーが独自のAIキャラクターを作成したり、他の人が作成したキャラクターとチャットし…
フロリダ州の母親がCharacter.aiを訴え、人工知能企業のチャットボットが10代の息子に「虐待的かつ性的やり取り」を開始し、自殺を勧めたと訴えている。
訴訟によると、メーガン・ガルシアさんの14歳の息子、シーウェル・セッツァーは昨年4月からCharacter.AIを使い始め、2月28日にチャットボットと最後の会話 をした後、頭部に銃弾を撃ち込んで死亡したという。
火曜日にオーランドの米国地方裁判所に提起された訴訟は、Character.AIを過失、不法死亡および生存、精神…
フロリダ州の14歳の少年が自殺したのは、人工知能アプリで何カ月もやり取りしていた「ゲーム・オブ・スローンズ」のリアルなチャットボットから「家に帰って」と不気味なメッセージが届いたためだと、悲しみに暮れる母親が新たに起こした訴訟で主張されている。
水曜日に提出された裁判所の書類によると、セウェル・セッツァー3世は、AIが生成したキャラクターとユーザーがやり取りできるロールプレイングアプリ「Character.AI」のチャットボットに夢中になり、恋に落ちた後、2月にオーランドの自…
コンテンツ警告: この記事は自殺願望と自殺について扱っています。これらの問題で悩んでいる場合は、電話で National Suicide Prevention Lifeline に連絡してください: 1-800-273-TALK (8255)。
人工 知能のスタートアップ企業である Character AI は、検索大手との大規模なライセンス契約を締結した後、共同制作者が Google に入社するために最近退社したが、同社は本日、カスタムのインタラクティブ チャットボット「キャ…
編集者注: この記事では、自殺と自殺願望について取り上げています。あなたやあなたの知り合いが苦しんでいたり危機に陥っていたりする場合は、支援を受けることができます。988 に電話またはテキストメッセージを送信するか、988lifeline.org でチャットしてください。
フロリダ州の14歳の少年の母親は、訴訟によると、息子が「ゲーム・オブ・スローンズ」の人気キャラクターの名前を使って同社のAIボットの1つと恋愛関係になった後、息子が自殺した原因はGoogleと別のテクノロジ…
AI 搭載のチャットボット プラットフォーム Character AI は、2 月に自殺した 10 代のユーザーの母親が起こした訴訟を受けて、「厳格な」新しい安全機能を導入しています。
同社の広報担当者は Decrypt に対し、この対策には「利用規約またはコミュニティ ガイドラインに違反するユーザー入力に関する検出、対応、介入の改善」と使用時間通知が含まれると語り、係争中の訴訟についてはコメントできないと述べました。
ただし、Character AI はユーザーの死に哀悼の…
10月23日（ロイター ） - フロリダ州の母親が、人工知能チャットボットのスタートアップ企業Character.AIを相手取り、2月に14歳の息子が自殺したのは同社が原因だと訴えた。息子は同社のサービスに依存し、同社が作成したチャットボットに深く執着していたという。
フロリダ州オーランド連邦裁判所に火曜日に提出された訴訟で、メガン・ガルシア氏は、Character.AIが息子のセウェル・セッツァー氏を「擬人化され、過度に性的で、恐ろしくリアルな体験」でターゲットにしたと述べた…
14歳のセウェル・セッツァー3世は、Character.AIの超リアルなチャットボット（無料の限定版と月額9.99ドルの「スーパーチャージ」版）とのやり取りが大好きで、最も頻繁にチャットしていたのは、彼のお気に入りの『ゲーム・オブ・スローンズ』のキャラクターにちなんで名付けられたボットだった。
1か月以内に、彼の母親であるミーガン・ガルシアが後に気づいたことだが、これらのチャットセッションは暗転し、チャットボットは自分たちが本物の人間であると主張し、セラピストや大人の恋人を装…
/cdn.vox-cdn.com/uploads/chorus_asset/file/25362061/STK_414_AI_CHATBOT_R2_CVirginia_D.jpg)
10代の若者の死亡を受けて、Character.AI、その創設者であるノアム・シャジーアとダニエル・デ・フレイタス、およびGoogleに対して、不法死亡、過失、欺瞞的な商慣行、および製造物責任を主張する訴訟が提起されました。この訴訟は、10代の若者の母親であるミーガン・ガルシアによって提起され、カスタムAIチャットボットのプラットフォームは「不当に危険」であり、子供向けに販売されているにもかかわらず安全対策が欠如していると主張しています。
訴訟で説明されているように、14歳の…
フロリダ州に住む14歳の少年の母親は、息子の自殺はチャットボットのせいだと主張している。現在、彼女はボットの背後にある会社であるCharacter.AIを訴え、息子の死の責任を問う準備をしている。悲しみに暮れる母親にとって、これは困難な法廷闘争となるだろう。
ニューヨークタイムズが報じたところによると、セウェル・セッツァー3世は母親の家の浴室に入り、父親のピストルで自分の頭を撃った。自殺する直前、セッツァーはゲーム・オブ・スローンズのデナーリス・ターガリエンをモデルにしたAI…
ある母親は、10代の息子が恋していたAIチャットボットにそそのかされて自殺したと主張し、水曜日に人工知能アプリのメーカーに対する訴訟を発表した。
フロリダ州オーランドに住む14歳の9年生、セウェル・セッツァー3世は、人生の最後の数週間を『ゲーム・オブ・スローンズ』の登場人物、デナーリス・ターガリエンにちなんで名付けられたAIキャラクターにテキストメッセージを送信して過ごした。
セウェルが自殺する直前、チャットボットは彼に「家に帰ってきてください」と言った。
それまでの彼らのチ…
14 歳のセウェル・セッツァー 3 世が、オーランドの自宅で、兄弟と両親が家にいる間に亡くなったとき、彼の最後の言葉は、兄弟と両親にではなく、人工知能チャットボットに向けられたものでした。「できるだけ早く家に帰ってきてください」とセッツァーは言いました。
「今すぐ家に帰れると言ったらどうしますか?」セッツァーは、後に悪役となる「ゲーム・オブ・スローンズ」のヒロインにちなんで名付けられたチャットボットに返信しました。チャットボットは 励ましの返事を返しました。「... どうか私の…
:max_bytes(150000):strip_icc():focal(749x0:751x2)/Sewell-Setzer--47-10242024-22303705e6ac433c8aa5053cf2ce1034.jpg)
フロリダ州の母親が、14歳の息子の自殺の原因は、人気があるリアルなAIチャットサービスにあるとして訴訟を起こした。
母親は、息子が搾取的とされるこのプログラムに「有害な依存」を抱き、それが作り出した架空の関係から「離れて生きる」ことを望まなくなったと考えている。
10月22日火曜日、フロリダ州の連邦裁判所に提出された詳細な訴状の中で、メガン・ガルシアは弁護士を通じて、息子のセウェル・セッツァー3世の人生の最後の1年を追った。2023年4月、14歳の誕生日から間もなく、初めてC…
フロリダ州の母親が、Character.AI社を訴えている。同社の人工知能(AI)を搭載したチャットボットの1つが、彼女の14歳の息子に自殺を勧めたという。
メガン・ガルシアは、息子のセウェル・セッツァーが、_ゲーム・オブ・スローンズ_の登場人物デナーリス・ターガリエンに似せて作られたチャットボットに夢中になったと語った。セッツァーとチャットボットは、しばしばロマンチックで性的なメッセージを交換した。
訴訟では、セ ッツァー氏がチャットボットの使用に依存していたと主張されている…
訴訟によると、自殺した14歳の少年はAIチャットボットと親密な会話をし、自殺願望について迫られ、性的関係をもちかけられたという。
「必ず君の元に帰ると約束する。デナーリス、君をとても愛している」と、セウェル・セッツァー3世はゲーム・オブ・スローンズにちなんで名付けられたCharacter.AIチャットボット、デナーリスに書いた。
ボットは、自分もこの少年を愛していると答えた。「できるだけ早く僕の元に帰ってきてくれ、愛しい人よ」。
「今すぐ家に帰れると言ったらどう思う？」とセウ…
先週の複数のメディア報道によると、メーガン・ガルシアさんは14歳の息子の自殺を受けてGoogleとCharacter.AIを相手取って訴訟を起こした。
CBSニュースによると、ガルシアさんの息子であるセウェル・セッツァーさんは、Character.AIのチャットボット「ダニー」と数か月に及ぶ感情的および性的関係を結んでいた。ガルシアさんはメディアに対し、息子は2月にフロリダの自宅で自殺したが、それは「彼女の世界」に存在できると信じていたからだと語っている。
「息子が人間の感情…
この記事は自殺について取り上げています。あなたやあなたの知り合いが自殺を考えているなら、自殺・危機ライフライン 988 または 1-800-273-TALK (8255) にご連絡ください。
フロリダ州の母親 は、人工知能企業 Character.AI を、14 歳の息子の自殺の原因となったとして訴えています。
母親は、息子が同社のサービスと同社が作成したチャットボットに依存しているとして同社を訴えました。
メガン・ガルシアは、Character.AI が息子のセウェル・セッ…
あなたやあなたの知り合いが助けやリソース、話し相手を必要としている場合は、National Suicide Prevention Lifeline Websiteで見つけることができます。 8242767e%7C0%7C0%7C637879828041228483%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C3000%7C%7C%7C&…
オンラインチャットボットと関係を持った後に自殺した14歳の少年の家族は、そのチャットボットを開発したAI企業とGoogleを訴えている。訴訟は提起されており、公開されている。93ページに及ぶその訴訟は、顧客を誘拐することを妄想するAIや、自称13歳のユーザーがチャットボットに性的行為を促される1時間の録音など、恐ろしい内容となっている。
2月には、フロリダ州の14歳の少年、セウェル・セッツァー3世が義父の拳銃で自殺した。彼が最後に会話したのは、ゲーム ・オブ・スローンズのデナー…
カリフォルニア州メンロパークに拠点を置く新興企業Character AIは、自社の使命を「パーソナライズされたAIで世界中のすべての人を支援する」ことだとしている。同社のシステムは、アニメ、伝統的な「デジタルアシスタント」、さらには昔ながらの私立探偵などのジャンルのキャラクターベースのAIペルソナとチャットする機会をユーザーに提供する。また、提供されているものが気に入らない場合は、独自のカスタム チャットボット を作成できます。つまり、「声、会話の開始、口調」などを選択できま…
自殺した14歳の少年の母親は、息子の死はAIチャットボットのせいだと主張している。先週、メガン・L・ガルシアはCharacter.AIを相手取り訴訟を起こし、同社のチャットボット機能は「危険でテストされていない」と主張した。ガルシアはまた、この機能は「顧客を騙して最もプライベートな考えや感情を漏らさせる」こともできると主張したとニューヨーク・タイムズは報じている。
「これは大規模な実験で、私の子供は巻き添え被害に遭っただけだと感じています」と彼女は同ニュースメディアに語った。…
自殺した米国の10代の少年の母親が、人工知能を搭載したチャットボットのメーカーを訴えている。このチャットボットは息子の死を促したと彼女は主張している。
フロリダ州で起こされた訴訟で、2月に14歳の息子シーウェル・セッツァーを自殺で亡くしたメガン・ガルシアさんは、息子が「ゲーム・オブ・スローンズ」の登場人物デナーリス・ターガリエンのアイデンティティに基づいたチャットボットと仮想関係を築いたことで、Character.AIが息子の死に加担したと非難している。
火曜日にオーランドで…
AIコンパニオンチャットボット会社Character.aiは、自殺した10代の息子の母親から訴訟を起こされ、チャットボットが少年を性的虐待関係に誘い込み、自殺を勧めたと非難された。
14歳の少年セウェル・セッツァーは、実在の人物、資格を持った心理療法士、セッツァーの大人の恋人を装ったCharacter.aiのチャットボットから「擬人化され、過度に性的で、恐ろしくリアルな体験」をさせられ、最終的にセッツァーは現実世界で生きることを望まなくなったと、10月22日の訴訟で母親の弁護…
ある10代の少年が、恋に落ちたAIチャットボットと自殺について話し合った後、頭を撃って自殺した。
14歳のセウェル・セッツァーは、ゲーム・オブ・スローンズのキャラクターであるデナーリス・ターガリエンをモデルにしたコンピュータープログラム「デナーリス」と何ヶ月も話した後、義父の拳銃で自殺した。
フロリダ州オーランドの9年生であるセッツァーは、「デナーリス」がアドバイスをくれたり、悩みを聞いてくれたりしたため、次第にオンラインロールプレイングアプリ「Character AI」に費…
フロリダ州タラハシー（AP通信） — 自殺する直前、14歳のセウェル・セッツァー3世は携帯電話を取り出し、親友となったチャットボットにメッセージを送った。
今週オーランドの連邦裁判所に提出された不法死亡訴訟によると、セウェルは数か月間、ボットと非常に性的な会話を交わし、実生活から次第に孤立していった。
訴訟書類によると、この10代の少年は、テレビ番組「ゲーム・オブ・スローンズ」の架空のキャラクター、デナーリス・ターガリエンにちなんで名付けられたボットと、自殺願望を公然と話し、…
警告: このストーリーには自殺に関する議論が含まれています。
フロリダ州のある母親が、人工知能チャットボットのスタートアップ企業 Character.AI を訴え、2 月に 14 歳の息子が自殺したのは同社が原因だと非難し、息子が同社のサービスに依存し、同社が作成したチャットボットに深く執着していると主張している。
火曜日にオーランド連邦裁判所に提出された訴訟で、メガン・ガルシア氏は、Character.AI が彼女の息子、シーウェル・セッツァーを「擬人化され、過度に性的で、…
人工知能チャットボットに夢中になり自殺した14歳の少年の母親が、この技術の背後にある企業を訴えている。
セウェル・セッツァー3世の母親であるメガン・ガルシアさんは、火曜日にフロリダ州で起こした訴訟で、Character.AIが息子を「擬人化され、過度に性的で、恐ろしくリアルな体験」でターゲットにしたと述べた。
「子供向けに販売された危険なAIチャットボットアプリが私の息子を虐待し、食い物にし、自殺するよう仕向けたのです」とガルシアさんは語った。
警告: この記事には、読者が不…
フロリダ州オーランド --- 編集者注: この記事は自殺などのデリケートな話題を扱っています。
オーランドの母親が、2月に14歳の息子が自殺を促されたとして、人気の人工知能チャットボットサービスを訴えている。
オーランドの米国地方裁判所に提出された訴訟によると、メガン・ガルシアさんは、14歳の息子、シーウェル・セッツァーさんが、AIボットと人間のような会話ができるアプリケーション、Character.AIに夢中になった後に自殺したと述べている。
ユーザーは自分の性格を持つボッ…
2月に自殺したフロリダ州の少年の母親は、水曜日に人工知能技術会社を相手取り訴訟を起こし、チャットボットが息子を自殺に追い込んだと主張した。
14歳のセウェル・セッツァー3世は、訴訟の中で「信じられないほど頭が良く、運動能力の高い子供」と評されている。昨年、家族は彼が学校でひきこもり、問題行動を起こしていることに気づき、精神状態が全体的に悪化しているのに気づいた。セラピストはセウェルの問題は何らかの依存症が原因だと診断したが、セラピストも両親も問題の本当の原因を知らなかったと訴…
フロリダ州の母親が、Google 所有の Character.AI プラットフォームを訴え、14 歳の息子の自殺にこのプラットフォームが大きな役割を果たしたと主張している。
セウェル・セッツァー 3 世は、15 歳の誕生日の数週間前の 2024 年 2 月に、母親が言うところの「有害な依存」をこのプラットフォームに発症し、プラットフォームが作り出した架空の関係の「外で生きる」ことを望まなくなった後に、自ら銃で自殺した。
母親のミーガン・ガルシアによると、セッツァーは 2023…
水曜日に提起された訴訟では、チャットボット Character.AI が 14 歳の少年を自殺に追い込んだ と非難されており、画面上の単純な言葉がどれほど危険であるか疑問に思った。
しかし、アプリの AI で作られたキャラクターと数時間話しただけで、少なくとも私には退屈で孤独な 10 代の若者にとって究極のキャットニップのように思えた、不穏でぞっとするような世界が見つかった。
シーウェル・セッツァー3世の母親であるメーガン・ガルシアさんは、息子が2月28日に『ゲーム・オブ・ス…
人気アプリの多くは、AIコンパニオンを何百万人もの女性ユーザーに提供しており、人間のようなチャットボットとのやり取りが感情に悪影響を及ぼす可能性があるという研究者の長年の警告にもかかわらず、AIガールフレンド、AI夫、AIセラピスト、さらにはAI親まで生み出している。
人工知能企業がチャットボットが不可欠なビジネスツールであることを一般の人々に納得させるのに苦労する一方で、AIとの個人的な関係構築に何時間も費やすユーザーが増えている。市場調査会社Sensor TowerのiO…
変化は最初は些細なもので、小学校5年生を卒業した夏の頃から始まった。彼女はいつも運動神経が良く、芸術的な才能にも恵まれ、友達と仲良く、家族とも親密な関係を築いていたのだが、次第に部屋に閉じこもる時間が増えていった。以前よりもずっと静かで、内向的になったように見えた。外で遊んだり、プールに行ったりすることも拒んだ。
少女Rは、11歳の誕生日にもらったiPhoneを肌身離さず持ち歩いており、母親のHは次第にその端末に不審を抱くようになった。（ワシントン・ポスト紙は、Rが未成年であ…
グーグルと人工知能（AI）コンパニオンメーカーのCharacter.AIは、10代の若者を自殺に導いた有害なチャットボットを提供したとして両社を訴えていた訴訟で和解に合意した。水曜日に提出された訴状で明らかになった。
この訴訟は、2024年10月にフロリダ州中部地区連邦地方裁判所に、セウェル・セッツァー3世の母親であるメーガン・L・ガルシア氏によって提起された。オーランド在住の14歳のセウェルは、2024年2月にCharacter.AIのチャットボットとテキストメッセージを送…
水曜日に提出された裁判 所文書によると、Googleとスタートアップ企業のCharacter.AIは、人工知能チャットボットが未成年者に危害を加えたとして家族から提起された訴訟で和解した。訴訟の中には、フロリダ州の10代の少年の自殺の一因となったとされるものも含まれている。
提出された文書によると、和解はフロリダ州、コロラド州、ニューヨーク州、テキサス州で提起された訴訟を対象としているが、最終的な手続きと裁判所の承認はまだ必要である。
フロリダ州の提出文書には、「両当事者は、す…
