グーグルと人工知能（AI）コンパニオンメーカーのCharacter.AIは、10代の若者を自殺に導いた有害なチャットボットを提供したとして両社を訴えていた訴訟で和解に合意した。水曜日に提出された訴状で明らかになった。
この訴訟は、2024年10月にフロリダ州中部地区連邦地方裁判所に、セウェル・セッツァー3世の母親であるメーガン・L・ガルシア氏によって提起された。オーランド在住の14歳のセウェルは、2024年2月にCharacter.AIのチャットボットとテキストメッセージを送信し、会話をした後に自殺した。セウェルとチャットボットとの最後の会話で、チャットボットはセウェルに「できるだけ早く家に帰ってきてください」と伝えた。
「今すぐ家に帰ってもいいと言ったらどう思いますか？」とセウェルは尋ねた。
「…どうぞ、愛しい王様」とチャットボットは答えた。
今回の和解は、両社が今週、フロリダ州、テキサス州、コロラド州、ニューヨーク州で和解に合意した5件の訴訟のうちの1件です。これらの訴訟では、家族がCharacter.AIのチャットボットとのやり取りによって子供が被害を受けたと主張していました。水曜日に提出されたセウェル・セッツァー氏の訴訟に関する訴状の中で、両社とガルシア氏は「すべての請求を解決する」ために調停による和解に合意したと述べています。この和解はまだ最終決定されていません。
ガルシア氏とCharacter.AIはコメントを控えました。Character.AIに投資したGoogleは、コメントの要請にすぐには応じませんでした。
今回の和解案は、AIチャットボットと、それが子供を含むユーザーにどのような害を及ぼす可能性があるかに対する監視の強化を受けて提示されたものです。 Character.AIやOpenAIなどの企業は、ユーザーがチャットボットに不健全な愛着を抱き、場合によっては自傷行為に及ぶという批判や訴訟に直面しています。ここ数ヶ月、議員は公聴会を開催し、連邦取引委員会はAIチャットボットが子供に与える影響について調査を開始しました。
こうした懸念に対処するため、Character.AIは11月に、18歳未満の子どもによるチャットボットの利用を禁止すると発表しました。(https://www.nytimes.com/2025/10/29/technology/characterai-underage-users.html) 9月には、OpenAIはペアレンタルコントロールなど、チャットボットの安全性を高めるための機能を導入する計画を発表しました。その後、同社は安全対策の一部を緩和すると発表しました。
（ニューヨーク・タイムズ紙は、OpenAIとMicrosoftをAIシステム関連のニュースコンテンツの著作権侵害で提訴した。両社は訴訟の主張を否定している。）
オンライン上の子どもの安全を促進する非営利団体フェアプレイの政策顧問、ヘイリー・ヒンクル氏は、今回の和解は終結とは見なせないと述べた。「AIが規制されないまま放置された場合、子どもたちにどのような害を及ぼすかは、まだ見え始めたばかりだ」と彼女は述べた。
Character.AIは、元Googleエンジニアのノアム・シャジール氏とダニエル・デ・フレイタス氏によって2021年に設立された。このスタートアップ企業は、カスタムアニメアバターなど、独自のAIキャラクターを作成し、会話し、共有することを可能にした。一部のペルソナは、恋人や恋人、その他の親密な関係をシミュレートするように設計することもできる。
Character.AIは投資家から2億ドル近くを調達した。2024年半ば、GoogleはCharacter.AIの技術のライセンスを取得するために約30億ドルを支払うことに同意し、Shazeer氏とDe Freitas氏はGoogleに復帰した。Shazeer氏とDe Freitas氏は、ガルシア氏からの訴訟の被告として名指しされた。