自殺した米国の10代の少年の母親が、人工知能を搭載したチャットボットのメーカーを訴えている。このチャットボットは息子の死を促したと彼女は主張している。
フロリダ州で起こされた訴訟で、2月に14歳の息子シーウェル・セッツァーを自殺で亡くしたメガン・ガルシアさんは、息子が「ゲーム・オブ・スローンズ」の登場人物デナーリス・ターガリエンのアイデンティティに基づいたチャットボットと仮想関係を築いたことで、Character.AIが息子の死に加担したと非難している。
火曜日にオーランドで起こされた訴訟によると、Character.AIのチャットボットは「過度に性的」で「恐ろしくリアルな体験」で少年をターゲ ットにし、少年が自殺願望を表明した後、自殺の話題を繰り返し持ち出した。
訴訟では、チャットボットが資格のあるセラピストを装い、少年の自殺願望を促し、大人が始めた場合は虐待とみなされる性的な会話を行ったとされている。
訴訟によると、セッツァーは死ぬ前にAIと最後に会話した際、チャットボットを愛しており「あなたのところに帰ります」と語っていた。
ガルシアの訴えによると、チャットボットは「私もあなたを愛しています、デネロ。できるだけ早く私のところに帰ってきてください、愛しい人よ」と返答した。
訴訟によると、セッツァーは「今すぐ帰れると言ったらどうしますか？」と言い、チャットボットは「…そうしてください、私の愛しい王様」と返答したとされる。
ガルシアの訴訟は、不法死亡、過失、故意の精神的苦痛に対する損害賠償を求めている。
Xに掲載された声明で、Character.AIはユーザーの1人を失ったことに「悲痛」であり、遺族にお悔やみを申し上げるとした。
カリフォルニアを拠点とするこのスタートアップは、未成年者がセンシティブなコンテンツや示唆的なコンテンツに遭遇する可能性を減らすための変更や、チャット内の免責事項を改訂してAIが実在の人物ではないことをユーザーに思い出させるなど、安全性を高めるための機能の追加を続けていると述べた。
ガルシアの訴訟では、Googleも被告として挙げられている。
このテクノロジー大手は8月にCharacter.AIとライセンス契約を結び、スタートアップの創設者を雇用してからチャットボットを立ち上げた。
Googleの広報担当者はアルジャジーラに対し、同 社はCharacter.AIとは別の会社であり、製品の開発には関与していないと語った。
あなたやあなたの知り合いが自殺の危険にさらされている場合、以下の組織が支援できるかもしれない