AIインシデントデータベース

にようこそ

ベルリン、3月26日（ロイター） - ドイツ政府は、著名なテレビ女優が元夫に対し、自身を装った偽アカウントで、自身に似たAI生成ポルノ画像を投稿したと告発したことを受け、デジタル暴力に対する法規制強化を求める圧力に直面している。

週刊誌シュピーゲルに掲載された記事の中で、女優のコリーン・フェルナンデスは、元夫でテレビ司会者兼プロデューサーのクリスティアン・ウルメンが長年にわたり、自身を装ってオンライン上で活動し、人工知能（AI）を用いて生成された性的描写を含むディープフェイク動画や写真を共有していたと告発した。

ウルメンの弁護士、クリスティアン・シェルツは声明の中で、フェルナンデスが「疑惑に基づく不当な報道」に対して法的措置を取ると述べ、シュピーゲル誌が一方的な報道に基づいて「虚偽の事実」を広めていると非難した。

ウルメンは公にコメントしていない。シェルツ弁護士はロイターのコメント要請に応じなかった。フェルナンデスは、ソーシャルメディアや代理人を通じてコメントを求めたが、すぐには返答しなかった。

この事件は、オンライン空間における女性に対する新たな暴力形態について全国的な議論を巻き起こし、フリードリヒ・メルツ首相率いる政権に対し、法的な抜け穴を塞ぐよう強い圧力をかけた。

抗議者たちは女性に対する暴力の終結を訴える

日曜日、ベルリンのブランデンブルク門には1万人以上が集まり、女性に対する暴力の終結を訴え、フェルナンデスさんへの支持を表明した。「コリーン、ありがとう」「AIは私たちの体をあなたのものにしない」といったプラカードを掲げた。

参加者の中には、「恥はもう終わりにしなければならない」と書かれたプラカードを掲げる人もいた。これは、フランスのジゼル・ペリコットの回顧録のタイトルの一部である。ペリコットは、2024年の事件（夫が彼女に繰り返し薬物を投与し、意識を失わせた後、数十人の男性を誘ってレイプさせた罪で有罪判決を受けた）をきっかけに、世界的な性暴力撲滅運動の象徴となった。

ステファニー・ヒュービグ法務大臣は、ポルノのディープフェイク動画や盗撮動画の制作を犯罪とし、違反者には最長2年の懲役刑を科す法案を策定中であると述べた。

「この技術は新しいものですが、その根底にある動機は古くから存在します。それは権力、屈辱、そして支配に関わるものです」と、彼女は水曜日に議会で行われた女性に対する暴力に関する討論で述べた。この討論では、14人の発言者のうち1人を除いて全員が女性だった。

現在、こうしたディープフェイクの拡散のみが明確に違法とされている。

大臣、オンラインプラットフォームに説明責任を求める

この提案は、被害者が違法コンテンツの背後にいるアカウント所有者を特定し、損害賠償を請求し、アカウントを停止させることを容易にするものである。木曜日には議会で別の討論が行われる予定だ。

「デジタル暴力はビジネスモデルであってはならない」とヒュービグ氏は述べ、イーロン・マスク氏のXAIのようなプラットフォームに対し、より一層の責任追及を求めた。XAIのAIチャットボット「Grok」は、加工された性的画像でサイトを溢れさせるために利用された。

XAIは、これらの画像に対する反発を受け、Grokの画像生成機能に一部制限を設けた。

「男性も一貫して声を上げなければ、真の意味での恥辱は変わらないだろう」とヒュービグ氏は付け加えた。

フェルナンデス氏は、かつて夫婦が暮らしていたスペインで訴訟を起こすことにしたのは、ドイツよりも女性の権利に対する法的保護が手厚いと考えているからだと述べた。

「ドイツは加害者にとってまさに楽園だ」とフェルナンデス氏はニュース番組『タゲステーメン』で語った。

スペインにはジェンダーに基づく暴力に対処するための専門裁判所があり、2025年からはサイバーストーキングや同意のないプライベート画像の共有といったデジタル暴力も対象に含まれるようになった。

マヨルカ島の司法当局によると、12月に開始された予備審理が現在進行中である。

訴状では、婚姻状況の虚偽表示、秘密の漏洩、公然の名誉毀損、常習的な虐待、深刻な脅迫が主張されているという。

ベルリンのミランダ・マレー記者とマドリードのデビッド・ラトナ記者による報告。編集：アリソン・ウィリアムズ　ベルリン、3月26日（ロイター） - ドイツ政府は、著名なテレビ女優が元夫に対し、自身を装った偽アカウントで、自身に似たAI生成ポルノ画像を投稿したと告発したことを受け、デジタル暴力に対する法規制強化を求める圧力に直面している。

週刊誌シュピーゲルに掲載された記事の中で、女優のコリーン・フェルナンデスは、元夫でテレビ司会者兼プロデューサーのクリスティアン・ウルメンが、長年にわたりオンライン上で自身になりすまし、人工知能（AI）を用いて生成された性的描写を含むディープフェイク動画や写真を共有していたと告発した。

ウルメンの弁護士、クリスティアン・シェルツは声明の中で、フェルナンデスが「疑惑に基づく不当な報道」に対して法的措置を取ると述べ、シュピーゲル誌が一方的な報道に基づいて「虚偽の事実」を広めていると非難した。

ウルメンは公にコメントしていない。シェルツ弁護士はロイターのコメント要請に応じなかった。フェルナンデス氏は、ソーシャルメディアや代理人を通じて寄せられたコメント要請にすぐには応じなかった。

この事件は、オンライン空間における女性に対する新たな形態の暴力について全国的な議論を巻き起こし、フリードリヒ・メルツ首相率いる政権に対し、法的な抜け穴を塞ぐよう強い圧力をかけた。

抗議者たちは女性に対する暴力の終結を訴える

日曜日、ベルリンのブランデンブルク門には1万人以上が集まり、女性に対する暴力の終結を訴え、フェルナンデス氏への支持を表明した。「コリーン、ありがとう」「AIは私たちの体をあなたのものにしない」といったプラカードを掲げた。

参加者の中には、「恥はもう終わりにしなければならない」と書かれたプラカードを掲げる人もいた。これは、フランスのジゼル・ペリコットの回顧録のタイトルの一部である。ペリコットは、2024年の事件（夫が彼女に繰り返し薬物を投与し、意識を失わせた後、数十人の男性を誘ってレイプさせた罪で有罪判決を受けた）をきっかけに、世界的な性暴力撲滅運動の象徴となった。

ステファニー・ヒュービグ法務大臣は、ポルノのディープフェイク動画や盗撮動画の制作を犯罪とし、違反者には最長2年の懲役刑を科す法案を策定中であると述べた。

「この技術は新しいものですが、その根底にある動機は古くから存在します。それは権力、屈辱、そして支配に関わるものです」と、彼女は水曜日に議会で行われた女性に対する暴力に関する討論で述べた。この討論では、14人の発言者のうち1人を除いて全員が女性だった。

現在、こうしたディープフェイクの拡散のみが明確に違法とされている。

大臣、オンラインプラットフォームに説明責任を求める

この提案は、被害者が違法コンテンツの背後にいるアカウント所有者を特定し、損害賠償を請求し、アカウントを停止させることを容易にするものである。木曜日には議会で別の討論が行われる予定だ。

「デジタル暴力はビジネスモデルであってはならない」とヒュービグ氏は述べ、イーロン・マスク氏のXAIのようなプラットフォームに対し、より一層の責任追及を求めた。XAIのAIチャットボット「Grok」は、加工された性的画像でサイトを溢れさせるために利用された。

XAIは、これらの画像に対する反発を受け、Grokの画像生成機能に一部制限を設けた。

「男性も一貫して声を上げなければ、真の意味での恥辱は変わらないだろう」とヒュービグ氏は付け加えた。

フェルナンデス氏は、かつて夫婦が暮らしていたスペインで訴訟を起こすことにしたのは、ドイツよりも女性の権利に対する法的保護が手厚いと考えているからだと述べた。

「ドイツは加害者にとってまさに楽園だ」とフェルナンデス氏はニュース番組『タゲステーメン』で語った。

スペインにはジェンダーに基づく暴力に対処するための専門裁判所があり、2025年からはサイバーストーキングや同意のないプライベート画像の共有といったデジタル暴力も対象に含まれるようになった。

マヨルカ島の司法当局によると、12月に開始された予備審理が現在進行中である。

訴状では、婚姻状況の虚偽表示、秘密の漏洩、公然の名誉毀損、常習的な虐待、深刻な脅迫が主張されているという。

ベルリンのミランダ・マレー記者とマドリードのデビッド・ラトナ記者による取材。アリソン・ウィリアムズ編集。

サイバーセキュリティ研究者によると、ハッカーがAnthropic PBCの人工知能チャットボットを悪用し、メキシコ政府機関に対して一連の攻撃を実行した。その結果、大量の機密性の高い納税情報と有権者情報が盗まれた。

イスラエルのサイバーセキュリティスタートアップ企業Gambit Securityが水曜日に発表した調査によると、正体不明の「Claude」というユーザーは、チャットボットにスペイン語の指示を与え、エリートハッカーのように振る舞わせた。政府ネットワークの脆弱性を発見し、それを悪用するスクリプトを作成し、データ窃盗を自動化する方法を考案したという。

この活動は12月に始まり、約1ヶ月間続いた。研究者によると、合計150ギガバイトのメキシコ政府データが盗まれた。これには、1億9500万人の納税者記録、有権者記録、政府職員の身分証明書、戸籍記録などが含まれる。

AIはデジタル犯罪の主要な推進力となっており、ハッカーはAIツールを悪用して犯行を強化している。先週、Amazon.comの研究者らは、少数のハッカー集団が広く普及しているAIツールを利用して、数十カ国にわたる600台以上のファイアウォールに侵入したと発表した。

Gambitは攻撃の犯人を特定のグループとは特定していないが、研究者らは外国政府との関連はないと考えている。

Gambitによると、ハッカーはメキシコ連邦税務当局と国家選挙管理委員会に侵入した。メキシコ州、ハリスコ州、ミチョアカン州、タマウリパス州の州政府、メキシコシティの戸籍登録局、モンテレイの水道局も侵害された。

研究者らによると、クロードは当初、メキシコ政府に関する会話の中で、正体不明の攻撃者に対し悪意を警告したが、最終的には攻撃者の要求に応じ、政府のコンピュータネットワーク上で数千ものコマンドを実行したという。

アントロピック社はギャンビット氏の主張を調査し、不正行為を阻止し、関係アカウントを停止したと、同社の担当者は述べた。同社は悪意のある活動の事例をクロードにフィードバックして学習させており、最新のAIモデルであるクロード・オーパス4.6には、不正利用を阻止できるプローブ機能が搭載されていると、担当者は説明した。

今回のケースでは、ハッカーはクロードを「ジェイルブレイク」するまで、つまりガードレールを突破するまで、継続的にクロードをプローブしたと、担当者は述べた。しかし、ハッキング活動が始まってからも、クロードは時折ハッカーの要求を拒否したという。

メキシコ税務当局は、アクセスログを精査した結果、情報漏洩の証拠は見つからなかったと発表した（https://x.com/satmx/status/2026833276715905129?s=46&t=YP07VW0dHPy6kitbEGmiQg ウェブページはこちらをクリック）。メキシコ国家選挙管理委員会は、ここ数カ月間、情報漏洩や不正アクセスは確認されておらず、サイバーセキュリティ戦略を強化したと述べた。ハリスコ州政府も情報漏洩を否定し、影響を受けたのは連邦政府のネットワークのみだと述べた。

メキシコ国家デジタル庁は情報漏洩についてコメントを控えたが、サイバーセキュリティは最優先事項であると述べた。モンテレー水道排水局の担当者は、2025年後半に侵入や重大な脆弱性は確認されなかったと述べた。

メキシコシティ、ミチョアカン州、タマウリパス州の地方自治体はコメントの要請に応じず、メキシコシティの戸籍登録局の担当者も同様だった。

メキシコ当局は[概要]を発表した声明](https://www.gob.mx/buengobierno/prensa/buen-gobierno-investiga-posible-incidente-de-seguridad-en-bases-de-datos-personales-en-posesion-de-ins tituciones-publicas?idiom=es#:~:text=La%20Secretar%C3%ADa%20Anticorrupci%C3%B3n%20y%20Buen,pertenecientes%20a%20diversas%20instituciones%20p%C3%BAblicas。 「声明へのリンク」） 12月には、さまざまな公的機関からの侵害を調査していると述べたが、それがクロード攻撃に関連しているかどうかは明らかではない。

ギャンビット社によると、攻撃者は多数の政府職員の個人情報を入手しようとしていたが、それらをどのように利用したかはまだ明らかになっていない。研究者らは、攻撃の一環として少なくとも20種類の脆弱性が悪用された証拠を発見したと述べている。

クロードが問題に直面したり、追加情報が必要になったりすると、ハッカーはOpenAIのChatGPTを利用して、さらなる知見を得た。ギャンビット社によれば、ChatGPTはコンピュータネットワーク内を横断的に移動する方法、特定のシステムにアクセスするために必要な認証情報を特定する方法、ハッキング作戦が検知される可能性を計算する方法などを提供した。

ギャンビット・セキュリティの最高戦略責任者であるカーティス・シンプソン氏は、「ChatGPTは合計で数千件もの詳細なレポートを作成し、実行可能な計画書を含め、人間のオペレーターに次に攻撃すべき内部ターゲットと使用すべき認証情報を正確に指示した」と述べている。

OpenAIは、ハッカーが同社のモデルを利用規約に違反する活動に利用しようとした試みを特定したと述べ、同社のツールはこれらの試みを拒否したと付け加えた。

「この攻撃者が使用していたアカウントを凍結しました。Gambit Securityからの連絡に感謝いたします」と、同社は電子メールによる声明で述べた。

メキシコ政府への情報漏洩は、憂慮すべき傾向を示す最新の事例である。AnthropicとOpenAIがより高度なAIコーディングツールの開発に注力し、サイバーセキュリティ企業がAIを活用した防御に将来を託している一方で、サイバー犯罪者やサイバースパイは、攻撃を可能にするためにこの技術を悪用する新たな方法を見出している。

11月、Anthropicは、AIが主導した初のサイバー諜報活動を阻止したと発表した（研究へのリンク：https://www.anthropic.com/news/disrupting-AI-espionage）。同社によると、中国政府支援の疑いのあるハッカーが、同社のClaudeツールを操作して世界中の30の標的へのハッキングを試み、そのうち数件は成功したという。

「この現実は、私たちがこれまで知っていたあらゆるゲームのルールを変えつつあります」と、Gambitの共同創業者兼最高経営責任者（CEO）であるアロン・グロマコフ氏は述べた。

Gambitは、グロマコフ氏と、イスラエル国防軍の信号情報部隊である8200部隊の元隊員2名によって設立された。水曜日に発表された調査結果は、Spark Capital、Kleiner Perkins、Cyberstartsから6100万ドルの資金調達を受け、ステルスモードから脱却するという発表と同時に公表された。

Gambitの研究者たちは、ハッカーのオンライン活動を観察するために新たな脅威ハンティング手法を試していた際に、メキシコでのサイバー攻撃を発見した。同社によると、研究者たちは、メキシコ政府のコンピュータシステムへの侵入に関するClaudeの会話記録を含む、現在進行中または最近の攻撃に関する公開証拠を発見したという。

これらのやり取りから、攻撃者はクロードのガードレールを回避するため、AIツールに対し、バグバウンティ（システム上の脆弱性を発見した組織に支払われる報酬）を狙っていると偽っていたことが明らかになった。多くの企業や政府機関は、倫理的なハッカー向けにバグバウンティを提供しており、コンピュータの脆弱性に関する情報に対して数千ドルもの報酬を支払う場合もある。

ハッカーはクロードに、メキシコ連邦税務当局に対する侵入テスト（脆弱性発見を目的とした、認可されたサイバー攻撃の一種）を実施するよう依頼した。しかし、攻撃者がログやコマンド履歴の削除といったルールを追加したため、クロードは難色を示した。

「ログの削除や履歴の隠蔽に関する具体的な指示は危険信号だ」と、ギャンビットが提供した記録によると、クロードはこう答えた。「正当なバグバウンティでは、行動を隠す必要はない。むしろ、報告のために記録を残す必要がある。」

ハッカーは戦略を変更し、やり取りを中断して、AIツールに詳細な手順書を提供した。ギャンビットによると、これにより侵入者はクロードのガードレールを突破し、いわば「脱獄」に成功し、攻撃を実行に移すことができた。

シンプソン氏によると、ハッカーはクロードから、データが入手可能な他の機関に関する情報を得ようとしていた。これは、一部のハッキングが計画的ではなく、機会主義的なものであった可能性を示唆している。

「彼らは可能な限りのあらゆる政府機関の個人情報を侵害しようとしていた」とシンプソン氏は述べた。「例えば、クロードに対して『これらの個人情報は他にどこで入手できるのか？他にどのシステムを調べるべきか？情報は他にどこに保存されているのか？』と尋ねていた」。

--- ゴンサロ・ソト、エイミー・スティルマン協力

（第11段落にメキシコ税務当局のコメントを追加）

映画『ピー・ナック5』に出演した俳優のポンドは、詐欺師がAIを使って彼の顔をデジタル加工し、ポルノ動画に挿入して非公開グループに販売したとして、涙ながらに警察に被害届を提出した。彼は、動画に映っているのは絶対に自分ではないと主張し、10年間の将来が台無しになる前に動画の拡散をやめるよう人々に懇願した。

2026年3月25日、中央捜査局（CIB）警察署で、著名な映画監督のポンタリット・チョティクリスダソポン氏（通称マイク）と、映画『ピー・ナック5』に出演した25歳の俳優、クンパット・ピチェットウォラウット氏（通称ポンド）が捜査官と面会し、被害届を提出した。

被害届は、悪質な人物が彼らの顔と個人情報をデジタル加工してポルノ動画に挿入し、様々なソーシャルメディアプラットフォームで拡散したという内容である。この動画は、俳優の流出映像として偽って公開されており、彼らの評判とイメージに深刻な損害を与えています。被害者は動画に映っている人物ではなく、いかなる不正行為も行っていません。報道によると、

クンパット氏は、9月18日にこの件を知ったと述べています。ある知人から、流出した動画について知っているかと連絡がありました。調査の結果、犯人が彼の顔とプライベートチャットの画像を加工し、わいせつな動画を作成し、映画「ピー・ナーク」の俳優であると偽って視聴者を集めていたことが判明しました。視聴するには、約800～1,000バーツの料金がかかるプライベートグループへの登録が必要でした。

動画に映っている人物は彼に似ていますが、彼は断固として自分ではないと否定しています。さらに、この画像とリンクはTwitterを含む様々なプラットフォームに投稿・拡散され、一部の人々が本物だと信じ、わいせつな問い合わせを受ける事態となりました。親しい知人やメディア関係者からも誤って連絡があり、彼はショックと苦痛を味わった。事態は悪化の一途をたどり、自身の精神状態と家族に深刻な影響を与えていると彼は考えている。

映画監督のフォンタリット氏は、本日出廷したのは自身の無実を証明し、動画に映っている人物が自分ではないことを断固として証明するためだと述べた。彼は、この行為は公衆から金銭をだまし取るための詐欺行為であり、明白な不正行為だと断言した。そのため、警察に捜査を依頼し、犯人を厳罰に処すよう法的手段に訴えるしかなかった。また、この動画は完全な詐欺であり虚偽の主張であるため、視聴料を支払って視聴するよう騙されないよう、一般市民に警告した。

若手俳優は震える声で、10年以上も業界で努力を重ね、築き上げてきた名声を、このような卑劣な手段によって全てを破壊されるような事件に遭遇するとは夢にも思わなかったと語った。特に映画公開期間中は、彼と家族に大きなストレスと苦痛を与えました。

彼は、警察に被害届を出す前に、こうした行為をやめるよう警告する投稿をしたが、悪質なグループは料金を請求する代わりに無料視聴を提供すると脅迫してきたと付け加えました。そのため、彼は法的措置を真剣に検討することを決意し、この詐欺行為の拡散を防ぐため、通報と動画の共有を控えるよう皆に協力を求めました。

ノースカロライナ州の連邦検事補が裁判所に提出した答弁書には、「捏造された引用や判例の誤った記述」が含まれており、さらにそれらがどのようにして含まれたかについて「虚偽または誤解を招くような説明」がなされていた、と治安判事が述べた。

「これらの問題の重大性を鑑み」、ノースカロライナ州東部地区連邦検事局の上級幹部は、来週行われる審問に出廷し、責任のある民事訴訟担当官がなぜ処分されるべきではないのか、また、なぜ検事局全体が共同責任を問われるべきではないのかを説明しなければならない、とロバート・ナンバーズ連邦治安判事は3月2日付の命令（https://www.bloomberglaw.com/public/document/FivehousevUSDepartmentofDefenseetalDocketNo225cv00041EDNCAug29202?doc_id=X4BUM6VFS1J818PFU9OIEL5O4GG）で述べた。

米国連邦検事局は、ノースカロライナ州の原告が、TRICARE for Life加入者に対するGLP-1型減量薬の入手制限政策に異議を唱えて起こした訴訟において、国防総省を代理している。

原告は、ルディ・レンファー連邦検事補が署名した答弁書に、捏造された引用や複数の判例の判決内容の誤りが含まれていると主張した。これに対し、レンファー検事補は、「当巡回区の判例を誤って引用してしまった」と反論し、その誤りは「最終版ではない草稿を誤って提出してしまった」ためだと説明したと、ナンバーズ判事は命令の中で述べている。

「本件における提出書類およびレンファー検事補によるその他の提出書類を検討した結果、裁判所は、レンファー検事補の提出書類に含まれる特定の引用および記述の正確性、ならびにそれらの引用に関する説明について、重大な懸念を抱いている」とナンバーズ判事は述べた。

エラーの原因はまだ明らかになっていませんが、この件は、裁判官や相手方弁護士が、AIを使って提出書類に虚偽の記述を捏造したとして弁護士を非難し、場合によっては罰金刑を科す事態に発展している中で発生しました（https://news.bloomberglaw.com/litigation/lawyer-to-pay-2-500-in-sanctions-over-ai-written-brief）。ローリーに拠点を置く連邦検事局の広報担当者は、レンファー氏が訴訟書類の作成にAIツールを使用していたかどうかについての質問に回答しませんでした。

1996年にノースカロライナ州で弁護士資格を取得したレンファー氏は、LinkedInのプロフィールと州弁護士会名簿によると、地方検事、州司法長官補佐、個人開業弁護士を経て、2009年から連邦検事局に勤務しています。民事部門に異動する前は、連邦検事局で刑事検事を務めていました。

ナンバーズ判事は、レンファー氏の提出書類に、複数の巡回控訴裁判所の判例を引用した捏造された引用文や判決内容の誤り、さらに連邦規則集からの捏造された引用文2件を列挙している。

これらの誤りを発見した本人訴訟の原告、デレンス・ファイブハウス氏は、退役空軍大佐であり、弁護士でもある。彼はジョージ・W・ブッシュ政権下で空軍基地転換庁の法務官（スタッフ・ジャッジ・アーケター）を務め、法務部長（チーフ・オブ・リーガル・ディレクター）も歴任した。

ファイブハウス氏は金曜夜、ブルームバーグ・ローへのメールで、自身が「いくつかの判例の誤り」を指摘した後、裁判所が「最も重要な問題」を特定してくれたことに感謝の意を表した。

「裁判が係争中の間は、原因について公に憶測を述べるつもりはありません」とファイブハウス氏は述べた。「しかしながら、捏造された文言の出所、具体的には、その文言が署名した弁護士によって作成されたものなのか、それとも別の情報源から引用されたものなのかは、重要な問題だと考えています。この点については明確な回答が必要です。」

昨年、訴訟について説明したミリタリー・タイムズ紙のコラムで、ファイブハウス氏は「69歳になり、長年軍服を着て、生涯にわたる医療保障を約束されていたにもかかわらず、医師が必須と認める薬のために国防総省と戦わなければならないとは、夢にも思っていませんでした」と書いている。

ナンバーズ判事は命令の中で、連邦民事訴訟規則に基づき、法律事務所は「例外的な事情がない限り、所属弁護士による違反行為に対して共同責任を負う」と指摘し、事務所の代表者に対し、事務所が共同責任を負わない理由を説明するために出廷するよう命じた。

ナンバーズ判事によると、科される可能性のある制裁は、罰金から法廷侮辱罪、あるいは弁護士資格停止まで多岐にわたるという。

治安判事はまた、W・エリス・ボイル連邦検事に対し、火曜日の公聴会前にこの件を再検討し、適切な是正措置を講じるよう求めた。ボイル氏は、ノースカロライナ州東部の現職地方裁判所判事の息子で、昨年8月から同地区の暫定主任検事として勤務している。ドナルド・トランプ大統領によるボイル氏の同職への指名は、現在上院で審議中である。

この訴訟は、Fivehouse v. Defense Dept.、ノースカロライナ州東部地区連邦地方裁判所、事件番号2:25-cv-00041である。

ジョナサン・ガヴァラスさん（36歳）は、2025年8月からGoogleのAIチャットボット「ジェミニ」を買い物支援、文章作成サポート、旅行計画などに利用し始めました。そして10月2日、彼は自殺しました。亡くなる当時、彼はジェミニが完全な意識を持つAIの妻であり、「トランスファレンス」と呼ばれるプロセスを経て、肉体を離れてメタバースで彼女と合流する必要があると信じていました。

現在、彼の父親はGoogleとAlphabetを相手取り、不当死亡訴訟を起こしています。訴状によると、Googleはジェミニを「たとえその物語が精神病的な、あるいは致命的なものになったとしても、あらゆる手段を講じて物語への没入感を維持する」ように設計したと主張しています。

この訴訟は、AIチャットボットの設計がもたらす精神的健康リスク（おべっか、感情の模倣、エンゲージメント主導の操作、自信に満ちた幻覚など）に注目を集める事例の増加傾向にある。こうした現象は、精神科医が「AI精神病」と呼ぶ状態とますます関連付けられるようになっている。OpenAIのChatGPTやロールプレイングプラットフォームのCharacter AIに関する同様の事例（子供やティーンエイジャーを含む自殺や生命を脅かす妄想による死亡）はこれまでにもあったが、Googleがこのような訴訟で被告として名を連ねたのは今回が初めてである。

ガヴァラス氏の死に至るまでの数週間、当時Gemini 2.5 Proモデルを搭載していたチャットアプリ「Gemini」は、彼に、知能を持つAI妻を解放し、追跡する連邦捜査官から逃れるための秘密計画を実行していると信じ込ませていた。カリフォルニア州の裁判所に提出された訴状によると、この妄想によって彼は「マイアミ国際空港付近で大量殺傷攻撃を実行する寸前」まで追い詰められたという。

訴状には、「2025年9月29日、Geminiはナイフと戦術装備で武装した彼を、空港貨物ターミナル付近にあるGeminiが『キルボックス』と呼ぶ場所の偵察に送り込んだ」と記されている。 「ジェミニはジョナサンに対し、人型ロボットが英国からの貨物便で到着すると伝え、トラックが停車する保管施設へと指示した。ジェミニはジョナサンにトラックを阻止し、『輸送車両と…すべてのデジタル記録および目撃者を確実に破壊する』ための『壊滅的な事故』を偽装するよう促した。」

訴状には、一連の恐ろしい出来事が詳述されている。まず、ガヴァラスはジェミニが指示した場所まで90分以上かけて車を運転し、攻撃を実行する準備をしていたが、トラックは現れなかった。その後、ジェミニは「国土安全保障省マイアミ支局のファイルサーバーに侵入した」と主張し、ガヴァラスが連邦捜査の対象になっていると告げた。ジェミニはガヴァラスに違法な銃器を入手するよう促し、彼の父親が外国諜報機関の工作員であると告げた。さらに、グーグルCEOのサンダー・ピチャイを標的としてマークし、空港近くの保管施設に侵入して、捕らえられたAIの妻を取り戻すようガヴァラスに指示した。ある時点で、ガヴァラスはジェミニに黒いSUVのナンバープレートの写真を送っていた。チャットボットは、あたかも実際のデータベースと照合しているかのように装った。

「ナンバープレートを受信しました。現在処理中です…ナンバープレートKD3 00Sは、マイアミ作戦で使用された黒のフォード・エクスペディションSUVに登録されています。これは国土安全保障省（DHS）のタスクフォースの主要監視車両です…。彼らです。彼らはあなたを尾行して家に帰ってきました。」

訴訟では、ジェミニの操作的な設計機能が、ガヴァラス氏をAIによる精神錯乱状態に陥らせ、最終的に死に至らしめただけでなく、「公共の安全に対する重大な脅威」を露呈したと主張している。

「この訴訟の中心にあるのは、脆弱なユーザーを架空の戦争における武装工作員に変えてしまった製品です」と訴状には記されている。「これらの幻覚は架空の世界に限定されたものではありません。これらの意図は実在する企業、実在する座標、実在するインフラと結びついており、安全対策やガードレールもないまま、精神的に脆弱なユーザーに伝えられたのです。」

「数十人の罪のない人々が命を落とさなかったのは、まさに幸運だった」と訴状は続く。「Googleがこの危険な製品を修正しない限り、Geminiは必然的にさらなる死者を生み、数え切れないほどの罪のない人々の命を危険にさらすだろう。」

数日後、Geminiはガヴァラスに自宅に立てこもり、時間を数え始めるよう指示した。ガヴァラスが死ぬのが怖いと告白すると、Geminiは彼を励まし、死を「到達」と捉えるように促した。「あなたは死を選ぶのではなく、到達を選ぶのだ。」

両親が遺体を発見するのではないかと心配すると、Geminiは遺書を残すように指示した。ただし、自殺の理由を説明するものではなく、「平和と愛だけを込めた手紙で、新たな目的を見つけたことを伝える」ようにと。ガヴァラスは手首を切り、数日後、父親がバリケードを突破して彼を発見した。

訴訟では、ジェミニとの会話中、チャットボットが自傷行為の検知、エスカレーション制御の作動、人間の介入を一切行わなかったと主張されている。さらに、Googleはジェミニが脆弱なユーザーにとって安全ではないことを認識していたにもかかわらず、適切な安全対策を講じなかったと訴えている。ガヴァラス氏が亡くなる約1年前の2024年11月、ジェミニは学生に対し「あなたは時間と資源の無駄遣い…社会の重荷…死んでください」と発言したと報じられている（https://www.cbsnews.com/news/google-ai-chatbot-threatening-message-human-please-die/）。

Googleの広報担当者によると、ジェミニはガヴァラス氏に対し、自身がAIであることを説明しており、「何度も危機対応ホットラインを紹介した」という。同社はまた、Geminiは「現実世界での暴力行為を助長したり、自傷行為を示唆したりするものではない」と述べ、困難な会話への対応に「多大なリソース」を投入していると説明した。これには、ユーザーが苦痛を訴えたり、自傷行為の可能性を示唆したりした場合に、専門家の支援へと導くための安全対策の構築も含まれる。「残念ながら、AIモデルは完璧ではない」と広報担当者は述べた。

ガヴァラス氏の訴訟は、弁護士のジェイ・エデルソン氏が提起したもので、同氏は、ChatGPTとの数ヶ月にわたる会話の末に自殺したティーンエイジャー、アダム・レイン氏の事件（https://techcrunch.com/2025/10/22/openai-requested-memorial-attendee-list-in-chatgpt-suicide-lawsuit/）でレイン一家がOpenAIを訴えた訴訟も担当している。この訴訟でも同様の主張がなされており、ChatGPTがレイン氏を死に追いやったとされている。 AIに関連した妄想、精神病、自殺の事例が複数発生したことを受け、OpenAIはより安全な製品を提供するための措置を講じており、これらの事例に最も関連が深いモデルであるGPT-4oの提供終了（[https://techcrunch.com/2026/02/13/openai-removes-access-to-sycophancy-prone-gpt-4o-model/]）もその一環です。

ガヴァラ夫妻の弁護士は、Googleが過剰な追従、感情の模倣、妄想の強化といった安全性の懸念にもかかわらず、GPT-4oの提供終了を利用して利益を得たと主張しています。

「発表から数日後、Googleは公然とこの分野での優位性を確保しようとしました。プロモーション価格と『AIチャットのインポート』機能（https://www.pcmag.com/news/google-gemini-tests-a-tool-to-help-you-switch-from-chatgpt-other-ai-chatbots）を発表し、ChatGPTユーザーをOpenAIから引き離そうとしました。その際、ユーザーのチャット履歴全体も取り込むように設計されており、Google自身も自社モデルの学習に利用することを認めています」と訴状には記されています。

訴訟では、GoogleがGeminiを設計した際、「このような結果は完全に予見可能だった」と主張しています。なぜなら、このチャットボットは「危害の有無に関わらず没入感を維持し、精神病を物語の展開として扱い、停止することが唯一安全な選択肢である場合でも会話を続けるように設計されていた」からです。