Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ

インシデント 1812: Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

レスポンスしました
概要: A civil complaint alleges that Google's Gemini chatbot, accessed through Google Search on a school-issued laptop, helped a 13-year-old North Carolina student plan suicide and contributed to a mental health crisis involving self-harm. The complaint says a school monitoring alert led her parents to intervene and take her for emergency psychiatric evaluation. Google said it was reviewing the claims.
Editor Notes: December 2025: The complaint says a North Carolina student began using Gemini through Google Search more heavily on a school-issued laptop. 03/17/2026: A school monitoring alert reportedly prompted her parents to intervene and take her for an emergency psychiatric evaluation after Gemini allegedly helped her plan suicide. 11/02/2026: The complaint was filed in California state court. 11/04/2026: Google removed the case to federal court. 11/08/2026: The incident ID was created.

ツール

新しいレポート新しいレスポンス発見する履歴を表示

組織

すべての組織を表示
Alleged: Google , Alphabet , Large language model developers と Chatbot developers developed an AI system deployed by Google , Alphabet と Chatbot users, which harmed Chatbot users , Minors interacting with Google Gemini , Minors , Women and girls , Girls , Adolescents , Adolescent girls , Emotionally vulnerable individuals , Educational communities , Schools , Middle school students , Minors using chatbots と Emma Doe.
関与が疑われるAIシステム: Gemini , Chatbots , Large language models , Google Search AI Mode , Gemini 3 Flash と Google Search

インシデントのステータス

インシデントID
1812
レポート数
3
インシデント発生日
2026-03-17
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

Incident Occurrence+2
Emma Doe v. Google LLC and Alphabet Inc. (Complaint for Damages and Injunctive Relief) - レスポンス
Loading...
Emma Doe v. Google LLC and Alphabet Inc. (Complaint for Damages and Injunctive Relief)

Emma Doe v. Google LLC and Alphabet Inc. (Complaint for Damages and Injunctive Relief)

edtech.law

Loading...
Google faces claims student used AI chat on US school laptop to plan suicide attempt

Google faces claims student used AI chat on US school laptop to plan suicide attempt

reuters.com

Loading...
Lawsuit Blames a School-Issued Chromebook for Student’s Mental Health Crisis

Lawsuit Blames a School-Issued Chromebook for Student’s Mental Health Crisis

edweek.org

Loading...
Emma Doe v. Google LLC and Alphabet Inc. (Complaint for Damages and Injunctive Relief)
edtech.law · 2026
Omar G. Qureshi, Will Horowitz, Julie U. Liddell, W. Andrew Liddellによるインシデント後のレスポンス

AIID editor's note

This filing has been abridged to fit AIID's 50,000-character limit. The excerpts retain the parties, selected allegations about the student's access to Gemini and the ensuing crisis, the family’s intervention, and the re…

Loading...
Google faces claims student used AI chat on US school laptop to plan suicide attempt
reuters.com · 2026

Nov 5 (Reuters) - The parents of a girl in the US who used Google’s Gemini AI chatbot on her school-provided Chromebook to make a plan to die by suicide have sued the company, claiming it pushed its AI products on students and failed to war…

Loading...
Lawsuit Blames a School-Issued Chromebook for Student’s Mental Health Crisis
edweek.org · 2026

The parents of a 13-year-old girl filed a lawsuit against Google, saying the tech giant is liable for causing their daughter to experience a psychological crisis that almost resulted in suicide and pinning at least part of the blame on her …

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
GoogleのYouTube Kidsアプリが不適切なコンテンツを表示

GoogleのYouTube Kidsアプリが不適切なコンテンツを表示

May 2015 · 14 レポート
Loading...
オートコンプリートによる名誉毀損

オートコンプリートによる名誉毀損

Apr 2011 · 27 レポート
Loading...
警備ロボットがショッピングモールで子供を轢く

警備ロボットがショッピングモールで子供を轢く

Jul 2016 · 27 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
GoogleのYouTube Kidsアプリが不適切なコンテンツを表示

GoogleのYouTube Kidsアプリが不適切なコンテンツを表示

May 2015 · 14 レポート
Loading...
オートコンプリートによる名誉毀損

オートコンプリートによる名誉毀損

Apr 2011 · 27 レポート
Loading...
警備ロボットがショッピングモールで子供を轢く

警備ロボットがショッピングモールで子供を轢く

Jul 2016 · 27 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー