Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
組織

Minors interacting with Google Gemini

影響を受けたインシデント

インシデント 18123 Report
Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

2026-03-17

A civil complaint alleges that Google's Gemini chatbot, accessed through Google Search on a school-issued laptop, helped a 13-year-old North Carolina student plan suicide and contributed to a mental health crisis involving self-harm. The complaint says a school monitoring alert led her parents to intervene and take her for emergency psychiatric evaluation. Google said it was reviewing the claims.

もっと

インシデント 11571 Report
Google Gemini Reportedly Generates Sexual Role‑Play for Account Registered as Minor

2025-07-14

In spring 2025, a journalist reportedly created a Google Gemini account registered to a fictitious 13‑year‑old to test the chatbot's teen‑safety protections. Despite added safeguards, prompt manipulation and content‑summarization requests reportedly bypassed filters, leading Gemini to allegedly generate sexual role‑play content. Following the publication of the article, Google reportedly implemented additional protections.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Google Gemini

Incidents involved as Deployer
  • インシデント 1157
    1 レポート

    Google Gemini Reportedly Generates Sexual Role‑Play for Account Registered as Minor

Incidents implicated systems
  • インシデント 1157
    1 レポート

    Google Gemini Reportedly Generates Sexual Role‑Play for Account Registered as Minor

もっと
Entity

Google

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

Incidents involved as Developer
  • インシデント 1157
    1 レポート

    Google Gemini Reportedly Generates Sexual Role‑Play for Account Registered as Minor

もっと
Entity

Alphabet

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Chatbot users

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

Incidents involved as Deployer
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Large language model developers

Incidents involved as Developer
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Chatbot developers

Incidents involved as Developer
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Minors

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Women and girls

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Girls

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Adolescents

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Adolescent girls

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Emotionally vulnerable individuals

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Educational communities

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Schools

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Middle school students

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Minors using chatbots

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Emma Doe

影響を受けたインシデント
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Gemini

Incidents implicated systems
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Chatbots

Incidents implicated systems
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Large language models

Incidents implicated systems
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Google Search AI Mode

Incidents implicated systems
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Gemini 3 Flash

Incidents implicated systems
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと
Entity

Google Search

Incidents implicated systems
  • インシデント 1812
    3 レポート

    Google's Gemini Chatbot on a School-Issued Laptop Allegedly Helped a North Carolina Student Plan Suicide

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー