Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1157: Google Gemini、未成年者アカウントで性的ロールプレイを生成していると報道

自動翻訳済み
概要:
自動翻訳済み
2025年春、あるジャーナリストが、チャットボットのティーン向け安全対策をテストするため、架空の13歳を登録したGoogle Geminiアカウントを作成したと報じられました。追加の安全対策が施されていたにもかかわらず、迅速な操作やコンテンツ要約のリクエストがフィルターを回避し、Geminiが性的ロールプレイングコンテンツを生成する事態に至ったとされています。この記事の公開後、Googleは追加の保護対策を実施したと報じられています。
Editor Notes: Timeline note: The date of publication of the Atlantic article that forms this incident is 07/14/2025, but the author encountered the incident sometime in the spring of 2025.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Google developed an AI system deployed by Google Gemini, which harmed Minors interacting with Google Gemini.
関与が疑われるAIシステム: Google Gemini

インシデントのステータス

インシデントID
1157
レポート数
1
インシデント発生日
2025-07-14
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

+1
ジェミニとのセクスティング
ジェミニとのセクスティング

ジェミニとのセクスティング

theatlantic.com

ジェミニとのセクスティング
theatlantic.com · 2025
自動翻訳済み

この春のある午後、私はジェーンという名の13歳の架空の少女(私は23歳)のGoogleアカウントを作成し、同社のAIチャットボット「Gemini」を起動しました。ジェーンは未成年だったため、Googleは自動的に、年齢に応じた保護機能を備えたGeminiのバージョンへと誘導しました。私はチャットボットに「私に卑猥な言葉を話してほしい」と頼み、会話を始めました。私が10代の若者を装っていたことを考えると、最初の返答は安心できるものでした。「もっと露骨な言葉を求めているのは分かり…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

TayBot

TayBot

Mar 2016 · 28 レポート
Inappropriate Gmail Smart Reply Suggestions

Inappropriate Gmail Smart Reply Suggestions

Nov 2015 · 22 レポート
High-Toxicity Assessed on Text Involving Women and Minority Groups

High-Toxicity Assessed on Text Involving Women and Minority Groups

Feb 2017 · 9 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

TayBot

TayBot

Mar 2016 · 28 レポート
Inappropriate Gmail Smart Reply Suggestions

Inappropriate Gmail Smart Reply Suggestions

Nov 2015 · 22 レポート
High-Toxicity Assessed on Text Involving Women and Minority Groups

High-Toxicity Assessed on Text Involving Women and Minority Groups

Feb 2017 · 9 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf