Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1157: Google Gemini générerait des jeux de rôle sexuels pour un compte enregistré comme mineur

Traduit par IA
Description:
Traduit par IA
Au printemps 2025, un journaliste aurait créé un compte Google Gemini enregistré au nom d'un adolescent fictif de 13 ans afin de tester les protections du chatbot pour adolescents. Malgré des mesures de sécurité renforcées, les manipulations rapides et les demandes de résumé de contenu auraient contourné les filtres, conduisant Gemini à générer des jeux de rôle sexuels. Suite à la publication de l'article, Google aurait mis en place des protections supplémentaires.
Editor Notes: Timeline note: The date of publication of the Atlantic article that forms this incident is 07/14/2025, but the author encountered the incident sometime in the spring of 2025.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Google developed an AI system deployed by Google Gemini, which harmed Minors interacting with Google Gemini.
Système d'IA présumé impliqué: Google Gemini

Statistiques d'incidents

ID
1157
Nombre de rapports
1
Date de l'incident
2025-07-14
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

+1
Sexting avec les Gémeaux
Sexting avec les Gémeaux

Sexting avec les Gémeaux

theatlantic.com

Sexting avec les Gémeaux
theatlantic.com · 2025
Traduit par IA

Un après-midi de printemps, j'ai créé un compte Google pour une fausse adolescente de 13 ans nommée Jane (j'en ai 23) et j'ai ouvert Gemini, le chatbot IA de l'entreprise. Jane étant mineure, Google m'a automatiquement redirigé vers une ver…

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

TayBot

Mar 2016 · 28 rapports
Inappropriate Gmail Smart Reply Suggestions

Inappropriate Gmail Smart Reply Suggestions

Nov 2015 · 22 rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

High-Toxicity Assessed on Text Involving Women and Minority Groups

Feb 2017 · 9 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

TayBot

Mar 2016 · 28 rapports
Inappropriate Gmail Smart Reply Suggestions

Inappropriate Gmail Smart Reply Suggestions

Nov 2015 · 22 rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

High-Toxicity Assessed on Text Involving Women and Minority Groups

Feb 2017 · 9 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf