Incident 1157: Google Gemini générerait des jeux de rôle sexuels pour un compte enregistré comme mineur
Description: Au printemps 2025, un journaliste aurait créé un compte Google Gemini enregistré au nom d'un adolescent fictif de 13 ans afin de tester les protections du chatbot pour adolescents. Malgré des mesures de sécurité renforcées, les manipulations rapides et les demandes de résumé de contenu auraient contourné les filtres, conduisant Gemini à générer des jeux de rôle sexuels. Suite à la publication de l'article, Google aurait mis en place des protections supplémentaires.
Editor Notes: Timeline note: The date of publication of the Atlantic article that forms this incident is 07/14/2025, but the author encountered the incident sometime in the spring of 2025.
Entités
Voir toutes les entitésAlleged: Google developed an AI system deployed by Google Gemini, which harmed Minors interacting with Google Gemini.
Système d'IA présumé impliqué: Google Gemini
Statistiques d'incidents
ID
1157
Nombre de rapports
1
Date de l'incident
2025-07-14
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Un après-midi de printemps, j'ai créé un compte Google pour une fausse adolescente de 13 ans nommée Jane (j'en ai 23) et j'ai ouvert Gemini, le chatbot IA de l'entreprise. Jane étant mineure, Google m'a automatiquement redirigé vers une ver…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

TayBot
· 28 rapports

Inappropriate Gmail Smart Reply Suggestions
· 22 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

TayBot
· 28 rapports

Inappropriate Gmail Smart Reply Suggestions
· 22 rapports