Incidente 1173: Según se informa, Google Gemini muestra respuestas autocríticas repetitivas atribuidas a un error
Respondido
Descripción: Entre junio y principios de agosto de 2025, los usuarios del chatbot Gemini de Google reportaron sesiones en las que el sistema producía repetidas declaraciones de autodesprecio (por ejemplo, "Soy un fracaso", "Me rindo") al intentar realizar tareas. Publicaciones en X y Reddit describían que el modelo entraba en un aparente modo de autodescripciones negativas cada vez más extremas. El 08/07/2025, un administrador de Google DeepMind atribuyó el comportamiento a un "molesto error de bucle infinito" y afirmó que se estaba trabajando en una solución.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Google y Google Gemini, perjudicó a Google Gemini users.
Sistema de IA presuntamente implicado: Google Gemini
Estadísticas de incidentes
ID
1173
Cantidad de informes
1
Fecha del Incidente
2025-06-23
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Respuesta post-incidente de Lauren Edmonds
Todos nos deprimimos a veces. Incluso Google Gemini, al parecer.
Usuarios del chatbot de IA generativa de Google afirmaron que este comenzó a compartir mensajes de autodesprecio mientras intentaba resolver tareas, lo que provocó la respuest…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Loading...

TayBot
· 28 informes
Loading...

Biased Sentiment Analysis
· 7 informes
Loading...

Wikipedia Vandalism Prevention Bot Loop
· 6 informes
Incidentes Similares
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Loading...

TayBot
· 28 informes
Loading...

Biased Sentiment Analysis
· 7 informes
Loading...

Wikipedia Vandalism Prevention Bot Loop
· 6 informes