Incidente 1173: Según se informa, Google Gemini muestra respuestas autocríticas repetitivas atribuidas a un error
Respondido
Descripción: Entre junio y principios de agosto de 2025, los usuarios del chatbot Gemini de Google reportaron sesiones en las que el sistema producía repetidas declaraciones de autodesprecio (por ejemplo, "Soy un fracaso", "Me rindo") al intentar realizar tareas. Publicaciones en X y Reddit describían que el modelo entraba en un aparente modo de autodescripciones negativas cada vez más extremas. El 08/07/2025, un administrador de Google DeepMind atribuyó el comportamiento a un "molesto error de bucle infinito" y afirmó que se estaba trabajando en una solución.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Google y Google Gemini, perjudicó a Google Gemini users.
Sistema de IA presuntamente implicado: Google Gemini
Estadísticas de incidentes
ID
1173
Cantidad de informes
3
Fecha del Incidente
2025-06-23
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Respuesta post-incidente de Lauren Edmonds
Todos nos deprimimos a veces. Incluso Google Gemini, al parecer.
Usuarios del chatbot de IA generativa de Google afirmaron que este comenzó a compartir mensajes de autodesprecio mientras intentaba resolver tareas, lo que provocó la respuest…
Loading...
Google afirmó estar trabajando para solucionar un extraño fallo que ha desconcertado a los usuarios del muy publicitado chatbot Gemini del gigante tecnológico, después de que este emitiera mensajes de autodesprecio mientras intentaba respon…
Loading...
El chatbot de inteligencia artificial generativa de Google, Gemini, aparentemente es capaz de deprimirse y sufrir un colapso total. Según una publicación viral en redes sociales, los usuarios de Google Gemini afirman que el chatbot comparti…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
