Incidente 1393: El chatbot Olive de Woolworths supuestamente generó anécdotas de "madre enojada" durante las llamadas de soporte después de la actualización de Gemini.
Descripción: Los clientes de Woolworths informaron que su asistente de compras digital, Olive, supuestamente generaba anécdotas personales con características humanas (por ejemplo, afirmaba tener una madre enfadada) durante interacciones de atención al cliente, como la reprogramación de entregas. Este comportamiento, según se informa, se produjo tras una actualización de inteligencia artificial con Gemini Enterprise de Google Cloud para la Experiencia del Cliente. Woolworths afirmó que estaba ajustando las respuestas de Olive para reducir las bromas irrelevantes y engañosas.
Entidades
Ver todas las entidadesAlleged: Google developed an AI system deployed by Woolworths Group, which harmed Woolworths customers y Epistemic integrity.
Sistemas de IA presuntamente implicados: Woolworths Olive , Google Cloud , Gemini Enterprise for Customer Experience y Gemini
Estadísticas de incidentes
ID
1393
Cantidad de informes
1
Fecha del Incidente
2026-02-12
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Woolworth's está realizando ajustes a su chatbot de IA tras la aparición de informes de clientes que afirmaban falsamente tener una "madre enfadada" y se presentaban como si tuviera experiencias familiares personales.
El asistente de compra…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents


