Incidente 1164: El modelo de inteligencia artificial de Google Healthcare, Med-Gemini, supuestamente produce un término inexistente de "ganglios basilares" en su publicación.
Descripción: Según informes, la inteligencia artificial sanitaria Med-Gemini de Google produjo el término inexistente "ganglios basilares" en los materiales de lanzamiento público, fusionando dos estructuras cerebrales distintas. El error apareció tanto en una entrada de blog como en una preimpresión de arXiv. Se dice que Google editó inicialmente el blog sin mencionarlo, y posteriormente lo calificó de error tipográfico.
Editor Notes: Timeline note: The arXiv preprint (https://arxiv.org/pdf/2405.03162), which reportedly contains the error, is dated 05/06/2024; this date is used for the formal incident ID. Reporting by The Verge was published on 08/04/2025.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Google , Google Med‑Gemini y arXiv, perjudicó a Healthcare professionals relying on AI‑generated diagnostic content , Patients whose care could be affected by undetected AI hallucinations y Medical research community citing or using erroneous AI outputs.
Sistemas de IA presuntamente implicados: Google Med‑Gemini y arXiv
Estadísticas de incidentes
ID
1164
Cantidad de informes
1
Fecha del Incidente
2024-05-06
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Escenario: Un radiólogo examina tu escáner cerebral y detecta una anomalía en los ganglios basales. Se trata de una zona del cerebro que te ayuda con el control motor, el aprendizaje y el procesamiento emocional. El nombre se parece un poco…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Loading...

All Image Captions Produced are Violent
· 28 informes
Loading...

Predictive Policing Biases of PredPol
· 17 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Loading...

All Image Captions Produced are Violent
· 28 informes
Loading...

Predictive Policing Biases of PredPol
· 17 informes