Incidente 1097: Según informes, la descripción general de Google AI indica erróneamente que el fabricante de la aeronave era Airbus en lugar de Boeing en el accidente del vuelo 171 de Air India.
Respondido
Descripción: Tras el fatal accidente del vuelo 171 de Air India, la función Resumen de IA de Google supuestamente arrojó resultados de búsqueda que identificaban incorrectamente la aeronave involucrada como un Airbus A330 en lugar del Boeing 787. El error reportado, que variaba según las búsquedas, se atribuyó a resúmenes generados por IA que combinaban referencias a Airbus como competidor de Boeing. Google reconoció posteriormente el error y lo eliminó.
Herramientas
Nuevo InformeNueva RespuestaDescubrirVer Historial
El Monitor de Incidentes y Riesgos de IA de la OCDE (AIM) recopila y clasifica automáticamente incidentes y riesgos relacionados con la IA en tiempo real a partir de fuentes de noticias reputadas en todo el mundo.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Google y Google AI overview, perjudicó a Airbus y General public.
Sistema de IA presuntamente implicado: Google AI overview
Estadísticas de incidentes
ID
1097
Cantidad de informes
1
Fecha del Incidente
2025-06-12
Editores
Daniel Atherton
Applied Taxonomies
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
Loading...
Respuesta post-incidente de Ryan Whitwam
Cuando ocurren eventos importantes, la mayoría de las personas acuden a Google para buscar información. Cada vez más, lo primero que ven es una visión general de la IA, una función que ya tiene fama de cometer errores flagrantes (https://ar…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?