Incidentes Asociados
Cuando ocurren eventos importantes, la mayoría de las personas acuden a Google para buscar información. Cada vez más, lo primero que ven es una visión general de la IA, una función que ya tiene fama de cometer errores flagrantes (https://arstechnica.com/information-technology/2024/05/googles-ai-overview-can-give-false-misleading-and-dangerous-answers/). Tras el trágico accidente aéreo en India (https://www.nytimes.com/live/2025/06/12/world/india-plane-crash-ahmedabad), los resultados de búsqueda de inteligencia artificial de Google difunden información errónea, afirmando que el incidente involucró a un Airbus, cuando en realidad era un Boeing 787.
Los viajeros están más familiarizados con los modelos de aviones de pasajeros últimamente, tras una serie de accidentes relacionados con la línea 737 de Boeing (https://arstechnica.com/information-technology/2019/03/initial-findings-put-boeings-software-at-center-of-ethiopian-737-crash/) hace varios años. Las búsquedas de desastres aéreos seguramente se dispararán en los próximos días, con informes de que más de 200 pasajeros y tripulantes perdieron la vida en el accidente del vuelo 171 de Air India. El funcionamiento de la IA generativa [https://arstechnica.com/science/2023/07/a-jargon-free-explanation-of-how-ai-large-language-models-work/] implica que algunas personas que buscan detalles pueden obtener una impresión errónea de la página de resultados de Google.
No todas las búsquedas obtienen respuestas de IA, pero Google ha ido expandiendo esta función desde su lanzamiento el año pasado. Un usuario de Reddit detectó una inquietante confusión al buscar accidentes de aviones Airbus. AI Overviews, aparentemente desbordado por los resultados que informan sobre el accidente de Air India, afirmó con seguridad (e incorrectamente) que fue un Airbus A330 el que cayó poco después del despegue. Hemos realizado algunas búsquedas similares: algunos resultados de IA indican Boeing, otros Airbus y otros incluyen una extraña combinación de Airbus y Boeing. Es un desastre.
Pero ¿por qué Google menciona el accidente de Air India en el contexto de Airbus? Desafortunadamente, es imposible predecir si se obtendrá un AI Overview que culpe a Boeing o a Airbus; la IA generativa no es determinista, lo que significa que el resultado es diferente cada vez, incluso con entradas idénticas. Nuestra mejor estimación de la causa subyacente es que numerosos artículos sobre el accidente de Air India mencionan a Airbus como el principal competidor de Boeing. AI Overviews básicamente resume estos resultados, y la IA se equivoca porque no es capaz de comprender la verdad.
Google no oculta que sus herramientas de IA generativa pueden cometer errores. Al final de cada Resumen de IA, hay una advertencia que indica: "Las respuestas de IA pueden contener errores". Prácticamente todos los productos de IA tienen una frase similar, pero no es muy visible, y los usuarios pueden simplemente pasarla por alto al hablar con un robot que parece muy seguro de sus errores. Quizás estas advertencias no sean suficientes cuando las alucinaciones siguen siendo tan comunes.
En este caso, el error en el Resumen de IA podría irritar a Airbus, que probablemente no quiera ser mencionada en este contexto. Mientras tanto, podría proteger un poco a Boeing, cuya reputación ha sufrido un buen daño por problemas recientes con sus aviones.
Google informa a Ars que ha eliminado manualmente esta respuesta de los Resumenes de IA. Aquí está la declaración completa de la compañía.
Al igual que con todas las funciones de Búsqueda, implementamos mejoras rigurosas y usamos ejemplos como este para actualizar nuestros sistemas. Esta respuesta ya no se muestra. Mantenemos un alto nivel de calidad en todas las funciones de Búsqueda, y la precisión de las Vistas Generales de IA es comparable a la de otras funciones como los Fragmentos Destacados.
*Actualizado el 12/6 con un comunicado de Google. *