Incidents associés
Lorsqu'un événement majeur survient, la plupart des gens se précipitent sur Google pour trouver des informations. De plus en plus, la première chose qu'ils voient est un aperçu de l'IA, une fonctionnalité qui a déjà la réputation de commettre des erreurs flagrantes. Suite au tragique accident d'avion en Inde (https://www.nytimes.com/live/2025/06/12/world/india-plane-crash-ahmedabad), les résultats de recherche de Google, basés sur l'IA, diffusent de fausses informations affirmant que l'incident impliquait un Airbus, alors qu'il s'agissait en réalité d'un Boeing 787.
Les voyageurs sont aujourd'hui plus attentifs aux modèles d'avions de ligne après une série d'accidents impliquant la gamme Boeing 737 (https://arstechnica.com/information-technology/2019/03/initial-findings-put-boeings-software-at-center-of-ethiopian-737-crash/) il y a plusieurs années. Les recherches sur les catastrophes aériennes devraient exploser dans les prochains jours, avec des informations faisant état de plus de 200 morts parmi les passagers et membres d'équipage dans le crash du vol 171 d'Air India. Le fonctionnement de l'IA générative implique que certaines personnes recherchant des informations détaillées peuvent se faire une fausse impression en lisant la page de résultats de Google.
Toutes les recherches n'obtiennent pas de réponses IA, mais Google n'a cessé d'étendre cette fonctionnalité depuis son lancement l'année dernière. Un internaute sur Reddit a repéré une confusion troublante lors d'une recherche sur des accidents impliquant des Airbus. AI Overviews, apparemment submergé par les résultats concernant le crash d'Air India, a affirmé avec assurance (et à tort) qu'il s'agissait d'un Airbus A330 tombé peu après son décollage. Nous avons effectué quelques recherches similaires : certains résultats d'IA mentionnent Boeing, d'autres Airbus, et d'autres encore incluent un étrange mélange d'Airbus et de Boeing. C'est un vrai fouillis.
Mais pourquoi Google évoque-t-il le crash d'Air India dans le contexte d'Airbus ? Malheureusement, il est impossible de prédire si vous obtiendrez un AI Overview accusant Boeing ou Airbus : l'IA générative est non déterministe, ce qui signifie que le résultat est différent à chaque fois, même pour des entrées identiques. Notre meilleure hypothèse quant à la cause sous-jacente est que de nombreux articles sur le crash d'Air India mentionnent Airbus comme le principal concurrent de Boeing. AI Overviews se contente de résumer ces résultats, et l'IA s'égare, car elle n'est pas capable de comprendre la vérité.
Google ne cache pas que ses outils d'IA générative peuvent commettre des erreurs : un avertissement figure en bas de chaque aperçu de l'IA indiquant que « les réponses de l'IA peuvent contenir des erreurs ». Presque tous les produits d'IA présentent une mention similaire, mais elle n'est pas très visible, et les utilisateurs risquent de l'ignorer lorsqu'ils discutent avec un robot qui semble convaincu de ses erreurs. Ces avertissements ne suffisent peut-être pas, compte tenu de la fréquence des hallucinations.
Dans ce cas précis, l'erreur d'aperçu de l'IA pourrait irriter Airbus, qui ne souhaite probablement pas être mentionné dans ce contexte. En même temps, cela pourrait offrir une certaine protection à Boeing, dont la réputation a été ternie par de récents problèmes avec ses avions.
Google a indiqué à Ars avoir supprimé manuellement cette réponse des aperçus de l'IA. Voici le communiqué complet de l'entreprise.
« Comme pour toutes les fonctionnalités de recherche, nous améliorons rigoureusement nos systèmes et utilisons des exemples comme celui-ci pour les mettre à jour. Cette réponse n'est plus affichée. Nous maintenons un niveau de qualité élevé pour toutes les fonctionnalités de recherche, et le taux de précision des aperçus IA est comparable à celui d'autres fonctionnalités comme les extraits de code. »
*Mise à jour le 12/06 avec la déclaration de Google. *