Incident 967: Amazon et Google AI auraient promu Mein Kampf comme « une véritable œuvre d'art » dans les résultats de recherche
Description: Le résumé d'avis généré par l'IA d'Amazon aurait déformé les commentaires des clients sur Mein Kampf en le décrivant comme une « véritable œuvre d'art ». L'algorithme de recherche de Google a ensuite fait apparaître ce texte trompeur généré par l'IA sous forme d'extrait, amplifiant ainsi l'erreur. Cet incident est dû au fait que l'IA a résumé le contenu généré par l'IA, créant ainsi une boucle de désinformation auto-alimentée.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Amazon , Google , Google search algorithm , Google featured snippets , Amazon review summarizer , Amazon product review , Amazon content moderation systems et Google AI overview, a endommagé General public.
Systèmes d'IA présumés impliqués: Google search algorithm , Google featured snippets , Amazon review summarizer , Amazon product review , Amazon content moderation systems et Google AI overview
Statistiques d'incidents
ID
967
Nombre de rapports
1
Date de l'incident
2025-03-06
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
L'extrait de code de Google récupère un résumé d'Amazon AI du manifeste nazi Mein Kampf d'Adolf Hitler qui le qualifie de « véritable œuvre d'art » dans la dernière erreur liée à l'IA affectant les premiers résultats de recherche.
Au moment…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Amazon Censors Gay Books
· 24 rapports
Biased Sentiment Analysis
· 7 rapports
Sexist and Racist Google Adsense Advertisements
· 27 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Amazon Censors Gay Books
· 24 rapports
Biased Sentiment Analysis
· 7 rapports
Sexist and Racist Google Adsense Advertisements
· 27 rapports