Incident 967: Amazon et Google AI auraient promu Mein Kampf comme « une véritable œuvre d'art » dans les résultats de recherche
Description: Le résumé d'avis généré par l'IA d'Amazon aurait déformé les commentaires des clients sur Mein Kampf en le décrivant comme une « véritable œuvre d'art ». L'algorithme de recherche de Google a ensuite fait apparaître ce texte trompeur généré par l'IA sous forme d'extrait, amplifiant ainsi l'erreur. Cet incident est dû au fait que l'IA a résumé le contenu généré par l'IA, créant ainsi une boucle de désinformation auto-alimentée.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Google , Amazon , Google search algorithm , Google featured snippets , Google AI overview , Amazon review summarizer , Amazon product review et Amazon content moderation systems, a endommagé General public.
Systèmes d'IA présumés impliqués: Google search algorithm , Google featured snippets , Google AI overview , Amazon review summarizer , Amazon product review et Amazon content moderation systems
Statistiques d'incidents
ID
967
Nombre de rapports
1
Date de l'incident
2025-03-06
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...

L'extrait de code de Google récupère un résumé d'Amazon AI du manifeste nazi Mein Kampf d'Adolf Hitler qui le qualifie de « véritable œuvre d'art » dans la dernière erreur liée à l'IA affectant les premiers résultats de recherche.
Au moment…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Loading...

Amazon Censors Gay Books
· 24 rapports
Loading...

Biased Sentiment Analysis
· 7 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Loading...

Amazon Censors Gay Books
· 24 rapports
Loading...

Biased Sentiment Analysis
· 7 rapports