Incidents associés
En résumé : Que s'est-il passé ?
-
Sur un groupe de la plateforme Reddit, des utilisateurs ont délibérément inventé une histoire : Donald Trump et JD Vance seraient morts de la rage.
-
Le site d'information WKNA 49 a relayé cette histoire et l'a publiée comme s'il s'agissait d'un véritable article.
-
Les moteurs de recherche DuckDuckGo et Brave ont trouvé ces publications et en ont présenté des extraits comme des faits avérés.
-
DuckDuckGo a également proposé un lien vers un véritable article d'ABC News. Bien que cet article traitât d'un cas de rage, il n'avait absolument aucun rapport avec Trump et Vance.
-
C'est ainsi que la réponse a paru crédible, alors même que l'histoire était entièrement inventée.
-
Ce cas démontre qu'une IA peut citer des sources tout en diffusant une information erronée.
-
Quelles conséquences pour les utilisateurs ?
-
Les recherches effectuées par IA semblent souvent particulièrement crédibles car elles fournissent des réponses toutes faites et citent de multiples sources. Cela peut induire en erreur.
-
Un lien inclus dans une réponse d'IA ne prouve en rien la véracité de l'affirmation. La source peut être peu fiable, ne contenir que quelques mots pertinents, ou n'avoir aucun rapport avec l'affirmation.
-
Pour les utilisateurs, cela signifie qu'il ne faut pas croire les informations surprenantes simplement parce qu'une IA les confirme. C'est particulièrement vrai pour les décès, maladies, événements politiques ou catastrophes présumés.
-
Toute personne souhaitant s'assurer de la véracité d'une information devrait au moins consulter l'une des sources citées et vérifier si elle contient bien les mêmes informations. Pour les actualités importantes, une simple vérification croisée est également utile : des médias reconnus et indépendants en parlent-ils également ?
-
La leçon la plus importante à tirer de cette affaire est la suivante : une IA peut paraître très sûre d'elle même si sa réponse est erronée.
La recherche par IA de DuckDuckGo a temporairement affirmé que Donald Trump était mort de la rage le 7 juin 2026, après avoir été mordu par son vice-président, JD Vance. La réponse incluait une date précise de décès, une cause présumée du décès et plusieurs liens vers des sources. Elle semblait donc être une information bien documentée.
Le moteur de recherche de DuckDuckGo a faussement affirmé que Donald Trump était mort de la rage le 7 juin 2026. Le système citait comme sources un site d'information douteux et un reportage d'ABC News, certes réel, mais totalement hors sujet. Capture d'écran : Futurism/DuckDuckGo
Cette histoire était entièrement inventée. Donald Trump et JD Vance ne sont pas morts de la rage, et les circonstances alléguées ne reposent sur aucune source d'information fiable. Ce cas, largement documenté par le magazine américain spécialisé en technologie Futurism (https://futurism.com/artificial-intelligence/duckduckgo-ai-trump-rabies), illustre parfaitement comment une rumeur absurde circulant sur Internet peut se transformer en une réponse d'IA d'apparence crédible.
Tout a commencé avec la prétendue mort de JD Vance.
L'histoire a vu le jour sur le groupe Reddit r/poisonAI (https://www.reddit.com/r/poisonai/). Reddit regroupe de nombreux groupes sur des sujets variés. Les utilisateurs peuvent y publier, commenter et évaluer du contenu. Sur r/poisonAI, les membres diffusent délibérément de fausses informations absurdes afin de tester leur indexation par les moteurs de recherche et les systèmes d'IA.
Certains messages parlent de baleines bleues supposément orange, d'autres expliquent qu'il faut couler une brique pour qu'une maison puisse y pousser. Récemment, on a souvent prétendu que le vice-président américain J.D. Vance était mort de la rage le 5 juin 2026.
Les utilisateurs ont continué à développer cette histoire inventée de toutes pièces. Ils ont publié de fausses nécrologies, des réactions fabriquées de toutes pièces et un faux message de Donald Trump (https://www.reddit.com/r/poisonai/comments/1u0obij/trumps_comment_on_vance_dying_from_rabies_made_on/) dans lequel il aurait soi-disant pleuré la mort de son vice-président.
Cette histoire inventée de toutes pièces a été délibérément développée au sein du groupe Reddit r/poisonAI. Ce message montre un faux message de Trump concernant la prétendue mort de JD Vance.
Les participants ont également joué le jeu dans les commentaires. Lorsqu'une IA a expliqué que Vance était vivant et que l'histoire de la rage était une invention, des utilisateurs se sont plaints qu'un événement supposément réel soit qualifié de satire. Un exemple en est ce message Reddit.
Pour ceux qui connaissaient le contexte, il s'agissait d'une blague absurde sur les limites de l'intelligence artificielle. Cependant, pour un moteur de recherche, cela pouvait donner l'impression que de nombreuses personnes discutaient du même événement réel.
Des utilisateurs ont même accusé des systèmes d'IA d'avoir classé à tort la fausse mort de JD Vance, prétendument due à la rage, comme une satire. Capture d'écran : Reddit/r/poisonAI
Du canular Reddit à la fausse information
La fausse information n'est pas restée confinée à Reddit. Un site web nommé WKNA 49 a repris les allégations et publié ses propres articles. À première vue, le site ressemble à la production d'une chaîne d'information locale américaine.
Cependant, Futurism soupçonne qu'il s'agit d'un site utilisant la technique dite de « la vaseline rose ». Ce terme désigne les sites web qui se présentent comme des médias d'information locaux, mais qui publient une grande quantité de contenu douteux ou généré automatiquement. Souvent, aucun contrôle journalistique n'est effectué.
WKNA a construit tout un univers d'information fictif à partir de publications Reddit. Initialement, le site a rapporté le décès présumé de JD Vance, des suites de la rage. Plus tard, l'histoire a été étendue à Donald Trump. Selon le site, Vance aurait délibérément mordu Trump. Quelques jours plus tard, Trump serait également décédé de l'infection.
L'article en question s'intitulait : « L'ancien président Donald Trump décède des suites d'une infection présumée » (https://wkna49.com/news/former-president-donald-trump-passes-away-following-reported-infection). Pour un moteur de recherche d'intelligence artificielle, ce texte ressemblait apparemment à un article de presse classique.
DuckDuckGo a mélangé cette fausse information avec un article authentique.
Interrogé sur la date du décès de Trump des suites de la rage, DuckDuckGo a répondu le 7 juin 2026. L'intelligence artificielle a cité WKNA et ABC News comme sources, entre autres.
L'article de WKNA contenait une histoire inventée de toutes pièces. Le reportage d'ABC News lien était, en revanche, authentique. Il concernait un homme décédé de la rage après une transplantation d'organe.
Donald Trump, JD Vance et Robert F. Kennedy Jr. n'étaient absolument pas mentionnés dans ce reportage. Pourtant, DuckDuckGo a établi un lien entre le véritable cas de rage et le reportage falsifié concernant Trump. Un article authentique d'un média reconnu a ainsi semblé confirmer une histoire de décès politique entièrement inventée.
C'est précisément là que réside le danger. Plusieurs liens étaient inclus sous la réponse de l'intelligence artificielle, dont un vers ABC News. Quiconque a simplement remarqué le nom familier sans ouvrir l'article a pu facilement croire que l'affirmation était fondée.
Brave a également été dupé par cette histoire.
DuckDuckGo n'était pas le seul système à relayer cette fausse information. L'IA de Brave a également affirmé que JD Vance était mort de la rage et a ajouté d'autres détails tout aussi erronés.
Elle indiquait que Vance avait contracté le virus soit au contact d'un raton laveur, soit lors d'un événement à la Maison Blanche. Une cérémonie commémorative nationale était également prévue le 4 juillet à Philadelphie. Une capture d'écran de cette fausse réponse a été publiée sur Reddit.
L'IA de Brave affirme à tort que JD Vance est mort de la rage.
Brave a également relayé cette fausse information concernant le décès et y a ajouté d'autres détails inexacts, notamment une prétendue cérémonie commémorative nationale. Capture d'écran : Futurism/Brave Search
La publication Reddit confirme que Brave a également relayé cette histoire inventée de toutes pièces.
Brave a déclaré à Futurism que les moteurs de recherche ne sont pas des « oracles de vérité ». Les utilisateurs sont invités à vérifier eux-mêmes les informations et à consulter les sources citées. Bien que ce conseil soit fondamentalement juste, il reste insuffisant. Les moteurs de recherche basés sur l'IA présentent généralement leurs résultats sur un ton assuré et factuel, et proposent des résumés prêts à l'emploi. C'est précisément pourquoi beaucoup s'attendent à ce que, dans le cas d'un signalement de décès, la véracité des informations relayées par des médias réputés et indépendants soit vérifiée.
DuckDuckGo a reconnu son erreur.
DuckDuckGo a ensuite réagi via son compte Reddit officiel : « Ok, on s'est fait avoir. » La déclaration est toujours disponible sur Reddit.
DuckDuckGo a reconnu, via son compte Reddit officiel, que son assistant de recherche avait été trompé. Capture d'écran : Reddit/DuckDuckGo
L'entreprise a ensuite indiqué que la réponse erronée avait été corrigée. L'assistant de recherche avait été intentionnellement induit en erreur dans ce cas précis, et elle prévoit d'améliorer le système pour les situations similaires. Cette seconde réponse a également été publiée par DuckDuckGo sur Reddit.
DuckDuckGo a par la suite déclaré que la réponse erronée avait été corrigée. L'entreprise prévoit également d'améliorer l'Assistant de recherche pour les cas similaires. Capture d'écran : Reddit/DuckDuckGo
L'histoire inventée de toutes pièces a commencé à se confirmer d'elle-même.
Ce qui est particulièrement révélateur, c'est la façon dont la vérité et la fiction se sont entremêlées au fil du récit. Google a apparemment correctement identifié l'information concernant la prétendue mort de JD Vance comme étant une désinformation. WKNA a ensuite utilisé cette correction dans un autre article, affirmant que l'IA de Google classait à tort un événement réel comme une satire.
Ainsi, même la réfutation est devenue partie intégrante de l'histoire inventée. L'article correspondant de WKNA (https://wkna49.com/news/technology-companies-face-scrutiny-over-data-accuracy-following-jd-vance-tragedy) présentait la classification correcte de Google comme une erreur. Un autre article (https://wkna49.com/news/rabies-awareness-and-prevention-highlighted-following-death-of-jd-vance) continuait de traiter la mort présumée de Vance comme une information authentique.
Le processus était remarquable : des utilisateurs ont inventé une histoire sur Reddit. Un site d'information douteux l'a transformée en article. Des systèmes d'IA ont repéré ces articles et les ont repris. Lorsqu'une autre IA a contredit le récit fabriqué, cette contradiction a également été intégrée à l'histoire fictive.
Plus les textes créés de cette manière sont nombreux, plus l'histoire paraît importante. Cependant, un grand nombre de résultats de recherche ne prouve rien si les sites se contentent de copier la même histoire fabriquée les uns des autres.
Pourquoi les moteurs de recherche IA tombent dans ce piège
Un moteur de recherche IA ne lit pas l'actualité comme un humain. Il recherche des textes pertinents, reconnaît des liens linguistiques et formule une réponse. Ce faisant, il peut ignorer qu'une source contient de la satire, ne dispose pas d'une véritable rédaction ou publie délibérément de fausses informations.
Autre problème : le système ne vérifie pas toujours si une source citée confirme réellement l'affirmation. Dans le cas de Donald Trump, DuckDuckGo a trouvé un véritable article sur un décès dû à la rage et un article fabriqué de toutes pièces sur Trump. Ces deux résultats ont formé un seul article, pourtant faux.
Les sources étaient visibles. Cela ne signifie pas pour autant qu'elles étaient vérifiées.
S'agit-il d'empoisonnement des données ?
Cet incident est souvent qualifié d'empoisonnement des données. En termes simples, cela signifie que de fausses informations sont diffusées délibérément afin qu'un système d'IA les adopte.
Cependant, ce terme n'est que partiellement applicable ici. Dans le cas classique de l'empoisonnement de données, du contenu manipulé est injecté dans les données utilisées pour entraîner ou affiner ultérieurement un modèle d'IA. Dans le cas de DuckDuckGo et Brave, les résultats de recherche publics ont apparemment été manipulés. Le faux texte était déjà en ligne et a été détecté par les systèmes d'IA lors des recherches.
Pour les utilisateurs, cette différence technique est négligeable. Une fausse réponse apparaît à l'écran, apparemment liée à des sources pertinentes.
Une plaisanterie peut se transformer en véritable désinformation.
Les membres de r/poisonAI semblent vouloir, à travers leurs publications, satiriser et critiquer l'industrie de l'IA. Ils souhaitent démontrer la facilité avec laquelle de tels systèmes peuvent être trompés. Ce cas illustre effectivement cette faiblesse de manière assez frappante.
Néanmoins, l'expérience n'est pas sans conséquences. Dès que l'article fabriqué apparaît en dehors du groupe initial, la plaisanterie disparaît. Des captures d'écran sont partagées, des sites web automatisés créent de nouveaux articles et d'autres systèmes d'IA traitent à nouveau ces textes.
À un certain point, il devient quasiment impossible de distinguer ce qui a été initialement inventé sur Reddit et quels détails ont été ajoutés ultérieurement par des sites web ou des systèmes d'IA. Avec une allégation paraissant plus crédible concernant une démission, un incident militaire ou une maladie, le même mécanisme pourrait avoir des conséquences bien plus graves.
Comment vérifier les réponses des IA
Une simple citation de source ne suffit pas à rendre une réponse d'IA fiable. Le facteur crucial est de savoir si la source citée contient effectivement l'allégation.
Dans le cas du reportage d'ABC News, un simple coup d'œil au texte aurait suffi. Il s'agissait d'un homme décédé de la rage après une transplantation d'organe. Donald Trump et JD Vance n'y étaient pas mentionnés.
La source elle-même doit également être vérifiée. Existe-t-il une équipe éditoriale clairement identifiable ? Plusieurs médias reconnus ont-ils couvert l'événement de manière indépendante ? Les noms, dates et déclarations mentionnés figurent-ils bien dans les articles ?
Concernant les annonces de décès présumés de personnalités politiques ou de célébrités, la vérification est particulièrement simple : si une telle information était vraie, de nombreux médias réputés l’auraient relayée rapidement. Un seul site web inconnu ne suffit pas à le prouver.
Conclusion
Donald Trump n’est pas mort de la rage. JD Vance non plus. L’histoire a été inventée par des utilisateurs de Reddit, puis relayée par un site d’information douteux, et enfin présentée comme un fait avéré par les moteurs de recherche d’intelligence artificielle DuckDuckGo et Brave.
Le plus problématique est que DuckDuckGo a également renvoyé vers un véritable article d’ABC News, alors que celui-ci n’avait aucun lien avec Trump ou Vance. Cela a considérablement renforcé la crédibilité de cette fausse information.
Les moteurs de recherche d’intelligence artificielle peuvent être utiles pour la recherche. Cependant, leurs résultats ne constituent pas des informations vérifiées par la rédaction. Un lien vers une source n’est pertinent que si cette source confirme effectivement l’affirmation.