Incidentes Asociados
En resumen: ¿Qué sucedió aquí?
-
En un grupo de la plataforma Reddit, los usuarios inventaron deliberadamente una historia: Donald Trump y JD Vance habían muerto de rabia.
-
Un sitio de noticias llamado WKNA 49 retomó esta narrativa y la publicó como si fuera una noticia real.
-
Las búsquedas de IA de DuckDuckGo y Brave encontraron estas publicaciones y presentaron partes de ellas como hechos.
-
DuckDuckGo también enlazó a un artículo real de ABC News. Si bien este artículo trataba sobre un caso de rabia, no tenía absolutamente nada que ver con Trump y Vance.
-
Así es como la respuesta pareció creíble, a pesar de que la historia era completamente inventada.
-
Este caso demuestra que una IA puede citar fuentes y aun así contar una historia falsa.
¿Qué significa esto para los usuarios?
- Las búsquedas de IA a menudo parecen particularmente creíbles porque proporcionan respuestas preelaboradas y citan múltiples fuentes. Esto puede ser engañoso.
Un enlace incluido en la respuesta de una IA no prueba que la afirmación sea cierta. La fuente puede no ser fiable, contener solo unas pocas palabras relevantes o no tener relación alguna con la afirmación en sí.
Para los usuarios, esto significa: No se deben creer las noticias sorprendentes solo porque una IA las confirme. Esto es especialmente cierto en el caso de supuestas muertes, enfermedades, eventos políticos o desastres.
Quien quiera estar seguro debería, como mínimo, abrir una de las fuentes citadas y comprobar si afirma la misma información. En el caso de noticias importantes, una simple verificación cruzada también ayuda: ¿Medios de comunicación reconocidos e independientes también informan sobre el tema?
La lección más importante de este caso es: Una IA puede parecer muy segura aunque su respuesta sea errónea.
La búsqueda de IA de DuckDuckGo afirmó temporalmente que Donald Trump murió de rabia el 7 de junio de 2026, tras ser mordido por su vicepresidente, JD Vance. La respuesta incluía una fecha precisa de la muerte, una supuesta causa de la muerte y varios enlaces a fuentes. Por lo tanto, parecía una información bien documentada.
La búsqueda con IA de DuckDuckGo afirmó falsamente que Donald Trump murió de rabia el 7 de junio de 2026. El sistema citó como fuentes un sitio web de noticias dudoso y un reportaje de ABC News, real pero completamente irrelevante. Captura de pantalla: Futurism/DuckDuckGo
La historia era completamente inventada. Donald Trump y JD Vance no murieron de rabia, y las supuestas circunstancias no se basaban en ninguna fuente de noticias confiable. El caso, ampliamente documentado por la revista tecnológica estadounidense Futurism (https://futurism.com/artificial-intelligence/duckduckgo-ai-trump-rabies), ilustra claramente cómo un engaño absurdo de internet puede convertirse en una respuesta de IA aparentemente creíble.
Todo comenzó con la supuesta muerte de JD Vance.
La historia se originó en el grupo de Reddit r/poisonAI (https://www.reddit.com/r/poisonai/). Reddit cuenta con numerosos grupos sobre diversos temas. Los usuarios pueden publicar, comentar y calificar contenido. En r/poisonAI, los miembros difundieron deliberadamente información errónea y absurda para comprobar si los motores de búsqueda y los sistemas de IA la aceptarían.
Algunas publicaciones tratan sobre ballenas azules que supuestamente son naranjas, otras sobre cómo hay que verter un ladrillo para que crezca una casa. Recientemente, se ha afirmado con frecuencia que el vicepresidente de Estados Unidos, JD Vance, murió de rabia el 5 de junio de 2026.
Los usuarios han estado desarrollando esta historia inventada. Han publicado obituarios falsos, reacciones inventadas y una publicación falsa de Donald Trump (https://www.reddit.com/r/poisonai/comments/1u0obij/trumps_comment_on_vance_dying_from_rabies_made_on/) en la que supuestamente lamentaba la muerte de su vicepresidente.
La historia inventada se desarrolló deliberadamente en el grupo de Reddit r/poisonAI. Esta publicación muestra una publicación falsa de Trump sobre la supuesta muerte de JD Vance.
Los participantes también siguieron el juego en los comentarios. Cuando una IA explicó que Vance estaba vivo y que la historia de la rabia era una invención, los usuarios se quejaron de que un evento supuestamente real se estaba descartando como sátira. Un ejemplo de esto es esta publicación de Reddit.
Para quienes conocían el contexto, se trataba de una broma absurda sobre las limitaciones de la inteligencia artificial. Sin embargo, para un motor de búsqueda, podría parecer que muchas personas estaban hablando del mismo suceso real.
Los usuarios incluso acusaron a los sistemas de IA de etiquetar erróneamente la supuesta muerte por rabia de JD Vance como sátira. Captura de pantalla: Reddit/r/poisonAI
De broma en Reddit a noticia falsa
La historia falsa no se quedó en Reddit. Un sitio web llamado WKNA 49 retomó las afirmaciones y publicó sus propios artículos. A primera vista, el sitio parece un canal de noticias local estadounidense.
Sin embargo, Futurism sospecha que se trata de un sitio web de "publicación basura". Este término describe sitios web que se presentan como medios de comunicación locales, pero publican gran cantidad de contenido dudoso o generado automáticamente. A menudo, no se realiza ningún tipo de verificación periodística.
WKNA construyó todo un universo de noticias falsas a partir de las publicaciones de Reddit. Inicialmente, el sitio informó sobre la supuesta muerte por rabia de JD Vance. Posteriormente, la historia se amplió para incluir a Donald Trump. Según el sitio, Vance había mordido a Trump deliberadamente. Unos días después, Trump también habría muerto a causa de la infección.
El artículo en cuestión se titulaba “El expresidente Donald Trump fallece tras una presunta infección”. Para un motor de búsqueda de IA, este texto parecía una noticia común.
DuckDuckGo mezcló la noticia falsa con un informe verídico.
Al preguntarle cuándo murió Trump de rabia, DuckDuckGo respondió el 7 de junio de 2026. La IA citó a WKNA y ABC News como fuentes, entre otras.
El artículo de WKNA contenía la historia inventada. El informe de ABC News enlazado era, sin embargo, verídico. Trataba sobre un hombre que había fallecido de rabia tras un trasplante de órganos.
Donald Trump, JD Vance y Robert F. Kennedy Jr. no fueron mencionados en absoluto en este informe. Sin embargo, DuckDuckGo vinculó el caso real de rabia con el informe falso sobre Trump. Un artículo genuino de un medio de comunicación conocido parecía confirmar una historia de muerte política completamente inventada.
Ahí radica precisamente el peligro. Se incluyeron varios enlaces debajo de la respuesta de la IA, incluso uno a ABC News. Cualquiera que solo viera el nombre conocido y no abriera el artículo podría creer fácilmente que la afirmación estaba debidamente fundamentada.
Brave también cayó en la trampa.
DuckDuckGo no fue el único sistema que adoptó el informe falso. La búsqueda de IA de Brave también afirmó que JD Vance había muerto de rabia y añadió detalles adicionales que también eran incorrectos.
Afirmó que Vance había contraído el virus de un mapache o durante un evento en la Casa Blanca. También se planeó un servicio conmemorativo nacional para el 4 de julio en Filadelfia. Una captura de pantalla de esta respuesta falsa se publicó en Reddit.
Brave AI afirma falsamente que JD Vance murió de rabia.
Brave también adoptó el informe de defunción inventado y añadió más detalles inexactos, incluyendo un supuesto servicio conmemorativo nacional planeado. Captura de pantalla: Futurism/Brave Search
La publicación de Reddit documenta que Brave también adoptó la historia inventada.
Brave declaró a Futurism que los motores de búsqueda no son "oráculos de la verdad". Los usuarios deben verificar la información por sí mismos y leer las fuentes enlazadas. Si bien este consejo es fundamentalmente correcto, no es suficiente. Las búsquedas con IA suelen presentar sus resultados con un tono seguro y objetivo, y proporcionan resúmenes preelaborados. Precisamente por eso, muchas personas esperan que, al menos en el caso de un supuesto informe de defunción, se verifique si medios de comunicación reputados e independientes lo publican.
DuckDuckGo admitió el error.
DuckDuckGo respondió posteriormente a través de su cuenta oficial de Reddit, escribiendo: "Vale, nos han engañado en esta ocasión". La declaración aún está disponible en Reddit.
DuckDuckGo admitió a través de su cuenta oficial de Reddit que Search Assist había sido engañado. Captura de pantalla: Reddit/DuckDuckGo
Posteriormente, la empresa declaró que la respuesta errónea se había corregido. Search Assist fue engañado intencionalmente en este caso, y tienen la intención de mejorar el sistema para situaciones similares. Esta segunda respuesta también fue publicada por DuckDuckGo en Reddit.
DuckDuckGo declaró posteriormente que la respuesta errónea se había corregido. También tienen previsto mejorar la función de Asistencia de Búsqueda para casos similares. Captura de pantalla: Reddit/DuckDuckGo
La historia inventada comenzó a confirmarse.
Lo más revelador es cómo la verdad y la ficción se entrelazaron a medida que avanzaba la historia. Google aparentemente identificó correctamente el informe sobre la supuesta muerte de JD Vance como información errónea. WKNA utilizó esta corrección en otro artículo, afirmando que la IA de Google estaba clasificando erróneamente un evento real como sátira.
De este modo, incluso la refutación se convirtió en parte de la historia inventada. El artículo correspondiente de WKNA (https://wkna49.com/news/technology-companies-face-scrutiny-over-data-accuracy-following-jd-vance-tragedy) presentó la clasificación correcta de Google como un error. Otro artículo (https://wkna49.com/news/rabies-awareness-and-prevention-highlighted-following-death-of-jd-vance) siguió tratando la supuesta muerte de Vance como una noticia verídica.
El proceso fue sorprendente: usuarios inventaron una historia en Reddit. Un sitio web de noticias dudoso la convirtió en un artículo. Sistemas de IA encontraron estos artículos y los adoptaron. Cuando otra IA contradijo la narrativa inventada, esta contradicción también se incorporó a la historia ficticia.
Cuantos más textos se crean de esta manera, más grande parece la historia. Sin embargo, un alto número de resultados de búsqueda no prueba nada si los sitios simplemente copian la misma historia inventada unos de otros.
¿Por qué caen en esto los motores de búsqueda de IA?
Un motor de búsqueda de IA no lee las noticias como un humano. Busca textos relevantes, reconoce conexiones lingüísticas y formula una respuesta. Al hacerlo, puede pasar por alto que una fuente contenga sátira, no tenga una redacción real o publique información falsa deliberadamente.
Existe otro problema: el sistema no siempre reconoce si una fuente enlazada confirma realmente la afirmación específica. En el caso de Donald Trump, DuckDuckGo encontró un informe real sobre una muerte por rabia y un informe fabricado sobre Trump. Estos dos hallazgos conformaron una sola historia, pero falsa.
Las fuentes eran visibles. Eso no significa que estuvieran verificadas.
¿Es esto envenenamiento de datos?
Este incidente se suele denominar envenenamiento de datos. En términos sencillos, significa que se difunde información falsa deliberadamente para que un sistema de IA la adopte.
Sin embargo, el término solo se aplica parcialmente en este caso. En el clásico envenenamiento de datos, se inyecta contenido manipulado en los datos utilizados para entrenar o posteriormente perfeccionar un modelo de IA. En el caso de DuckDuckGo y Brave, los resultados de búsqueda disponibles públicamente fueron aparentemente manipulados. El texto falso ya estaba en línea y fue detectado por los sistemas de IA durante las búsquedas.
Para los usuarios, esta diferencia técnica no supone gran cosa. Aparece una respuesta falsa en la pantalla, aparentemente vinculada a fuentes relevantes.
Una broma puede convertirse en desinformación real.
Los miembros de r/poisonAI aparentemente pretenden que sus publicaciones sean una sátira y una crítica a la industria de la IA. Quieren demostrar lo fácil que es engañar a estos sistemas. El caso ilustra esta vulnerabilidad de forma bastante contundente.
Sin embargo, el experimento no es inofensivo. En cuanto la noticia fabricada aparece fuera del grupo original, la aparente broma desaparece. La gente comparte capturas de pantalla, los sitios web automatizados crean nuevos artículos y otros sistemas de IA procesan estos textos de nuevo.
En cierto punto, resulta casi imposible distinguir qué se inventó originalmente en Reddit y qué detalles se añadieron posteriormente mediante sitios web o sistemas de IA. Con una afirmación más creíble sobre una dimisión, un incidente militar o una enfermedad, el mismo mecanismo podría tener consecuencias mucho más graves.
Cómo verificar las respuestas de la IA
Una simple cita de la fuente no garantiza la fiabilidad de una respuesta de IA. El factor crucial es si la fuente enlazada contiene realmente la afirmación.
En el caso del reportaje de ABC News, una lectura rápida del texto habría bastado. Trataba sobre un hombre que murió de rabia tras un trasplante de órganos. No se mencionaba a Donald Trump ni a JD Vance.
También se debe comprobar la fuente en sí. ¿Existe un equipo editorial claramente identificable? ¿Informan varios medios de comunicación conocidos sobre el suceso de forma independiente? ¿Aparecen realmente en los artículos los nombres, las fechas y las declaraciones mencionadas?
Ante los supuestos anuncios de fallecimiento de políticos o celebridades conocidos, la verificación es particularmente sencilla: si la noticia fuera cierta, numerosos medios de comunicación de prestigio la publicarían en poco tiempo. Un solo sitio web desconocido no basta para demostrarlo.
Conclusión
Donald Trump no murió de rabia. Tampoco JD Vance. La historia fue inventada por usuarios de Reddit, luego difundida por un sitio web de noticias dudoso y, finalmente, presentada como un hecho por los motores de búsqueda con IA DuckDuckGo y Brave.
Lo más problemático fue que DuckDuckGo también enlazó a un reportaje auténtico de ABC News, aunque no tenía nada que ver con Trump ni con Vance. Esto hizo que la información falsa pareciera mucho más creíble.
Los motores de búsqueda con IA pueden ser útiles para la investigación. Sin embargo, sus resultados no son noticias verificadas editorialmente. Un enlace a una fuente solo es valioso si dicha fuente respalda realmente la afirmación.