Incidentes Asociados
Un torrente de desinformación se extendió por las redes sociales tras la masacre del domingo en Bondi Beach. El chatbot de inteligencia artificial de Elon Musk, Grok, amplificó las afirmaciones falsas sobre la identidad de un transeúnte que heroicamente desarmó a uno de los pistoleros.
El tiroteo, que mató a 15 personas en una reunión de Janucá (https://www.smh.com.au/link/follow-20170101-p5nnt8) y dejó a uno de los pistoleros muerto, se ha convertido en el último punto de conflicto en la preocupación por los sistemas de inteligencia artificial y las plataformas de redes sociales que amplifican las falsedades durante las noticias de última hora.
El chatbot de xAI identificó erróneamente repetidamente a Ahmed al Ahmed, de 44 años, dueño de una tabaquería, quien abordó a uno de los atacantes (https://www.smh.com.au/link/follow-20170101-p5nnlb) y le confiscó el arma antes de recibir un disparo en el brazo y la mano. En cambio, Grok citó un artículo periodístico inventado que nombraba como héroe a un ficticio "Edward Crabtree", descrito como un profesional de TI de 47 años con nombre británico.
La historia falsa, con citas inventadas de la "cama de hospital" de Crabtree, se originó en un sitio web llamado thedailyaus.world, registrado el domingo en Islandia. El sitio web no tiene ninguna conexión con el sitio web de noticias juveniles The Daily Aus.
Casey Ellis, veterano en ciberseguridad nacido en Sídney y fundador de la plataforma de recompensas por errores Bugcrowd, quien ha asesorado a la Casa Blanca y a las agencias de inteligencia australianas, afirmó que las condiciones eran propicias para una tormenta de desinformación.
"Este evento es increíblemente trágico, profundamente emotivo y polarizador en un millón de direcciones diferentes", declaró Ellis a este periódico.
"Al combinar esto con el ambiente informativo de 'niebla de guerra' que se genera tan pronto después de un incidente como este, el deseo y la necesidad de respuestas, y la facilidad con la que se genera desinformación, se crean multitud de oportunidades para generarla".
La desinformación se extendió tanto que el multimillonario de fondos de cobertura Bill Ackman se vio obligado a corregirla en X. El primer ministro israelí, Benjamin Netanyahu, también se equivocó inicialmente, al declarar a los periodistas que fue un transeúnte judío quien arrebató el arma, según informó The Times of Israel.
"Alguien inventó a un hombre blanco, un 'profesional de la informática' llamado Edward Crabtree, quien detuvo el tiroteo de Bondi y lo difundió por internet, lo cual fue recogido por agentes de inteligencia artificial y sitios web de recopilación de información basura", escribió el periodista Ben Collins en Bluesky.
Más allá de la falsa narrativa del héroe, Grok mostró errores extraños durante el domingo y el lunes. Cuando los usuarios mostraron el video del chatbot de Ahmed derribando al tirador, este afirmó que la grabación era "un antiguo video viral de un hombre trepando a una palmera". En otro caso, se afirmó que una foto de Ahmed, herido, era de un rehén israelí tomado por Hamás.
La desinformación se extendió mucho más allá de Grok.
Una imagen generada por inteligencia artificial de un hombre con maquillaje y sangre falsa aplicada en el lugar de los hechos ha inundado Reddit, grupos de WhatsApp y X. La imagen supuestamente pertenecía al abogado de derechos humanos Arsen Ostrovsky, quien concedió entrevistas a los medios desde el lugar de los hechos con el rostro cubierto de sangre.
Una foto recortada de dos policías en el lugar de los hechos se hizo viral tras ser publicada por una cuenta de fans de "Barron Trump" con sede en Europa del Este, afirmando falsamente que se "quedaron completamente paralizadas" mientras "los hombres armados, según se informa, disparaban durante hasta 20 minutos sin interrupción". La publicación, que acumuló más de 100.000 visitas, desató una ola de comentarios misóginos que atacaban a las policías y las supuestas contrataciones "DEI" (Derecho a la Igualdad). De hecho, la imagen sin recortar mostraba a las policías alejando a los civiles del lugar de los hechos tras neutralizar a los tiradores.
Un hombre pakistaní inocente residente en Nueva Gales del Sur contó a The Guardian que su vida se había convertido en una pesadilla después de que su foto circulara ampliamente, identificándolo falsamente como uno de los tiradores. Naveed Akram, de 30 años, comparte el mismo nombre que uno de los presuntos atacantes. La afirmación se viralizó tras ser ampliamente difundida por cuentas en India y fue recogida por CBS News.
También se difundieron falsas afirmaciones sobre ataques coordinados en Dover Heights y Double Bay, lo que obligó a la Policía de Nueva Gales del Sur a emitir un comunicado: "No se han reportado incidentes en Dover Heights; por favor, NO compartan rumores sin confirmar".
En otro ejemplo de manipulación deliberada, alguien creó una ficha falsa en Google Maps que etiquetaba la dirección de Bonnyrigg de uno de los presuntos tiradores como "lugar de tiradores en Bondi Beach" y la categorizaba como "mezquita local". La ficha, que según Google ya ha sido eliminada, requirió una sofisticación técnica para su creación, ya que implicaba un sitio web con un código específico para activar la función de fichas de empresas de Google.
Ellis instó a la cautela antes de amplificar afirmaciones no verificadas.
"Piénsenlo dos veces antes de republicar lo que ven o leen, especialmente si contiene información objetiva o mensajes con un fuerte sesgo que busca provocar una respuesta emocional", dijo. "La información más fiable suele salir a la luz a medida que se desarrolla el suceso. A partir de ahí, a menudo se ve inundada de desinformación; esta es la zona de peligro en la que nos encontramos actualmente".
La comisionada de Seguridad Electrónica de Australia, por su parte, afirmó que su oficina había recibido múltiples quejas sobre material en línea que mostraba imágenes del tiroteo masivo, que las autoridades han declarado un incidente terrorista. El regulador recordó a las plataformas que deben implementar etiquetas de contenido sensible y filtros de desenfoque para evitar la exposición accidental.
"eSafety seguirá colaborando con las plataformas y servicios para garantizar que cumplan con sus obligaciones según la legislación australiana", declaró el regulador. "Se podrían considerar nuevas medidas".
Se contactó a xAI para obtener comentarios y respondió únicamente con su respuesta automática: "Mentiras de los medios tradicionales".