Incidents associés
Un torrent de désinformation s'est propagé sur les réseaux sociaux suite au massacre de Bondi Beach dimanche dernier. Grok, le chatbot d'intelligence artificielle d'Elon Musk, a amplifié de fausses informations concernant l'identité d'un passant qui a héroïquement désarmé l'un des tireurs.
La fusillade, qui a fait 15 morts lors d'un rassemblement pour Hanoukka et coûté la vie à l'un des tireurs, a ravivé les inquiétudes quant à la capacité des systèmes d'IA et des plateformes de réseaux sociaux à amplifier les fausses informations lors d'événements d'actualité.
Le chatbot de xAI a identifié à plusieurs reprises à tort Ahmed al Ahmed, 44 ans, propriétaire d'un bureau de tabac, qui a maîtrisé l'un des assaillants et s'est emparé de son arme avant d'être blessé au bras et à la main par balle. Grok a plutôt cité un article de presse fabriqué de toutes pièces, présentant un certain « Edward Crabtree », un informaticien de 47 ans d’origine britannique, comme le héros.
Cette fausse information, truffée de citations inventées de toutes pièces, prétendument prononcées depuis le « lit d’hôpital » de Crabtree, provenait du site web thedailyaus.world, enregistré dimanche en Islande. Ce site n’a aucun lien avec le site d’actualités jeunesse The Daily Aus.
Casey Ellis, expert en cybersécurité originaire de Sydney et fondateur de la plateforme de primes aux bogues Bugcrowd, qui a conseillé la Maison-Blanche et les services de renseignement australiens, a déclaré que le contexte était propice à une vague de désinformation.
« Cet événement est incroyablement tragique, profondément émouvant et divise l’opinion de mille façons », a déclaré Ellis à notre rédaction.
« Quand on combine ces éléments avec le brouillard informationnel qui règne généralement après un tel événement, le besoin de réponses et la facilité avec laquelle on peut diffuser de la désinformation, on se retrouve avec une multitude d'occasions de propager de fausses informations. »
La désinformation s'est propagée à une telle échelle que le milliardaire Bill Ackman, gérant de fonds spéculatifs, s'est senti obligé de la rectifier sur X. Le Premier ministre israélien Benjamin Netanyahu a lui aussi initialement commis une erreur, affirmant aux journalistes qu'un passant juif avait désarmé le tireur, comme l'a rapporté le Times of Israel.
« Quelqu'un a inventé un personnage, un "informaticien" blanc du nom d'Edward Crabtree, qui aurait mis fin à la fusillade de Bondi et a diffusé l'histoire sur Internet, où elle a été relayée par des agents d'IA et des sites d'agrégation de fausses informations », a écrit le journaliste Ben Collins sur Bluesky.
Outre ce récit héroïque factice, Grok a affiché des erreurs étranges tout au long de dimanche et lundi. Lorsque les utilisateurs ont montré au chatbot la vidéo d'Ahmed maîtrisant le tireur, celui-ci a prétendu qu'il s'agissait d'« une vieille vidéo virale d'un homme grimpant à un palmier ». Dans un autre cas, une photo d'Ahmed, blessé, a été diffusée, affirmant qu'il s'agissait d'un otage israélien pris par le Hamas.
La désinformation s'est propagée bien au-delà de Grok.
Une image générée par IA montrant un homme se faisant maquiller et appliquer du faux sang sur les lieux de l'incident a inondé Reddit, les groupes de discussion WhatsApp et X. L'image était censée représenter l'avocat des droits de l'homme Arsen Ostrovsky, qui aurait donné des interviews aux médias depuis les lieux, le visage couvert de sang.
Une photo recadrée de deux policières sur les lieux est devenue virale après avoir été publiée par un compte fan de « Barron Trump » basé en Europe de l'Est. Ce compte affirmait faussement qu'elles étaient « complètement paralysées » tandis que « des hommes armés auraient tiré pendant près de 20 minutes sans interruption ». La publication, qui a cumulé plus de 100 000 vues, a déclenché une vague de commentaires misogynes s'attaquant aux policières et aux critères de recrutement « DEI » (diversité, équité et inclusion). En réalité, l'image non recadrée montrait les policières éloignant les civils des lieux après la neutralisation des tireurs.
Un Pakistanais innocent résidant en Nouvelle-Galles du Sud a confié au Guardian que sa vie était devenue un véritable cauchemar après la diffusion massive de sa photo, le désignant faussement comme l'un des tireurs. Naveed Akram, 30 ans, porte le même nom que l'un des agresseurs présumés. Cette rumeur, relayée par des comptes basés en Inde, est devenue virale et a été reprise par CBS News.
Des rumeurs mensongères d'attaques coordonnées à Dover Heights et Double Bay ont également circulé, contraignant la police de Nouvelle-Galles du Sud à publier un communiqué : « Aucun incident n'a été signalé à Dover Heights. Merci de ne pas diffuser de rumeurs non confirmées. »
Dans un autre exemple de manipulation délibérée, une fausse fiche Google Maps a été créée, identifiant l'adresse du domicile de l'un des auteurs présumés de la fusillade de Bondi Beach comme « lieu de résidence des tireurs de Bondi » et la catégorisant comme « mosquée locale ». Cette fiche, que Google affirme avoir depuis supprimée, nécessitait des compétences techniques avancées pour être créée : un site web doté d'un code spécifique déclenchait la fonctionnalité d'annuaire d'entreprises de Google.
Ellis a appelé à la prudence avant de relayer des informations non vérifiées.
« Réfléchissez-y à deux fois avant de partager ce que vous voyez ou lisez, surtout si cela contient des informations factuelles précises ou des messages fortement orientés et susceptibles de susciter une réaction émotionnelle », a-t-il déclaré. « Les informations les plus fiables ont tendance à apparaître au fur et à mesure que l'événement se déroule. Ensuite, elles sont souvent noyées sous la désinformation ; c'est dans cette zone à risque que nous nous trouvons actuellement. »
La commissaire australienne à la sécurité en ligne a par ailleurs indiqué que son bureau avait reçu de nombreuses plaintes concernant des contenus en ligne montrant des images de la fusillade de masse, que les autorités ont qualifiée d'acte terroriste. L'autorité de régulation a rappelé aux plateformes l'importance d'utiliser des étiquettes de contenu sensible et des filtres de floutage afin de prévenir toute exposition accidentelle.
« eSafety continuera de collaborer avec les plateformes et les services pour s'assurer du respect de leurs obligations légales en vertu du droit australien », a déclaré l'autorité de régulation. « D'autres mesures pourraient être envisagées. »
Soumis à un commentaire, xAI n'a répondu que par son message automatique : « Les médias traditionnels mentent. »