Incidents associés
WASHINGTON --- Le Département d'État met en garde les diplomates américains contre des tentatives d'usurpation d'identité du secrétaire d'État Marco Rubio et potentiellement d'autres responsables, utilisant une technologie basée sur l'intelligence artificielle, selon deux hauts responsables et un télégramme envoyé la semaine dernière à toutes les ambassades et consulats.
Cet avertissement fait suite à la découverte par le Département d'État qu'un imposteur se faisant passer pour M. Rubio avait tenté de contacter au moins trois ministres des Affaires étrangères, un sénateur et un gouverneur américains, selon le télégramme du 3 juillet, initialement rapporté par le Washington Post.
Les destinataires des messages frauduleux, envoyés par SMS, Signal et messagerie vocale, n'étaient pas identifiés dans le télégramme, dont une copie a été transmise à l'Associated Press.
« Le Département d'État est au courant de cet incident et suit et traite actuellement la situation », a déclaré la porte-parole du Département d'État, Tammy Bruce, aux journalistes. « Le Département d'État prend au sérieux sa responsabilité de protéger ses informations et prend continuellement des mesures pour améliorer sa cybersécurité afin de prévenir de futurs incidents. »
Elle a refusé de commenter davantage pour des « raisons de sécurité » et l'enquête en cours.
Il s'agit du dernier cas en date d'une personnalité de haut rang de l'administration Trump ciblée par un usurpateur d'identité, un incident similaire ayant été révélé en mai impliquant la cheffe de cabinet du président Donald Trump, Susie Wiles. L'utilisation abusive de l'IA pour tromper les gens est susceptible de se développer à mesure que la technologie s'améliore et se généralise. Le FBI a d'ailleurs mis en garde au printemps dernier contre des « acteurs malveillants » se faisant passer pour de hauts fonctionnaires américains dans une campagne de messages texte et vocaux.
Les canulars impliquant Rubio ont été infructueux et « peu sophistiqués », a déclaré l'un des responsables. Néanmoins, le second a déclaré que le ministère jugeait « prudent » d'avertir tous les employés et les gouvernements étrangers, d'autant plus que les tentatives d'acteurs étrangers pour compromettre la sécurité des informations se multiplient.
Les responsables n'étaient pas autorisés à discuter publiquement de l'affaire et ont requis l'anonymat.
« Cette campagne ne représente aucune cybermenace directe pour le ministère, mais les informations partagées avec un tiers pourraient être exposées si les personnes ciblées sont compromises », indique le câble.
Le FBI a mis en garde, dans un message d'intérêt public, contre une campagne « malveillante » utilisant des SMS et des messages vocaux générés par l'IA, censés provenir d'un haut responsable américain et visant à duper d'autres responsables gouvernementaux ainsi que les associés et contacts de la victime.
Ce n'est pas la première fois que Rubio est usurpé dans un deepfake. Ce printemps, une fausse vidéo le montrant affirmait vouloir couper l'accès de l'Ukraine au service internet Starlink d'Elon Musk. Le gouvernement ukrainien a ensuite réfuté cette fausse allégation.
Plusieurs solutions potentielles ont été proposées ces dernières années pour contrer l'utilisation croissante de l'IA à des fins de tromperie, notamment des sanctions pénales et une meilleure éducation aux médias. Les inquiétudes concernant les deepfakes ont également donné naissance à une multitude de nouvelles applications et de nouveaux systèmes d'IA conçus pour repérer les imposteurs capables de tromper facilement un humain.
Les entreprises technologiques qui travaillent sur ces systèmes sont désormais en concurrence avec celles qui utiliseraient l'IA pour tromper, selon Siwei Lyu, professeur et informaticien à l'Université de Buffalo. Il a déclaré avoir constaté une augmentation du nombre de deepfakes représentant des célébrités, des hommes politiques et des chefs d'entreprise à mesure que la technologie progresse.
Il y a quelques années à peine, les faux doublons présentaient des défauts faciles à repérer – des voix inhumaines ou des erreurs comme des doigts supplémentaires – mais aujourd'hui, l'IA est si performante qu'il est beaucoup plus difficile pour un humain de les repérer, ce qui donne un avantage aux créateurs de deepfakes.
« Le niveau de réalisme et de qualité augmente », a déclaré Lyu. « C'est une course à l'armement, et actuellement, les générateurs prennent le dessus. »
Le canular Rubio survient après que des SMS et des appels téléphoniques ont été envoyés à des élus, des dirigeants d'entreprise et d'autres personnalités de la part d'une personne qui semblait avoir eu accès aux contacts du téléphone portable personnel de Wiles, a rapporté le Wall Street Journal en mai.
Certaines personnes ayant reçu des appels ont entendu une voix ressemblant à celle de Wiles, qui pourrait avoir été générée par l'IA, selon le journal. Les messages et les appels ne provenaient pas du numéro de Wiles, selon le rapport. Le gouvernement a ouvert une enquête.