Bienvenue dans

la base de données des incidents d'IA

Mark A. Young's daughter called him at his

home on a Monday. The young woman's panicked voice projected fear and pain.

She needed her father. "She was crying and upset," Young said. "She told me, 'Dad, I got in an accident and I'm in trouble. I need help.' " Knowing she had traveled from Spokane to Seattle for a concert, the tone of the familiar voice sparked an immediate defensive reaction from Young, who spent most of his career responding to danger. A male voice then got on the phone, said he was a medic and

told Young, a retired police officer, that his 24-year-old daughter had been involved in a collision. And then a second male voice took over the conversation. That voice continues to haunt Young. That man, who had a Scottish accent, asked questions of Young to confirm he was the driver's father.

"Then his tone changed," Young said. "He first identified himself as a drug dealer." The man, who never gave his name, explained to Young that his daughter had been involved in a collision that had interrupted a drug transaction. She had seen "something she wasn't supposed to see." "He told me because of that, he had taken my daughter as a hostage and he was deciding what to do with her," Young said. "He said he could kill her, make her a prostitute or sell her overseas to sex traders." During the conversation, the voice several times allowed Young to speak with his daughter, who out of a request from the family, The Spokesman-Review agreed not to identify. "There is nothing like a loved one suffering over the phone and there is nothing you can do," Young said. "I thought I was a pretty tough guy. But that almost broke me." But the

voice wasn't that of his daughter. It was a fake, an AI-generated copy.

The perpetrators, investigators later surmised, used a recording of the daughter's voice and a program that so accurately mimicked her speech pattern that it convinced Young to leave his home in the small Whitman County town of Garfield to visit several banks and drive all over the Palouse and Idaho to get money to save her life. The Federal Trade Commission

began warning consumers as early as 2023

of the new type of scam that uses AI to copy the voices of family members. "Scammers ask you to pay or send money in ways that make it hard to get your money back. If the caller says to wire money, send cryptocurrency, or buy gift cards and give them the card numbers and PINs, those could be signs of a scam," according to the FTC news release. In Young's case, he wired

$13,000 and was in the process of getting thousands more when the 30-hour

ordeal finally ended inside of a Pullman bank branch. The calm demeanor of a longtime banker, and quick response by Pullman Police, finally led to

Young's daughter being reached to make sure she was safe and at home in Spokane.

"I almost collapsed," said Young, who cried at learning the truth. "I was just so relieved. It took me days to literally start feeling normal again."

The intensity of the ordeal, he said, cannot be understated, even for a man who worked 26 years as a police officer in Santa Rosa, California, and volunteered to serve as a Marine in Vietnam where he

was shot

in the arm. "You are living every minute like it's your last," Young said of the AI extortion. "You are trying to figure out what you can do. That's a hard feeling for me to grasp, because I've never felt helpless like that."

Chasing the fear

The call came

Monday, March 23. After the initial conversations that convinced Young that his daughter was in danger, he began complying with the demands from the man with the Scottish accent. The man explained to Young that he first needed to transfer money to cover the thousands lost in the drug transaction that his daughter had interrupted

. Young, who worked six years as a journalist before becoming a police officer and

also has authored six books

, said he focused his entire energy on helping his daughter. "I had no doubts that I had spoken to my daughter, and I assumed that she was in his custody," he said. "I did whatever I could to cooperate for the next 30 hours." The voice ordered Young to maintain the telephone call, which prevented him from calling for help or his wife. "He said, 'If I lose you, I'm going to take it out on your daughter.' My training as a cop for 26 years, and being in the Marines, I knew how to keep my emotions under control and handle myself as a dutiful victim," Young said. "But it wasn't easy. "I just played along with him, and he directed me to go to one of two banks that we have." Young first drove to a branch in Garfield and withdrew $5,000. The caller directed him to drive to a Walmart in Pullman where he had Young transfer half the money to someone in Mexico. The caller directed Young to do the same thing at a Walmart in Moscow. He then traveled to the WaFd (formerly known as Washington Federal) Bank branch in Pullman, where he took another $5,000, and drove to Lewiston to transfer the same $2,500 amounts from two different stores there. "I'm on the phone with him the whole time. When I'm traveling, I have to list off all the mile markers on the road so he knows where I'm at," said Young

, who could tell the man on the other line was real, unlike the voice mimicking his daughter. "He let me talk to my daughter a couple more times. In the meantime ... he's trying to get more information from me." The caller asked whether Young, 75, had retired and what he did for his career. Fearing that his daughter had already told the abductor about his past, Young said he told the truth to protect her. The caller then directed Young to travel to Boise, because he said he feared that local law enforcement may be trying to monitor the situation. Young complied, drove hours south and got a hotel room in Boise. Once there, he snuck out of his room, raced down to the hotel lobby and used the hotel phone to call his wife. Katie Young was in Chicago on business.

When Mark Young called, her phone was off and the call went to voicemail. But his wife's voicemail was full, so he was not able to leave a message. "That was a bummer," Young said. He got back to his room just as the voice called Young's cell

phone to check on him. The next day, Young transferred another $2,500 from a store in Boise. But when he tried it again, he learned that his ATM card had been blocked. He told the voice that he could solve the ATM problem by driving back to his bank branch in Pullman. On the drive back north, Young passed several places where he lost cell

phone coverage in the Idaho mountains. During one of those periods, he pulled over and wrote down his wife's phone number and explained his situation on a piece of paper so that the FBI could later tell his wife what was happening in case the situation worsened.

He finally made it back to Pullman the afternoon of Tuesday, March 24. "He led me to believe that he was doing surveillance on me while I went to the bank," Young said. Young walk

ed into the branch, located at 405 E. Main St. in Pullman, and saw someone familiar

-- Alex Navarro, the assistant branch manager. Young handed Navarro a note, pointed at it

and walked into the bank's bathroom.

Adventures in banking

Navarro said he took the note and immediately thought something else was happening. Young "walked in with a purpose. He had this note. I knew something was wrong when he set it down and pointed at it," Navarro said. "The first thing that popped in my mind was, 'This guy is robbing me.' Then he went to the bathroom. I thought, that's weird. "Then I read the note

. I was not expecting that." Young said he fully intended to withdraw $17,000, which is what the voice said it would take to buy his daughter's freedom. Sensing the danger and realizing through Young's gestures that the perpetrator was listening in by telephone, Navarro began calmly explaining the process to get the money.

Navarro then told Young that he had to make a phone call to the ATM company to release his card. "I was just buying time," Navarro said. "I made a phone call to our card department and was talking on the phone. But actually, I was texting the teammates that I have a very serious situation going on and I need someone in the back room." Navarro came up with

another excuse, saying that he had to go in the back to retrieve cash. He used the ruse to meet with a longtime teller. "I told her, 'We have a possible extortion kidnapping.' " She went to another part of the building

and called Pullman Police, located a block away. In the meantime, Young passed another note asking Navarro whether he was going to get his money. Navarro told him no and indicated that police had been alerted. "He was truly panicked," Navarro said. "He was grabbing his forehead. His physical distress was clear. He wrote back in another note, 'They are watching us. They said they are outside the building watching us.' " But Navarro needed to stall for time to allow police to arrive. He solved it with the slow count. "I told him, 'I have to count back the $17,000 to you.' So, we went through a fake transaction," he said. With the voice listening, Navarro made a big show of counting out the money in $100 increments. Because the money didn't exist, Navarro pantomimed placing papers down on the desk to sound like he was stacking cash. Halfway through his counting delay tactic, Officer Shane Emerson entered the branch. Navarro and Young took pains to let the officer know that the perpetrator was listening, and they also passed Emerson a note warning that others could be watching the bank. Emerson, according to his police report, called for backup officers to respond to search the branch's parking areas and other location to see if they could locate conspirators. He then took Young's note, the one

with his wife's phone number

written on it, and left the bank before calling Katie Young. "I advised her what was going on, and she said she was on the phone with (her daughter). She merged the calls," Emerson wrote. The daughter "said she was at her residence in Spokane and was absolutely safe." Emerson returned to the branch to alert Mark Young that his family was safe. "Young was shocked and started to cry," Emerson wrote. "I didn't realize how much I was holding in until I learned my daughter was fine," Young said. Young said he later sent both Emerson and Navarro notes thanking them for how they handled and diffused what he was convinced was a life-or-death situation. Navarro said he's seen a lot during 35 years of banking, but nothing compared to that afternoon. "This is the first time I have ever heard somebody being involved with something like this," Navarro said, "where an AI-generated voice has mimicked a person's voice and they weren't able to tell the difference."

The aftermath

Young followed up with Pullman police and later traveled to Spokane to speak with FBI investigators, but as of yet, has not been able to recover any of the funds he wired from the multiple stores. Katie Young said it's taken her husband a long time to recover from the ordeal. She said she was in the lobby of the hotel in Chicago when Officer Emerson called her. "You never really want to get a call, when you are out of town, from the police department. It's never really good news," she said. "I was instantly at attention." After merging the calls to let Emerson know that her daughter was safe, Katie Young flew to Spokane and drove to Garfield. "I was home the next day. My daughter drove over," she said. "We were all together and happy." She stressed

that she doesn't believe her family was a victim of a scam.

"This is really extortion. It's a very different thing," she said. "And

it's unconscionable. I can't imagine how anyone could possibly do that." They still don't know how those extortionists knew their daughter's voice. Both Katie and Mark Young implored parents to work with family members to come up with a safe word

only they would know, to utter in emergencies like this. It's about the only defense they could imagine in a similar scenario. "They can fabricate it so well now," Mark Young said of his daughter's voice. "I could not tell it wasn't her. To me, it was her voice. I was trying to calm her down while trying to calm this guy down." He noted that throughout the 30-hour ordeal, the man with the Scottish accent called back dozens of times. Many of those calls came from different phone numbers that had area codes from Oregon, Washington and Idaho. After the rush of emotion on learning his daughter was safe, Mark Young left the Pullman branch. When he got to his car, the voice called back one last time. "The bad guy comes on the phone and said, 'You got my money?' I told him, 'No. I know my daughter is fine,' " Young said. "I told him several choice words that I can't repeat." The voice claimed that he had guns and could kill everyone Young loves. "I told him, 'I pray you come looking for me,' and I told him what I would do

," Young said.

Au début de cette année, des chercheurs canadiens spécialisés dans le suivi des campagnes d'influence en ligne et de la propagande étrangère ont fait une découverte surprenante. En utilisant l'intelligence artificielle pour répertorier l'activité de sites web et de comptes de médias sociaux russes connus pour diffuser de la désinformation sur l'invasion de l'Ukraine, ils ont constaté qu'un nouveau sujet suscitait soudainement un intérêt sans précédent : l'Alberta.

Entre fin décembre et fin avril, les références au séparatisme albertain et à divers thèmes connexes, notamment l'idée que la province puisse devenir un État américain et l'idée que le Canada soit en échec, ont connu une forte augmentation sur les plateformes de contenu russes connues. Durant ces quatre mois, l'Alberta a été au centre de 67 articles produits et diffusés par le réseau Pravda, soit près de cinq fois plus que d'autres sujets concernant le Canada.

Les chercheurs affirment que ce type de contenu, créé pour attiser le débat en Alberta et nuire aux intérêts nationaux, est conçu pour être diffusé en ligne et trouver un écho auprès de Canadiens partageant les mêmes idées, puis s'intégrer au débat local par le biais du partage et de la republication, « créant ainsi un effet de blanchiment où les griefs locaux se mêlent à des discours stratégiques étrangers ».

Dans une étude publiée cette semaine par le Centre mondial pour la résilience démocratique, Brian McQuinn, codirecteur du Centre d'intelligence artificielle, de données et de conflits de l'Université de Regina, et Marcus Kolga, directeur de DisinfoWatch, un organisme qui étudie les campagnes d'influence en ligne, affirment que le référendum proposé par l'Alberta sur l'indépendance est la cible d'acteurs étrangers cherchant à semer la discorde et à nuire aux intérêts canadiens.

« Nous abordons ce référendum un peu à l'aveuglette et nous sommes déjà beaucoup plus ciblés que les gens ne le pensent », a déclaré M. McQuinn lors d'une entrevue.

Selon le rapport, les activités en question vont des campagnes d'influence secrètes menées par des pays comme la Russie, la Chine et d'autres pour semer la discorde en Alberta, aux déclarations et actions publiques de l'administration Trump visant à encourager les séparatistes albertains, notamment des rencontres avec leurs représentants à Washington. Une troisième catégorie concerne les plateformes de contenu en ligne qui produisent des vidéos YouTube générées par intelligence artificielle à des fins lucratives, alimentant et brouillant le débat par des mensonges et des récits conçus pour creuser les divisions.

« Des adversaires étrangers exploitent le débat séparatiste albertain pour éroder la cohésion sociale, accentuer les divisions internes, saper la confiance dans les institutions démocratiques et amplifier le sentiment d'instabilité politique, ce qui nuit à la confiance des investisseurs au Canada », affirment les auteurs du rapport, qui sera présenté lors d'une conférence à Toronto mercredi et a été transmis au Globe and Mail à l'avance.

« La souveraineté cognitive du Canada – la capacité des Canadiens à prendre librement des décisions politiques, sans coercition ni manipulation étrangère – n'est pas seulement menacée ; elle est activement contestée par des acteurs étrangers qui cherchent à façonner l'avenir démocratique du Canada. »

Le référendum proposé en Alberta, prévu pour le 19 octobre s'il a lieu, inquiète les chercheurs du domaine. Ce référendum est en effet considéré comme un terrain fertile pour les forces malveillantes qui pourraient tenter d'influencer le résultat ou de saper l'unité canadienne. Le Dr McQuinn et M. Kolga affirment que cela se produit déjà. La question qui demeure est de savoir quel est l'impact actuel et futur de ces efforts, et à quelle échelle ils sont menés, étant donné qu'une grande partie de ces efforts se déroule dans l'ombre, expliquent-ils.

Les exemples ne se limitent pas au rapport de cette semaine.

L'automne dernier, des chercheurs d'Insikt Group, le département de recherche de la société de cybersécurité Recorded Future (basée au Massachusetts), ont fait une découverte surprenante. En enquêtant sur un réseau russe clandestin appelé CopyCop, également connu sous le nom de Storm-1516, accusé de diffuser de la désinformation en ligne visant à semer la discorde en Occident, les analystes d'Insikt ont mis au jour un site web étrangement spécifique concernant l'Alberta.

De prime abord, albertaseparatist.com et ses comptes Instagram et YouTube associés semblaient être une campagne citoyenne menée par des Albertains mécontents cherchant à mobiliser des soutiens en faveur du référendum sur l'indépendance.

Cependant, Insikt affirme que ce site fait partie des centaines gérés par Storm-1516, une émanation de l'Internet Research Agency (IRA), une unité de cyberstratégie basée à Saint-Pétersbourg et identifiée par les autorités américaines comme ayant interféré dans l'élection présidentielle de 2016.

Selon les informations publiques disponibles, le site web est enregistré au nom de James Williams, de Delta (Colombie-Britannique). Cependant, le Globe and Mail a constaté que l'adresse indiquée n'existe pas à Delta et que le numéro de téléphone correspondant est erroné.

Dans une analyse des menaces publiée en septembre concernant la Russie, Insikt affirme que son analyse des tactiques, techniques et procédures utilisées par l'unité russe indique que le site web est lié à CopyCop.

L'opération « vise très probablement à tirer profit du sentiment indépendantiste croissant dans la province canadienne de l'Alberta et à exacerber la polarisation politique au Canada, dans un contexte de demandes de référendum sur l'indépendance », précise l'analyse. Insikt n'a pas répondu aux demandes de commentaires.

Cipher ET IA

La campagne d'influence présumée, suivie cette année par des chercheurs canadiens, a été découverte grâce à Cipher, un système d'intelligence artificielle développé par le Dr McQuinn en collaboration avec Matthew Taylor, informaticien à l'Université de l'Alberta.

Cipher automatise la collecte et le catalogage du contenu en ligne et identifie les récits émergents, permettant ainsi une détection plus rapide des campagnes de désinformation potentielles.

En 2023, les chercheurs canadiens ont utilisé Cipher pour étudier les tentatives de la Russie visant à saper le soutien à l'Ukraine au Canada. Les chercheurs ont constaté qu'avant même le lancement de l'invasion militaire russe, les discussions sur la corruption en Ukraine, les dissensions au sein de l'OTAN et les interrogations quant au soutien d'Ottawa à ce pays se sont multipliées en ligne, ciblant le Canada.

L'étude de 2023 a révélé qu'un ensemble d'environ 200 000 comptes Twitter liés à la Russie, désormais connu sous le nom de X, comprenant un noyau d'environ 90 comptes pro-Kremlin, adaptait ses discours spécifiquement au public canadien et avait acquis une influence considérable auprès des utilisateurs canadiens des médias sociaux. Une fois l'information diffusée dans les discussions en ligne canadiennes, son origine était souvent perdue. Le Dr McQuinn a indiqué que jusqu'à 83 % de l'« écosystème » propageant ce que les chercheurs ont identifié comme de la propagande étrangère, par le partage et la republication, était composé de Canadiens incapables de faire la distinction ou peu soucieux de l'origine des discours.

« Ils façonnaient l'environnement de manière très significative », a déclaré le Dr McQuinn.

S’appuyant sur deux années de données, le rapport indique que les campagnes d’influence étaient politiquement indiscriminées, ciblant les deux extrémités de l’échiquier politique canadien, les considérant toutes deux comme potentiellement utiles.

Les travaux se sont poursuivis cette année, période durant laquelle une recrudescence des contenus relatifs à l’Alberta a été constatée. Les chercheurs ont noté que les 67 articles liés à la sécession de l’Alberta, recensés sur une période de quatre mois, contrastaient avec les 14 mentions de l’Ontario, dont huit visaient à souligner les menaces du président américain Donald Trump de fermer un pont reliant la province au Michigan.

L’activité a connu un pic en janvier, au moment même où des dirigeants séparatistes albertains ont évoqué publiquement leur rencontre avec des représentants de l’administration Trump à Washington, ce que les auteurs interprètent également comme une forme d’influence extérieure.

« Sur le réseau Pravda, ces articles n’arrêtaient pas de surgir », a déclaré M. Kolga. « Ils surveillaient clairement l’espace informationnel et ont ensuite alimenté la polémique. »

Ce n’était pas la première fois que ce phénomène était observé.

« Dès 2019, la plateforme médiatique d'État russe Sputnik s'est intéressée au mouvement séparatiste occidental marginal connu sous le nom de Wexit », indique le rapport. « À cette époque, le mouvement ne bénéficiait que d'un faible soutien populaire, ce qui a probablement renforcé sa légitimité perçue, enhardi ses organisateurs et montré que Moscou y prêtait attention. »

Selon le rapport, les campagnes ciblant l'Alberta s'articulent autour de quatre thèmes principaux. Premièrement, elles véhiculent l'idée que le sentiment séparatiste y est en pleine expansion ; deuxièmement, elles amplifient, et parfois déforment, les griefs anciens entre l'Alberta et Ottawa, en prétendant que la population locale est exploitée et que la voie de la prospérité passe par une sécession vers les États-Unis ; troisièmement, elles avancent l'idée que l'Alberta bénéficie d'un fort soutien international à la sécession ; et quatrièmement, elles mêlent mensonges et inexactitudes à des informations véridiques pour légitimer un contenu à visée propagandiste.

Depuis, les chercheurs ont entraîné Cipher à cibler spécifiquement les campagnes d'influence présumées en Alberta, menées par la Russie, les États-Unis et d'autres pays, et ont commencé à suivre la désinformation visant le référendum. Les premières données issues de ce travail sont attendues d'ici un ou deux mois.

Le rapport indique qu'il existe un risque d'influence sur les sondages.

Au cours de la dernière année, le soutien à l'indépendance en Alberta a culminé à un peu moins de 30 % dans les sondages, bien que ce chiffre diminue lorsqu'on demande aux personnes interrogées si elles soutiendraient toujours la séparation si les coûts étaient importants. Ce chiffre plus élevé « se situe dans la fourchette où l'histoire montre que des changements importants sont possibles en peu de temps », précise le rapport.

Le soutien britannique au Brexit oscillait entre 40 % et 47 % six mois avant le vote de 2016, selon les auteurs, tandis qu'au Québec, en 1995, le soutien à la séparation est passé de 39 % à 50 % à l'approche du scrutin. Le soutien à l'indépendance de l'Écosse a également progressé en 2014, passant d'environ 30 % à 45 % au cours des derniers mois de la campagne, indique le rapport.

Les campagnes d'influence étrangère sont plus difficiles à déceler qu'on ne le pense, a déclaré le Dr McQuinn.

« Une désinformation vraiment efficace commence par quelque chose qui vous fait approuver d'un signe de tête », a-t-il expliqué. « C'est ainsi que l'on parvient à faire circuler une information sans même que les gens en examinent le contenu. »

Concernant la désinformation présumée détectée en janvier, M. Kolga a indiqué que l'une des préoccupations est que ce contenu soit utilisé pour entraîner des systèmes d'intelligence artificielle appelés grands modèles de langage, afin d'injecter de la désinformation dans les recherches d'IA concernant la séparation de l'Alberta et d'autres sujets.

« En inondant simplement ces plateformes d'informations qui soutiennent leurs positions, l'objectif est de manipuler les réponses qu'elles fournissent », a déclaré M. Kolga.

Si les campagnes d'influence étrangère que le logiciel Cipher est conçu pour détecter sont souvent obscures et clandestines, d'autres existent au grand jour. M. Kolga et le Dr McQuinn estiment que les déclarations et les actions de l'administration Trump ces derniers mois, ainsi que l'instrumentalisation du séparatisme albertain par des influenceurs MAGA américains sur des podcasts et autres plateformes, présentent des similitudes.

« L'implication des États-Unis dans le séparatisme albertain n'est pas secrète, elle est manifeste », indique le rapport.

« Par manifeste, nous entendons un engagement officiel : de hauts responsables du gouvernement américain ont rencontré directement des dirigeants séparatistes albertains et ont fait des déclarations publiques validant leur cause, alors même que les États-Unis sont dirigés par un président qui a maintes fois exprimé son intérêt pour l'annexion du Canada. »

Pour les pays qui souhaitent déstabiliser les intérêts canadiens, surtout au moment où le Canada négocie des accords commerciaux, le débat séparatiste offre un terrain fertile, affirment les chercheurs.

Si le référendum sur la séparation a lieu, le rapport souligne trois risques de désinformation susceptibles d'apparaître avant et après le vote.

Le référendum proposé fait l'objet d'une contestation judiciaire de la part des Premières Nations, qui soutiennent que toute tentative de séparation viole les traités. Alors que les tribunaux statuent sur la tenue du référendum et qu'Élections Alberta valide les signatures recueillies sur la pétition, le rapport indique que des campagnes d'influence viseront vraisemblablement la légitimité du référendum, attisant les dissensions des deux camps.

« On pourrait prétendre que des signatures valides ont été rejetées en secret, que les autorités dissimulent le soutien populaire ou que les tribunaux ont "annulé" le référendum. Des captures d'écran, des documents ou des déclarations falsifiés pourraient être utilisés pour semer la méfiance », prévient le rapport.

Les auteurs s'attendent à ce que la période précédant le vote soit également la cible de désinformation.

« On pourrait diffuser des informations sur l'admissibilité des électeurs, le dépouillement des bulletins, le vote des non-citoyens, le financement étranger, des interprétations trompeuses des règles du référendum et de fausses affirmations selon lesquelles un référendum entraînerait automatiquement l'indépendance », écrivent les auteurs. « D'autres discours pourraient présenter les partisans de la séparation comme persécutés ou ciblés par les autorités étatiques, créant ainsi un prétexte potentiel pour des acteurs étrangers de justifier une intervention. »

Après le vote, les auteurs s'attendent à voir des campagnes visant à délégitimer le résultat « par des allégations de fraude, de piratage, de faux documents, de reconnaissance étrangère ou d'obstruction fédérale ».

« Menace urgente »

En 2024, le département de la Justice américain a annoncé la saisie de 32 noms de domaine qu'il soupçonnait d'être des sites commandés par le Kremlin et créés pour diffuser clandestinement la propagande russe et influencer la politique américaine, notamment l'élection présidentielle de cette année-là.

« Des entreprises agissant sous les ordres du gouvernement russe ont créé des sites web pour inciter les Américains à consommer, à leur insu, de la propagande russe », a déclaré le département de la Justice lors de l'annonce des saisies.

Dans le cadre de l'enquête, le FBI a obtenu trois documents internes russes détaillant le mode opératoire des campagnes d'influence ; ces documents ont été versés au dossier.

Un document de planification russe présumé, intitulé « Projet Good Old USA », décrit comment des communautés en ligne sont créées à l'avance, maintenues en sommeil le temps que leur audience se développe organiquement au sein d'une communauté cible, puis mobilisées.

« Au moment opportun, une fois leur élan pris, ces communautés deviennent un instrument important d'influence sur l'opinion publique dans des États clés », indique le document, diffusant de fausses informations présentées comme des événements d'actualité.

Un autre document, versé au dossier et intitulé « Réseau d'influenceurs des médias sociaux américains », détaille les méthodes de création d'une influence en ligne.

« Des comptes actifs dans chaque État seront maintenus au nom d'une personne fictive, soutenant activement le Parti politique américain A et représentant une communauté de militants locaux. »

« Afin d'éliminer toute possibilité de détection de l'influence russe dans le projet proposé, une protection à plusieurs niveaux de l'infrastructure sera mise en place. » Il comprendra des services VPN, des serveurs physiques situés aux États-Unis, etc.

La sophistication potentielle de telles campagnes étrangères inquiète le gouvernement canadien.

La semaine dernière, le Comité permanent sénatorial sur la sécurité nationale, la défense et les anciens combattants a publié un rapport sur la question, intitulé « Désinformation russe : Comprendre le défi, renforcer la riposte du Canada ».

« Le Comité est convaincu que la désinformation russe constitue une menace urgente pour la sécurité nationale, les institutions démocratiques et la cohésion sociale du Canada », indique le rapport du Comité sénatorial.

« Le gouvernement du Canada s’efforce de lutter contre la désinformation. Toutefois, l’ampleur de la désinformation russe dépasse les capacités actuelles du Canada à la contrer efficacement. »

Bien que le rapport du Comité sénatorial se concentre sur la Russie, la menace provient de multiples acteurs étatiques et indépendants, affirment M. Kolga et Mme McQuinn.

« Les adversaires étrangers exploitent systématiquement ces vulnérabilités, agissant à la vitesse des algorithmes, tandis que la riposte institutionnelle du Canada demeure plus lente, fragmentée et souvent réactive. La surveillance à elle seule est donc insuffisante. » « Le Canada a besoin d'une meilleure coordination entre la détection précoce, l'évaluation des risques, la communication publique et la réponse institutionnelle », affirment les auteurs de leur rapport.

Le Dr McQuinn s'est dit particulièrement préoccupé par Élections Alberta dans le contexte du référendum.

« Leur tâche est ardue », a-t-il déclaré. « Leurs capacités organisationnelles sont relativement limitées. »

Michelle Gurney, porte-parole d'Élections Alberta, a indiqué que l'organisme est préoccupé et a apporté des changements pour tenter de contrer la menace de la désinformation en ligne.

L'organisme a créé une Unité d'intégrité de l'information, « spécifiquement axée sur toutes les formes de deepfakes, de mésinformation, de désinformation et autres activités malveillantes en ligne, tant étrangères que nationales », a précisé Mme Gurney.

« Nous sommes en train de mettre sur pied cette équipe et d'étendre notre utilisation de logiciels et de systèmes d'analyse, de surveillance et d'écoute des médias numériques à la pointe de l'industrie. »

Ces changements comprennent une loi, récemment adoptée, qui confère à l'organisme certains pouvoirs pour lutter contre les campagnes de désinformation présumées ou les deepfakes, c'est-à-dire de fausses vidéos qui semblent… C’est vrai.

Avant la nouvelle loi, « Élections Alberta n’avait aucun pouvoir législatif pour modifier ou demander la suppression de publications de cette nature », a déclaré Mme Gurney dans un courriel.

La porte-parole de Sécurité publique Canada, Margo Boyle, a affirmé que les menaces d’ingérence étrangère sont une priorité pour le gouvernement fédéral, sans toutefois préciser les travaux menés en amont du référendum albertain proposé.

« Lorsque des renseignements crédibles laissent supposer qu’un État étranger ou une entité qui lui est liée pourrait tenter d’interférer dans les processus politiques canadiens, les organismes fédéraux ont le pouvoir d’évaluer la situation, d’enquêter et d’agir dans le cadre de leurs mandats respectifs », a indiqué Mme Boyle dans un courriel.

Les auteurs du rapport affirment que les Canadiens ont le droit de débattre des griefs régionaux et du fédéralisme, qui font partie intégrante du processus démocratique.

« Le danger ne réside pas dans l’existence même de ce débat. » « Le danger réside dans le fait que des gouvernements étrangers, des médias sous influence étatique, des réseaux idéologiques et des systèmes de manipulation à but lucratif cherchent à déformer la réalité », conclut le rapport.

« Lorsque des acteurs extérieurs amplifient les discours séparatistes, normalisent l’annexion, encouragent la rupture nationale ou sapent la confiance dans les processus démocratiques, l’enjeu n’est plus seulement une question de politique provinciale. Il devient une menace directe pour l’intégrité démocratique, la sécurité nationale et la souveraineté cognitive du Canada. »

2 DÉCEMBRE – Une Floridienne qui a remis à la police une photo générée par intelligence artificielle d'un sans-abri qui l'aurait agressée sexuellement a été reconnue coupable de fausse déclaration, une supercherie ! [http://thesmokinggun.com/sites/default/files/assets/manoncouchchatgpt25.jpg] motivée par un « défi TikTok » et son besoin d'attention, selon les documents judiciaires.

Brooke Schinault, 32 ans, a plaidé non coupable hier et a été reconnue coupable de ce délit. Elle a été condamnée à une amende et placée sous probation.

En octobre, Schinault a appelé le 911 pour signaler qu'un homme s'était introduit de force dans son appartement de St. Petersburg et avait commis une agression sexuelle pendant que son bébé dormait dans une autre pièce.

Schinault a affirmé avoir pris une photo (visible à droite) de l'homme assis sur son canapé. La police a fourni la photo à TSG suite à une demande d'accès aux documents administratifs.

Le cambriolage et l'agression signalés ont mobilisé sept agents, un inspecteur, six secouristes et un technicien de la police scientifique chargé de prélever des échantillons d'ADN.

Le récit de Schinault s'est effondré lorsque l'inspecteur Dagni Closser a examiné la photo du suspect présumé : un homme blanc d'une trentaine d'années, portant un sweat à capuche. « Comme je connais bien les réseaux sociaux et leurs tendances, j'ai reconnu cet homme comme participant à un défi viral sur TikTok », a déclaré Closser. Ce « défi du sans-abri virtuel », a-t-il précisé, consiste à télécharger une photo d'un domicile sur une application d'intelligence artificielle qui y insère ensuite la photo d'un sans-abri.

« La plupart des gens installent la personne suspectée sur leur canapé, prennent une capture d'écran et l'envoient à leurs proches pour leur faire croire qu'un inconnu est chez eux », a déclaré Closser, qui a indiqué avoir trouvé « plusieurs vidéos TikTok de ce défi » utilisant la même photo d'un sans-abri.

Interrogée par la police, Schinault a d'abord prétendu avoir seulement utilisé une intelligence artificielle pour améliorer la netteté d'une photo floue de son agresseur. Elle a finalement avoué, expliquant qu'elle souffrait de dépression, d'insomnie et qu'elle « cherchait à attirer l'attention ».

L'image truquée, a déclaré Schinault, a été créée à l'aide de « Google et ChatGPT ». Pour créer la photo, selon le rapport de police, « Brooke a tapé "un sans-abri" ».

DELTONA, Floride – Une famille de Floride témoigne pour mettre en garde les autres propriétaires d'animaux après avoir été victime d'une escroquerie orchestrée par des individus utilisant l'intelligence artificielle et faisant croire à la disparition de leur chien.

Bill Cosens raconte que le calvaire a commencé dimanche matin, peu après la fugue de son beagle croisé, Archer, dans son jardin. Après avoir publié un avis de recherche sur les réseaux sociaux, M. Cosens a reçu un appel d'une femme affirmant avoir retrouvé son chien.

Cette personne a expliqué à M. Cosens qu'Archer avait été percuté par une voiture et qu'il fallait débourser 2 800 $ pour une opération d'urgence. L'escroc a envoyé des photos montrant Archer sur une table d'opération, photos que M. Cosens avait publiées sur les réseaux sociaux. Ces photos étaient truquées et générées par une intelligence artificielle.

Photos générées par IA

Ce qu'ils disent :

« Quand on commence à réfléchir logiquement et à prendre du recul par rapport à nos émotions, on se rend vite compte qu'on se fait arnaquer », a déclaré Cosens. « Et là, on passe de la contrariété à la colère. »

Cosens a commencé à avoir des soupçons lorsqu'il a vérifié l'adresse de la clinique vétérinaire fournie par l'escroc et a découvert qu'il s'agissait de celle de la mairie voisine. Heureusement, il n'a rien envoyé.

Cosens a raconté qu'un voisin avait vu une femme faire monter Archer dans une voiture et partir. Le voisin a finalement réussi à retrouver la femme et à ramener le chien sain et sauf à Cosens.

Une tendance inquiétante :

Le bureau du shérif du comté de Volusia enquête actuellement sur l’incident. Ce cas rappelle un incident similaire survenu à Saint-Pétersbourg plus tôt cette année, où un autre propriétaire d’animal de compagnie a été victime d’une escroquerie quasi identique. Dans ce cas, la banque de la victime a signalé la transaction suspecte avant même que les fonds ne soient transférés.

Selon les experts, ces escrocs récupèrent souvent des photos sur les réseaux sociaux, notamment celles publiées dans la section « animaux perdus et trouvés », et utilisent des outils d’intelligence artificielle pour y ajouter de fausses blessures ou du matériel médical.

Cosens conseille à toute personne se trouvant dans une situation similaire de rester vigilante malgré la douleur causée par la perte de son animal.

« Le premier réflexe pour éviter de se faire arnaquer, selon moi, c'est de se méfier des arnaqueurs qui refusent de vous rencontrer et d'être payés en personne ; c'est une arnaque », a déclaré Cosens.

Source : Cet article s'appuie sur les témoignages de deux propriétaires d'animaux victimes d'arnaques cette année, ainsi que sur un reportage de Kailey Tracy de FOX 13.

Une vidéo promotionnelle du FBI, mise en ligne par le réalisateur Kash Patel, semble avoir utilisé l'intelligence artificielle pour générer de courts extraits quasi identiques à ceux du clip iconique de « Sabotage » des Beastie Boys (1994).

Patel a publié la vidéo lundi sur la plateforme X, dans un message évoquant les efforts du FBI pour lutter contre la « fraude massive ». Cette vidéo d'environ deux minutes utilise la version instrumentale de « Sabotage » et des images presque identiques à celles du clip original, entrecoupées de séquences qui semblent authentiques, montrant des agents du FBI en pleine enquête.

Mardi, elle avait déjà été visionnée près d'un demi-million de fois.

Une analyse de NPR révèle qu'au moins six extraits de la vidéo du FBI sont des reconstitutions image par image de plans du clip iconique de « Sabotage », réalisé par Spike Jonze. Les extraits vidéo présentaient des véhicules, des personnes et des bâtiments incroyablement similaires à la vidéo originale, à quelques détails près, probablement générés par une intelligence artificielle.

Par exemple, dans un plan où une voiture part en tête-à-queue, les grilles de certaines fenêtres sont clairement visibles dans la vidéo originale, mais absentes de la version du FBI. Un autre plan montre une personne munie d'un mégaphone sautant de toit en toit, avec des lignes téléphoniques en arrière-plan. Ces lignes et la saleté sur le bâtiment sont parfaitement alignées avec la vidéo de 1994, filmée il y a plus de 30 ans. Dans une image, une ligne téléphonique semble traverser la tête du personnage : un défaut fréquent dans les vidéos générées par IA.

Les représentants de Spike Jonze et des Beastie Boys n'ont pas répondu à la demande de commentaires de NPR. Le FBI n'a pas non plus répondu à la demande d'informations complémentaires de NPR concernant la vidéo et sa réalisation.

Des experts indépendants ayant examiné la vidéo pour NPR ont conclu que les extraits avaient probablement été générés par une IA.

« Il semble fort probable qu'il s'agisse d'une IA », a déclaré Kolina Koltai, chercheuse au sein du groupe d'enquêtes en ligne Bellingcat, à NPR par courriel. « On peut même observer certaines erreurs de l'IA. »

Par exemple, Koltai souligne la présence d'artefacts caractéristiques générés par l'IA sur la plaque d'immatriculation « No Fraud » de la voiture du FBI dans le plan d'ouverture.

Les séquences ont probablement été créées à partir de captures d'écran ou de courts extraits du clip original de « Sabotage », utilisés ensuite pour entraîner un modèle de conversion image-vidéo, a expliqué Hany Farid, professeur à l'Université de Californie à Berkeley, spécialiste de l'analyse d'images numériques, à NPR par courriel. Il est également possible que le modèle d'IA ait généré lui-même les séquences vidéo, le clip original figurant dans ses données d'entraînement, bien que Farid juge cette hypothèse moins probable.

Quoi qu'il en soit, Farid est convaincu de l'implication de l'IA : « Les similitudes sont difficiles à expliquer autrement », a-t-il écrit.

Durant le second mandat du président Trump, les membres de son administration se sont emparés avec enthousiasme de la musique populaire, des films et des mèmes pour diffuser leur message, malgré les protestations des artistes.

Le recours à l'intelligence artificielle est également devenu une tactique courante. En octobre dernier, le président Trump lui-même a notamment publié une vidéo générée par IA le montrant en train de déverser un liquide brunâtre sur des manifestants lors d'un rassemblement « No Kings », sur la musique « Danger Zone » de Kenny Loggins. Ce dernier a exigé le retrait de la vidéo (https://www.npr.org/2025/10/20/nx-s1-5580328/kenny-loggins-donald-trump-ai-video). Elle est toujours disponible sur le compte Truth Social de Trump.

En janvier, la Maison-Blanche a publié une image retouchée par intelligence artificielle d'une manifestante arrêtée par les autorités fédérales à Minneapolis, sans préciser que l'image avait été manipulée.

Patel, née à Long Island en 1980, était alors au collège ou au lycée lorsque les Beastie Boys ont sorti l'album « Sabotage ».