Bienvenido a

la base de datos de incidentes de IA

Mark A. Young's daughter called him at his

home on a Monday. The young woman's panicked voice projected fear and pain.

She needed her father. "She was crying and upset," Young said. "She told me, 'Dad, I got in an accident and I'm in trouble. I need help.' " Knowing she had traveled from Spokane to Seattle for a concert, the tone of the familiar voice sparked an immediate defensive reaction from Young, who spent most of his career responding to danger. A male voice then got on the phone, said he was a medic and

told Young, a retired police officer, that his 24-year-old daughter had been involved in a collision. And then a second male voice took over the conversation. That voice continues to haunt Young. That man, who had a Scottish accent, asked questions of Young to confirm he was the driver's father.

"Then his tone changed," Young said. "He first identified himself as a drug dealer." The man, who never gave his name, explained to Young that his daughter had been involved in a collision that had interrupted a drug transaction. She had seen "something she wasn't supposed to see." "He told me because of that, he had taken my daughter as a hostage and he was deciding what to do with her," Young said. "He said he could kill her, make her a prostitute or sell her overseas to sex traders." During the conversation, the voice several times allowed Young to speak with his daughter, who out of a request from the family, The Spokesman-Review agreed not to identify. "There is nothing like a loved one suffering over the phone and there is nothing you can do," Young said. "I thought I was a pretty tough guy. But that almost broke me." But the

voice wasn't that of his daughter. It was a fake, an AI-generated copy.

The perpetrators, investigators later surmised, used a recording of the daughter's voice and a program that so accurately mimicked her speech pattern that it convinced Young to leave his home in the small Whitman County town of Garfield to visit several banks and drive all over the Palouse and Idaho to get money to save her life. The Federal Trade Commission

began warning consumers as early as 2023

of the new type of scam that uses AI to copy the voices of family members. "Scammers ask you to pay or send money in ways that make it hard to get your money back. If the caller says to wire money, send cryptocurrency, or buy gift cards and give them the card numbers and PINs, those could be signs of a scam," according to the FTC news release. In Young's case, he wired

$13,000 and was in the process of getting thousands more when the 30-hour

ordeal finally ended inside of a Pullman bank branch. The calm demeanor of a longtime banker, and quick response by Pullman Police, finally led to

Young's daughter being reached to make sure she was safe and at home in Spokane.

"I almost collapsed," said Young, who cried at learning the truth. "I was just so relieved. It took me days to literally start feeling normal again."

The intensity of the ordeal, he said, cannot be understated, even for a man who worked 26 years as a police officer in Santa Rosa, California, and volunteered to serve as a Marine in Vietnam where he

was shot

in the arm. "You are living every minute like it's your last," Young said of the AI extortion. "You are trying to figure out what you can do. That's a hard feeling for me to grasp, because I've never felt helpless like that."

Chasing the fear

The call came

Monday, March 23. After the initial conversations that convinced Young that his daughter was in danger, he began complying with the demands from the man with the Scottish accent. The man explained to Young that he first needed to transfer money to cover the thousands lost in the drug transaction that his daughter had interrupted

. Young, who worked six years as a journalist before becoming a police officer and

also has authored six books

, said he focused his entire energy on helping his daughter. "I had no doubts that I had spoken to my daughter, and I assumed that she was in his custody," he said. "I did whatever I could to cooperate for the next 30 hours." The voice ordered Young to maintain the telephone call, which prevented him from calling for help or his wife. "He said, 'If I lose you, I'm going to take it out on your daughter.' My training as a cop for 26 years, and being in the Marines, I knew how to keep my emotions under control and handle myself as a dutiful victim," Young said. "But it wasn't easy. "I just played along with him, and he directed me to go to one of two banks that we have." Young first drove to a branch in Garfield and withdrew $5,000. The caller directed him to drive to a Walmart in Pullman where he had Young transfer half the money to someone in Mexico. The caller directed Young to do the same thing at a Walmart in Moscow. He then traveled to the WaFd (formerly known as Washington Federal) Bank branch in Pullman, where he took another $5,000, and drove to Lewiston to transfer the same $2,500 amounts from two different stores there. "I'm on the phone with him the whole time. When I'm traveling, I have to list off all the mile markers on the road so he knows where I'm at," said Young

, who could tell the man on the other line was real, unlike the voice mimicking his daughter. "He let me talk to my daughter a couple more times. In the meantime ... he's trying to get more information from me." The caller asked whether Young, 75, had retired and what he did for his career. Fearing that his daughter had already told the abductor about his past, Young said he told the truth to protect her. The caller then directed Young to travel to Boise, because he said he feared that local law enforcement may be trying to monitor the situation. Young complied, drove hours south and got a hotel room in Boise. Once there, he snuck out of his room, raced down to the hotel lobby and used the hotel phone to call his wife. Katie Young was in Chicago on business.

When Mark Young called, her phone was off and the call went to voicemail. But his wife's voicemail was full, so he was not able to leave a message. "That was a bummer," Young said. He got back to his room just as the voice called Young's cell

phone to check on him. The next day, Young transferred another $2,500 from a store in Boise. But when he tried it again, he learned that his ATM card had been blocked. He told the voice that he could solve the ATM problem by driving back to his bank branch in Pullman. On the drive back north, Young passed several places where he lost cell

phone coverage in the Idaho mountains. During one of those periods, he pulled over and wrote down his wife's phone number and explained his situation on a piece of paper so that the FBI could later tell his wife what was happening in case the situation worsened.

He finally made it back to Pullman the afternoon of Tuesday, March 24. "He led me to believe that he was doing surveillance on me while I went to the bank," Young said. Young walk

ed into the branch, located at 405 E. Main St. in Pullman, and saw someone familiar

-- Alex Navarro, the assistant branch manager. Young handed Navarro a note, pointed at it

and walked into the bank's bathroom.

Adventures in banking

Navarro said he took the note and immediately thought something else was happening. Young "walked in with a purpose. He had this note. I knew something was wrong when he set it down and pointed at it," Navarro said. "The first thing that popped in my mind was, 'This guy is robbing me.' Then he went to the bathroom. I thought, that's weird. "Then I read the note

. I was not expecting that." Young said he fully intended to withdraw $17,000, which is what the voice said it would take to buy his daughter's freedom. Sensing the danger and realizing through Young's gestures that the perpetrator was listening in by telephone, Navarro began calmly explaining the process to get the money.

Navarro then told Young that he had to make a phone call to the ATM company to release his card. "I was just buying time," Navarro said. "I made a phone call to our card department and was talking on the phone. But actually, I was texting the teammates that I have a very serious situation going on and I need someone in the back room." Navarro came up with

another excuse, saying that he had to go in the back to retrieve cash. He used the ruse to meet with a longtime teller. "I told her, 'We have a possible extortion kidnapping.' " She went to another part of the building

and called Pullman Police, located a block away. In the meantime, Young passed another note asking Navarro whether he was going to get his money. Navarro told him no and indicated that police had been alerted. "He was truly panicked," Navarro said. "He was grabbing his forehead. His physical distress was clear. He wrote back in another note, 'They are watching us. They said they are outside the building watching us.' " But Navarro needed to stall for time to allow police to arrive. He solved it with the slow count. "I told him, 'I have to count back the $17,000 to you.' So, we went through a fake transaction," he said. With the voice listening, Navarro made a big show of counting out the money in $100 increments. Because the money didn't exist, Navarro pantomimed placing papers down on the desk to sound like he was stacking cash. Halfway through his counting delay tactic, Officer Shane Emerson entered the branch. Navarro and Young took pains to let the officer know that the perpetrator was listening, and they also passed Emerson a note warning that others could be watching the bank. Emerson, according to his police report, called for backup officers to respond to search the branch's parking areas and other location to see if they could locate conspirators. He then took Young's note, the one

with his wife's phone number

written on it, and left the bank before calling Katie Young. "I advised her what was going on, and she said she was on the phone with (her daughter). She merged the calls," Emerson wrote. The daughter "said she was at her residence in Spokane and was absolutely safe." Emerson returned to the branch to alert Mark Young that his family was safe. "Young was shocked and started to cry," Emerson wrote. "I didn't realize how much I was holding in until I learned my daughter was fine," Young said. Young said he later sent both Emerson and Navarro notes thanking them for how they handled and diffused what he was convinced was a life-or-death situation. Navarro said he's seen a lot during 35 years of banking, but nothing compared to that afternoon. "This is the first time I have ever heard somebody being involved with something like this," Navarro said, "where an AI-generated voice has mimicked a person's voice and they weren't able to tell the difference."

The aftermath

Young followed up with Pullman police and later traveled to Spokane to speak with FBI investigators, but as of yet, has not been able to recover any of the funds he wired from the multiple stores. Katie Young said it's taken her husband a long time to recover from the ordeal. She said she was in the lobby of the hotel in Chicago when Officer Emerson called her. "You never really want to get a call, when you are out of town, from the police department. It's never really good news," she said. "I was instantly at attention." After merging the calls to let Emerson know that her daughter was safe, Katie Young flew to Spokane and drove to Garfield. "I was home the next day. My daughter drove over," she said. "We were all together and happy." She stressed

that she doesn't believe her family was a victim of a scam.

"This is really extortion. It's a very different thing," she said. "And

it's unconscionable. I can't imagine how anyone could possibly do that." They still don't know how those extortionists knew their daughter's voice. Both Katie and Mark Young implored parents to work with family members to come up with a safe word

only they would know, to utter in emergencies like this. It's about the only defense they could imagine in a similar scenario. "They can fabricate it so well now," Mark Young said of his daughter's voice. "I could not tell it wasn't her. To me, it was her voice. I was trying to calm her down while trying to calm this guy down." He noted that throughout the 30-hour ordeal, the man with the Scottish accent called back dozens of times. Many of those calls came from different phone numbers that had area codes from Oregon, Washington and Idaho. After the rush of emotion on learning his daughter was safe, Mark Young left the Pullman branch. When he got to his car, the voice called back one last time. "The bad guy comes on the phone and said, 'You got my money?' I told him, 'No. I know my daughter is fine,' " Young said. "I told him several choice words that I can't repeat." The voice claimed that he had guns and could kill everyone Young loves. "I told him, 'I pray you come looking for me,' and I told him what I would do

," Young said.

A principios de este año, investigadores canadienses que rastrean campañas de influencia en línea y propaganda extranjera descubrieron algo peculiar. Utilizando inteligencia artificial para catalogar la actividad de sitios web y cuentas de redes sociales rusas conocidas por difundir desinformación sobre la invasión de Ucrania, los investigadores notaron que un nuevo tema acaparaba repentinamente más atención que nunca: Alberta.

Entre finales de diciembre y finales de abril, las referencias al separatismo de Alberta y diversos temas relacionados, incluyendo la idea de que la provincia se convirtiera en un estado de EE. UU. y el fracaso de Canadá como país, aumentaron drásticamente en granjas de contenido rusas conocidas. Durante esos cuatro meses, Alberta fue el foco de 67 artículos producidos y distribuidos por Pravda Network, casi cinco veces más que otros temas relacionados con Canadá.

Los investigadores afirman que este tipo de contenido, creado para avivar el debate en Alberta y socavar los intereses nacionales, está diseñado para difundirse en línea y encontrar eco entre canadienses afines, para luego integrarse en la conversación local mediante su difusión y republicación, "creando un efecto de lavado de información en el que las quejas locales se mezclan con narrativas estratégicas extranjeras".

En un estudio publicado esta semana por el Centro Global para la Resiliencia Democrática, Brian McQuinn, codirector del Centro de Inteligencia Artificial, Datos y Conflicto de la Universidad de Regina, y Marcus Kolga, director de DisinfoWatch, una organización que estudia las campañas de influencia en línea, afirman que el referéndum propuesto por Alberta sobre la independencia está siendo blanco de agentes extranjeros que buscan sembrar la discordia y socavar los intereses canadienses.

«Nos estamos acercando a este referéndum casi sin darnos cuenta, y ya estamos siendo blanco de ataques mucho más intensos de lo que la gente cree», declaró el Dr. McQuinn en una entrevista.

Según el informe, las actividades en cuestión abarcan desde campañas de influencia encubiertas llevadas a cabo por países como Rusia, China y otros para fomentar la discordia dentro de la provincia, hasta declaraciones y acciones públicas de la administración Trump para alentar a los separatistas de Alberta, incluyendo reuniones con sus representantes en Washington. Una tercera categoría involucra a plataformas de contenido en línea que producen videos de YouTube generados por IA con fines de lucro, alimentando y enturbiando el debate con falsedades y narrativas diseñadas para profundizar las divisiones.

«Adversarios extranjeros están explotando el debate separatista de Alberta para erosionar la cohesión social, profundizar las divisiones internas, socavar la confianza en las instituciones democráticas y amplificar la percepción de inestabilidad política que daña la confianza de los inversionistas en Canadá», afirman los autores en el informe, que se presentará en una conferencia en Toronto el miércoles y que fue facilitado a The Globe and Mail con anticipación.

La soberanía cognitiva de Canadá —la capacidad de los canadienses para tomar decisiones políticas libremente, sin coerción ni manipulación extranjera— no solo está amenazada, sino que está siendo activamente cuestionada por actores extranjeros que buscan moldear el futuro democrático de Canadá.

El referéndum propuesto en Alberta, previsto para el 19 de octubre si se lleva a cabo, preocupa a los investigadores en este campo, ya que se considera un terreno fértil para que fuerzas malintencionadas intenten influir en el resultado o socavar la unidad canadiense. El Dr. McQuinn y el Sr. Kolga afirman que esto ya está ocurriendo. La pregunta que aún queda sin respuesta es qué efecto están teniendo, o podrían tener, estos esfuerzos en los próximos meses, y a qué escala se están llevando a cabo, dado que gran parte de ellos permanecen ocultos, según afirman.

Los ejemplos no se limitan al informe de esta semana.

El otoño pasado, investigadores de Insikt Group, la división de investigación de la empresa de ciberseguridad Recorded Future, con sede en Massachusetts, también descubrieron algo peculiar. Mientras investigaban una red rusa clandestina llamada CopyCop, también conocida como Storm-1516, acusada de difundir desinformación en línea con el objetivo de fomentar la división en Occidente, los analistas de Insikt encontraron un sitio web inusualmente específico sobre Alberta.

A primera vista, albertaseparatist.com y sus cuentas asociadas de Instagram y YouTube parecían una campaña popular de ciudadanos de Alberta descontentos que buscaban movilizar apoyo para el referéndum de independencia propuesto.

Sin embargo, Insikt alega que el sitio es uno de los cientos operados por Storm-1516, una rama de la Agencia de Investigación de Internet de Rusia, una unidad de ciberestrategia con sede en San Petersburgo que las autoridades estadounidenses identificaron como causante de la interferencia en las elecciones presidenciales de 2016.

Según los registros públicos, el sitio web está registrado a nombre de James Williams de Delta, Columbia Británica. Sin embargo, The Globe descubrió que la dirección indicada no existe en Delta y que el número de teléfono correspondiente es incorrecto.

En un análisis de amenazas sobre Rusia publicado por la firma en septiembre, Insikt afirma que su análisis de las tácticas, técnicas y procedimientos utilizados por la unidad rusa indica que el sitio web está vinculado a CopyCop.

La operación "casi con certeza intenta aprovechar el creciente sentimiento independentista en la provincia canadiense de Alberta y exacerbar la polarización política interna en Canadá en medio de los llamados a un referéndum de independencia", señala el análisis de amenazas. Insikt no respondió a las solicitudes de comentarios.

Cipher e IA

La presunta campaña de influencia rastreada este año por investigadores canadienses fue descubierta mediante Cipher, un sistema de inteligencia artificial desarrollado por el Dr. McQuinn junto con Matthew Taylor, científico informático de la Universidad de Alberta.

Cipher automatiza la recopilación y catalogación de contenido en línea e identifica narrativas emergentes, lo que permite una detección más rápida de posibles campañas de desinformación.

En 2023, los investigadores canadienses utilizaron Cipher para estudiar los intentos de Rusia de socavar el apoyo a Ucrania en Canadá. Descubrieron que, incluso antes de la invasión militar rusa, comenzaron a proliferar en línea rumores de corrupción en Ucrania, discordia en la OTAN y dudas sobre el apoyo de Ottawa al país, dirigidos a Canadá.

El estudio de 2023 determinó que un conjunto de aproximadamente 200.000 cuentas vinculadas a Rusia en Twitter, ahora conocidas como X, incluyendo un grupo central de unas 90 cuentas prorrusas, adaptaban sus narrativas específicamente para el público canadiense y habían desarrollado una "influencia desproporcionada" entre los usuarios canadienses de redes sociales. Una vez que la información llegaba al debate en línea canadiense, a menudo perdía su origen. El Dr. McQuinn afirmó que hasta el 83% del "ecosistema" que difundía lo que los investigadores identificaron como propaganda extranjera, mediante compartir y republicar contenido, estaba compuesto por canadienses que no podían distinguir la diferencia o no les importaba de dónde provenían las narrativas.

"Estaban moldeando el entorno de una manera realmente significativa", declaró el Dr. McQuinn.

Basándose en datos de dos años, el informe señaló que las campañas de influencia también eran políticamente indiscriminadas, dirigidas a ambos extremos del espectro político en Canadá, considerando a ambos como potencialmente útiles.

El trabajo continuó este año, cuando se detectó un aumento en el contenido sobre Alberta. Los investigadores señalaron que los 67 artículos relacionados con la secesión de Alberta en un lapso de cuatro meses contrastaban con las 14 menciones de Ontario, de las cuales ocho buscaban destacar las amenazas del presidente estadounidense Donald Trump de cerrar un puente que une la provincia con Michigan.

La actividad se disparó en enero, aproximadamente cuando los líderes separatistas de Alberta hablaron públicamente sobre su reunión con funcionarios de la administración Trump en Washington, lo que los autores también interpretan como una forma de influencia externa.

"En la red Pravda, simplemente aparecía", dijo el Sr. Kolga. "Claramente estaban monitoreando el espacio informativo y luego comenzaron a alimentar esa información".

No era la primera vez que se detectaba esto.

"Ya en 2019, la plataforma de medios estatales rusos Sputnik mostró interés en el movimiento separatista occidental marginal conocido como Wexit", afirma el informe. Esto ocurrió en un momento en que contaba con escaso apoyo público significativo, lo que probablemente infló su legitimidad percibida, envalentonó a sus organizadores e indicó que Moscú estaba al tanto.

Según el informe, las campañas dirigidas a Alberta presentan cuatro temas principales. Primero, promueven la idea de que el sentimiento separatista en la provincia está creciendo; segundo, amplifican y, en ocasiones, distorsionan los antiguos resentimientos entre Alberta y Ottawa, argumentando que la población local está siendo explotada y que el camino hacia la prosperidad implica la secesión a Estados Unidos; tercero, plantean la noción de que Alberta cuenta con un fuerte apoyo internacional a la secesión; y cuarto, mezclan falsedades e inexactitudes con noticias veraces para legitimar el contenido propagandístico.

Desde entonces, los investigadores han entrenado a Cipher para que se centre específicamente en las presuntas campañas de influencia en Alberta provenientes de Rusia, Estados Unidos y otros países, y han comenzado a rastrear la desinformación dirigida al referéndum. Se espera que el primer conjunto de datos de este trabajo esté disponible en uno o dos meses.

Existe el riesgo de influir en las encuestas, según el informe.

El apoyo a la independencia en Alberta alcanzó un máximo de poco menos del 30 % en las encuestas del último año, aunque estas cifras disminuyen cuando se pregunta a la gente si seguirían apoyando la separación si los costos fueran significativos. El porcentaje más alto "se sitúa dentro del rango donde los precedentes históricos demuestran que son posibles cambios drásticos en un corto período de tiempo", afirma el informe.

El apoyo británico al Brexit se situaba entre el 40 % y el 47 % seis meses antes de la votación de 2016, según los autores, mientras que el apoyo a la separación en Quebec en 1995 aumentó del 39 % al 50 % a medida que se acercaba la votación. El apoyo a la independencia de Escocia en 2014 también subió del 30 % al 45 % en los últimos meses de la campaña, según el informe.

Las campañas de influencia extranjera son más difíciles de detectar de lo que se cree, declaró el Dr. McQuinn.

"La desinformación realmente efectiva comienza con algo con lo que uno asiente con la cabeza", dijo. "Así es como se logra que la gente difunda algo sin siquiera leer su contenido".

En el caso de la presunta desinformación detectada en enero, el Sr. Kolga señaló que una de las preocupaciones es que el contenido se esté utilizando para entrenar sistemas de IA conocidos como modelos de lenguaje a gran escala, con el fin de inyectar desinformación en las búsquedas de IA sobre la secesión de Alberta y otros temas.

"Simplemente inundándolas con información que apoya sus posturas, se pretende manipular las respuestas que ofrecen estas plataformas", afirmó el Sr. Kolga.

Si bien el tipo de campañas de influencia extranjera que el software Cipher está diseñado para detectar suelen ser turbias y encubiertas, existen otras a la vista de todos. El Sr. Kolga y el Dr. McQuinn consideran que las declaraciones y acciones de la administración Trump en los últimos meses, junto con el fomento del separatismo de Alberta por parte de personas influyentes estadounidenses del movimiento MAGA en podcasts y otras plataformas, son de naturaleza similar.

«La participación de Estados Unidos en el separatismo de Alberta no es encubierta, sino manifiesta», afirma el informe.

«Por manifiesta, nos referimos a la participación oficial, donde altos funcionarios del gobierno estadounidense se han reunido directamente con líderes separatistas de Alberta y han emitido declaraciones públicas que validan su causa, mientras que Estados Unidos está liderado por un presidente que ha expresado repetidamente su interés en anexar Canadá».

Para los países que buscan desestabilizar los intereses canadienses, especialmente en un momento en que Canadá negocia acuerdos comerciales, el debate separatista ofrece un terreno fértil, señalan los investigadores.

Si el referéndum sobre la separación sigue adelante, el informe destaca tres riesgos de desinformación que podrían surgir antes y después de la votación.

El referéndum propuesto enfrenta una impugnación legal de las Primeras Naciones, que argumentan que cualquier intento de separación viola los tratados internacionales. Mientras los tribunales deciden si el referéndum puede celebrarse y Elections Alberta valida las firmas recogidas en la petición para su celebración, el informe señala que es probable que las campañas de influencia se centren en la legitimidad del referéndum, avivando la discordia entre ambos bandos.

«Podrían surgir narrativas que afirmen que firmas válidas fueron rechazadas secretamente, que las autoridades ocultan el apoyo público o que los tribunales han "cancelado" el referéndum. Se podrían utilizar capturas de pantalla, documentos o declaraciones falsificadas para generar desconfianza», advierte el informe.

Los autores prevén que el período previo a la votación también será objeto de desinformación.

«Las narrativas podrían centrarse en la elegibilidad de los votantes, el recuento de votos, el voto de los no ciudadanos, la financiación extranjera, las interpretaciones erróneas de las normas del referéndum y las falsas afirmaciones de que un referéndum produciría automáticamente la independencia», escriben los autores. «Otras narrativas podrían presentar a los partidarios de la separación como perseguidos o atacados por las autoridades estatales, creando un posible pretexto para que actores extranjeros justifiquen la intervención».

Tras la votación, los autores prevén campañas que intenten deslegitimar el resultado "mediante acusaciones de fraude, piratería informática, falsificación de documentos, reconocimiento extranjero u obstrucción federal".

'Amenaza urgente'

En 2024, el Departamento de Justicia de EE. UU. anunció la incautación de 32 dominios de internet que, según alegó, eran sitios web dirigidos por el Kremlin, creados para difundir encubiertamente propaganda rusa e influir en la política estadounidense, incluidas las elecciones presidenciales de ese año.

"Empresas que operan bajo la dirección del gobierno ruso crearon sitios web para engañar a los estadounidenses y que consumieran propaganda rusa sin darse cuenta", declaró el Departamento de Justicia al anunciar las incautaciones.

Como parte de la investigación, el FBI obtuvo tres documentos internos rusos que detallaban el manual para llevar a cabo campañas de influencia, los cuales fueron presentados como pruebas en el caso.

Un supuesto documento de planificación ruso, titulado «El Buen Viejo Proyecto de EE. UU.», describe cómo se crean comunidades en línea con antelación, manteniéndolas en un estado latente mientras desarrollan orgánicamente su audiencia en una comunidad objetivo, para luego ser movilizadas.

«En el momento oportuno, al ganar impulso, estas comunidades se convierten en un instrumento importante para influir en la opinión pública en estados de vital importancia», afirma el documento, difundiendo «historias falsas disfrazadas de noticias».

Otro documento presentado como prueba en el caso, titulado «Red de Influencers en Redes Sociales de EE. UU.», describe métodos para generar influencia en línea.

«Se mantendrán cuentas activas en cada estado a nombre de un individuo ficticio, que apoya activamente al Partido Político A de EE. UU. y representa a una comunidad de activistas locales».

«Para eliminar la posibilidad de detectar la influencia rusa en el proyecto propuesto, se construirá una infraestructura de protección multinivel». Contendrá servicios VPN, servidores físicos ubicados en Estados Unidos, etc.

La posible sofisticación de estas campañas extranjeras preocupa al gobierno canadiense.

La semana pasada, el Comité Permanente del Senado sobre Seguridad Nacional, Defensa y Asuntos de Veteranos elaboró un informe que examina el tema, titulado «La desinformación rusa: Entendiendo el desafío, fortaleciendo la respuesta de Canadá».

«El comité está convencido de que la desinformación rusa representa una amenaza urgente para la seguridad nacional, las instituciones democráticas y la cohesión social de Canadá», afirma el informe del comité del Senado.

«El Gobierno de Canadá ha estado realizando esfuerzos para abordar la desinformación. Sin embargo, la magnitud de la desinformación rusa supera la capacidad actual de Canadá para combatirla eficazmente».

Aunque el informe del comité del Senado se centra en Rusia, la amenaza proviene de múltiples actores estatales e independientes, según afirman el Sr. Kolga y la Dra. McQuinn.

«Los adversarios extranjeros explotan sistemáticamente estas vulnerabilidades, actuando a la velocidad de los algoritmos, mientras que la respuesta institucional de Canadá sigue siendo más lenta, fragmentada y, a menudo, reactiva. Por lo tanto, la mera vigilancia es insuficiente». Canadá necesita una mejor coordinación entre la detección temprana, la evaluación de riesgos, la comunicación pública y la respuesta institucional, afirman los autores en su informe.

El Dr. McQuinn expresó su especial preocupación por Elections Alberta ante el referéndum.

"Tienen una tarea difícil", declaró el Dr. McQuinn. "Su capacidad organizativa es relativamente limitada".

Michelle Gurney, portavoz de Elections Alberta, indicó que la agencia está preocupada y ha implementado cambios para abordar la amenaza de la desinformación en línea.

La agencia ha creado una Unidad de Integridad de la Información, "específicamente enfocada en todas las formas de deepfakes, información errónea, desinformación y otras actividades maliciosas en línea, tanto nacionales como extranjeras", explicó la Sra. Gurney.

"Estamos en proceso de conformar este equipo y adquirir software y sistemas líderes en la industria para el análisis, monitoreo y escucha de medios digitales".

Los cambios incluyen una legislación, aprobada recientemente, que otorga a la agencia cierta facultad para abordar presuntas campañas de desinformación o deepfakes, que son videos falsos. que parecen reales.

Antes de la nueva legislación, "Elecciones Alberta no tenía autoridad legislativa para modificar o solicitar la eliminación de publicaciones de esta naturaleza", declaró la Sra. Gurney en un correo electrónico.

La portavoz de Seguridad Pública de Canadá, Margo Boyle, afirmó que las amenazas de injerencia extranjera son una prioridad para el gobierno federal, pero no especificó qué trabajo se está realizando de cara al referéndum propuesto en Alberta.

"Cuando información fidedigna sugiere que un Estado extranjero o una entidad vinculada al extranjero podría estar intentando interferir en los procesos políticos de Canadá, los organismos federales tienen la autoridad para evaluar, investigar y actuar dentro de sus respectivos mandatos", declaró la Sra. Boyle en un correo electrónico.

Los autores del informe afirman que los canadienses tienen derecho a debatir las quejas regionales y el federalismo, que forman parte de un proceso democrático.

"El peligro no reside en la existencia de ese debate. El peligro reside en que gobiernos extranjeros, medios de comunicación afines al Estado, redes ideológicas y sistemas de manipulación con fines de lucro buscan distorsionar la realidad", concluye el informe.

"Cuando actores externos amplifican discursos separatistas, normalizan la anexión, fomentan la ruptura nacional o socavan la confianza en los procesos democráticos, el problema deja de ser una mera cuestión de política provincial. Se convierte en una amenaza directa para la integridad democrática, la seguridad nacional y la soberanía intelectual de Canadá".

2 DE DICIEMBRE – La mujer de Florida que entregó a la policía una foto generada por IA de un hombre sin hogar que supuestamente irrumpió en su casa y la violó, ha sido condenada por denuncia falsa, un montaje motivado por un reto de TikTok y su afán de llamar la atención, según consta en los registros.

Brooke Schinault, de 32 años, se declaró ayer culpable del engaño y fue declarada culpable del delito menor. Fue multada y puesta en libertad condicional.

En octubre, Schinault llamó al 911 para denunciar que un intruso había entrado por la fuerza en su apartamento de San Petersburgo y la había agredido sexualmente mientras su bebé dormía en otra habitación.

Schinault afirmó haber tomado una foto (que se ve a la derecha) del hombre mientras este estaba sentado en su sofá. La policía proporcionó la foto a TSG en respuesta a una solicitud de acceso a registros públicos.

El robo con allanamiento y agresión denunciados provocó una intervención policial que incluyó a siete agentes, un detective, seis rescatistas y un técnico forense que recogió muestras de ADN.

La versión de Schinault se desmoronó cuando el detective Dagni Closser examinó la foto del supuesto sospechoso (http://www.thesmokinggun.com/file/chatgpt-plea), un hombre blanco de unos 30 años que vestía una sudadera con capucha. «Como conozco bien muchas redes sociales y tendencias, reconocí al hombre como parte de un reto viral de TikTok», informó Closser. El «reto del hombre sin hogar con IA», señaló Closser, consiste en subir una foto de una vivienda a una aplicación de inteligencia artificial, que luego inserta la foto de un hombre sin hogar en la imagen.

«La mayoría coloca al sujeto en su sofá, luego toma una captura de pantalla y se la envía a sus seres queridos como una broma que genera preocupación al hacerles creer que un desconocido está en su casa», dijo Closser, quien informó haber encontrado «varios videos de TikTok de este reto» que usaban la misma foto del hombre sin hogar.

Al ser confrontada por la policía, Schinault... inicialmente afirmó que solo usó IA para mejorar la nitidez de una foto borrosa de su atacante. Finalmente confesó, diciendo que estaba lidiando con depresión, no dormía y «quería llamar la atención».

La imagen falsa, dijo Schinault, fue creada usando «Google y ChatGPT». Para crear la foto, informó la policía, «Brooke escribió 'un hombre sin hogar'».

DELTONA, Florida - Una familia de Florida comparte su historia para advertir a otros dueños de mascotas después de que unos estafadores usaran inteligencia artificial para orquestar una estafa relacionada con su perro desaparecido.

Bill Cosens contó que la pesadilla comenzó el domingo por la mañana, poco después de que su perro mestizo de raza beagle, Archer, se escapara de su patio trasero. Tras publicar sobre su perro desaparecido en redes sociales, Cosens recibió una llamada de una mujer que afirmaba haberlo encontrado.

La persona que llamó le dijo a Cosens que Archer había sido atropellado por un vehículo y que necesitaba $2,800 para una cirugía de emergencia inmediata. El estafador envió fotos que parecían mostrar a Archer en una mesa de operaciones, usando imágenes que Cosens había publicado en redes sociales. Las fotos eran falsas y generadas por IA.

Fotos generadas por IA

Lo que dicen:

"Cuando empezamos a pensar con lógica y a dejar de lado las emociones, se hace evidente que nos están estafando", dijo Cosens. "Y entonces pasamos de estar molestos y angustiados a estar muy enfadados".

Cosens empezó a sospechar cuando investigó la dirección de la clínica veterinaria que le había dado el estafador y descubrió que era la del ayuntamiento cercano. Por suerte, no envió dinero.

Cosens dijo que un vecino vio a una mujer meter a Archer en un vehículo y marcharse. Finalmente, el vecino logró localizar a la mujer y devolverle el perro a Cosens sano y salvo.

Una tendencia en aumento:

La Oficina del Sheriff del Condado de Volusia está investigando el incidente. Este caso es similar a un reporte ocurrido a principios de este año en San Petersburgo, donde otro dueño de mascota fue víctima de una estafa casi idéntica. En ese caso, el banco de la víctima detectó la transacción sospechosa antes de que se transfirieran los fondos.

Los expertos afirman que estos estafadores suelen extraer fotos de publicaciones de objetos perdidos en redes sociales y utilizan herramientas de inteligencia artificial para añadir lesiones falsas o equipo médico a las imágenes.

Cosens aconseja a cualquier persona en una situación similar que se mantenga alerta a pesar del impacto emocional de perder una mascota.

"Lo primero y más importante para evitar ser estafado, diría yo, es que si no están dispuestos a reunirse contigo en persona y recibir el pago en persona, te están estafando", dijo Cosens.

Fuente: Este artículo se elaboró con información de dos dueños de mascotas que fueron estafados este año y con reportajes de Kailey Tracy de FOX 13.

Un video promocional del FBI, publicado por el director Kash Patel, parece haber utilizado inteligencia artificial para generar clips cortos casi idénticos a los del icónico videoclip de los Beastie Boys para su clásico de 1994, "Sabotage".

Patel publicó el video el lunes en X, en una entrada sobre los esfuerzos del FBI para combatir el "fraude masivo". El video, de aproximadamente dos minutos de duración, utilizaba la versión instrumental de "Sabotage" y metraje casi idéntico al del videoclip original, intercalado con lo que parecían ser imágenes auténticas de agentes del FBI realizando su trabajo.

Para el martes, ya había recibido cerca de medio millón de visualizaciones.

Un análisis de NPR muestra que al menos seis clips del video del FBI eran recreaciones fotograma a fotograma de tomas del icónico videoclip de "Sabotage", dirigido por Spike Jonze. Los clips mostraban vehículos, personas y edificios increíblemente similares al video original, pero con pequeñas diferencias que probablemente fueron generadas por IA.

Por ejemplo, en una toma donde un auto derrapa, se ven claramente las rejillas de algunas ventanas en la grabación original, pero faltan en la versión del FBI. Otra toma muestra a una persona con un megáfono saltando de tejado en tejado con cables telefónicos de fondo. Los cables y la suciedad del edificio coinciden exactamente con el video de 1994, filmado hace más de 30 años. En un fotograma, uno de los cables telefónicos parece atravesar la cabeza del personaje: un tipo de fallo común en la generación de video con IA.

Los representantes de Spike Jonze y los Beastie Boys no respondieron a la solicitud de comentarios de NPR. El FBI tampoco respondió a la solicitud de NPR de más información sobre el video y su producción.

Expertos independientes que revisaron el video para NPR coincidieron en que los clips probablemente fueron generados por IA.

"Parece muy probable que se trate de IA", declaró Kolina Koltai, investigadora del grupo de investigación en línea Bellingcat, a NPR en un correo electrónico. "Incluso se pueden apreciar algunos errores de IA".

Por ejemplo, Koltai señala que hay un momento con artefactos característicos generados por IA que aparecen en la matrícula "No Fraud" del coche del FBI en la escena inicial.

Los clips probablemente se crearon tomando capturas de pantalla o fragmentos cortos del videoclip original de "Sabotage" e introduciéndolos en un modelo de conversión de imagen a vídeo, escribió a NPR en un correo electrónico Hany Farid, profesor de la Universidad de California, Berkeley, especializado en el análisis de imágenes digitales. También es posible que el modelo de IA generara los videoclips por sí mismo, ya que el videoclip original formaba parte de sus datos de entrenamiento, aunque Farid considera que esto último es menos probable.

En cualquier caso, Farid cree que la IA estuvo involucrada: "Las similitudes son difíciles de explicar de otra manera", escribió.

Durante el segundo mandato del presidente Trump, miembros de su administración se apropiaron con entusiasmo de la música popular, el cine y los memes para difundir su mensaje, incluso ante las protestas de los artistas.

El uso de la IA también ha sido una táctica común. Cabe destacar que, en octubre pasado, el propio presidente Trump publicó un video generado por IA en el que se le veía arrojando un líquido marrón a manifestantes en una concentración de "No Kings", con la canción "Danger Zone" de Kenny Loggins de fondo. Loggins exigió que se retirara el video. Sin embargo, este permanece publicado en la cuenta de Twitter de Trump, Truth Social.

En enero, la Casa Blanca publicó una imagen manipulada con IA de un manifestante en Minneapolis que había sido arrestado por las autoridades federales, sin indicar que la imagen había sido manipulada.

Patel, nacido en Long Island en 1980, habría estado en la escuela secundaria cuando los Beastie Boys lanzaron "Sabotage".