Incidentes Asociados
Un experto en diabetes se vio obligado a tranquilizar a sus pacientes diciéndoles que estaban tomando la medicación adecuada después de ver un vídeo generado por IA en el que describía a las personas que recetaban el fármaco como "idiotas".
Jonathan Shaw, subdirector del Instituto Baker del Corazón y la Diabetes en Melbourne, se enteró del vídeo cuando los pacientes empezaron a llamar a su clínica pidiendo información sobre un nuevo tratamiento que vieron que promocionaba en Facebook.
"Hice clic en el enlace y, por supuesto, se parecía exactamente a mí, pero todas las palabras habían sido cambiadas", dijo el profesor Shaw.
"Inmediatamente pensé en las personas que podrían confiar en lo que digo, que ahora están escuchando información que nunca daría a conocer".
En el anuncio falso, se ha utilizado IA para crear representaciones altamente realistas pero falsas del presentador de televisión Karl Stefanovic y del profesor Shaw. (ABC Science)
En el vídeo, que ya ha sido eliminado por la empresa matriz de Facebook, Meta, se ve a un falso Karl Stefanovic presentando a un falso Profesor Shaw, que continúa diciendo que la metformina, un tratamiento de primera línea para la diabetes tipo 2, "no es suficiente para controlar la diabetes de forma eficaz".
El Profesor Shaw presenta entonces un nuevo tratamiento que "estabiliza los niveles de azúcar en sangre en tan sólo 24 horas" y "combate otros síntomas de la diabetes".
El producto que se promociona en el vídeo es un suplemento dietético llamado Glyco Balance, que contiene ramas de canela, bayas de berberina y melón amargo.
No está claro si la empresa que fabrica el suplemento, Vellec Group, es responsable del vídeo.
Cuando el Profesor Shaw hizo clic en el anuncio falso, fue llevado a una transcripción de una entrevista que nunca hizo con la periodista de ABC Leigh Sales.
La entrevista falsa con el Profesor Shaw se publicó en línea en noviembre. (ABC Science)
En ella, se le cita diciendo que el suplemento se desarrolló en el Instituto Baker con fondos del gobierno.
La transcripción también afirma que la metformina, uno de los medicamentos más comúnmente recetados en Australia, es peligrosa.
Si bien algunas personas pueden experimentar efectos secundarios de la metformina, la seguridad a largo plazo del medicamento ha sido bien estudiada y establecida.
El profesor Shaw dijo que le preocupaba que los anuncios falsos impidieran que las personas con diabetes tomaran su medicación.
"Mi principal preocupación no es mi riesgo personal o mi reputación, mi principal preocupación es la desinformación", dijo.
"Esto hace que sea mucho más difícil para los miembros comunes del público identificar fuentes confiables".
Las estafas se vuelven más sofisticadas
En los últimos años, las mejoras en la IA generativa han provocado un aumento significativo de las estafas de anuncios falsos que utilizan las identidades de celebridades y otras figuras públicas para vender productos.
A principios de este año, videos deepfake del Dr. Karl Kruszelnicki promocionando pastillas para la presión arterial aparecieron en cientos de anuncios publicados en Facebook e Instagram.
Kathy Sundstrom, gerente de divulgación y educación de la organización benéfica nacional contra las estafas IDCARE, dijo que las estafas que involucran videos y audio generados por IA se estaban convirtiendo en "la nueva normalidad".
"El año pasado fue sin duda el peor que hemos visto nunca", afirmó Sundstrom.
"Como todo el mundo ha adoptado ChatGPT y otras plataformas de inteligencia artificial, también lo han hecho los delincuentes. Esto les facilita el trabajo... y, al utilizar la tecnología deepfake, hace que [la estafa] parezca mucho más convincente".
La ABC intentó ponerse en contacto con el fabricante de Glyco Balance, Vellec Group, por correo electrónico y a través de un número de teléfono que figuraba en el sitio web del suplemento dietético.
Un representante de atención al cliente no pudo confirmar si Vellec Group era responsable de los anuncios falsos y no pudo proporcionar más información de contacto de la empresa.
Sundstrom dijo que la promoción de desinformación médica era "muy preocupante" y que los estafadores podrían estar utilizando a profesionales de la salud en anuncios falsos para evadir los esfuerzos de Meta por eliminar las estafas de patrocinio que presentan celebridades.
"El delito cibernético es una industria global de billones de dólares... Siempre están buscando nuevos métodos", dijo.
Creando una ilusión de credibilidad
El uso de profesionales de la salud en anuncios falsos también crea una ilusión de credibilidad, que a menudo se amplifica a través de un laberinto de otro contenido fraudulento generado por IA.
En el caso de Glyco Balance, la falsificación profunda del Profesor Shaw parece ser solo una parte de una estafa en línea coordinada.
Una búsqueda en línea del suplemento dietético arroja una letanía de sitios patrocinados y videos de YouTube que presentan lo que parecen ser reseñas y testimonios de clientes generados por IA.
También aparece un enlace a ResearchGate, un sitio de repositorio donde los científicos realizan un seguimiento de sus publicaciones.
Un artículo titulado "Reseñas de Glyco Balance Australia: ¿Funciona esta fórmula para el azúcar en sangre? ¡Lea esto!" fue publicado en el sitio por el investigador de Stanford "Dr. Richard George".
Pero la Universidad de Stanford confirmó que no tiene registros de un Dr. Richard George como miembro de la facultad o del personal.
Va contra las pautas de ResearchGate publicar con un nombre falso o publicitar productos. La ABC se comunicó con ResearchGate sobre el artículo y el perfil del investigador, pero no respondió a nuestras consultas.
El artículo incluye reseñas de clientes y enlaces para comprar el producto. (ABC Science)
De manera similar, el sitio web de Glyco Balance afirma que el producto fue desarrollado por médicos, incluido el médico estadounidense Alan Gaby, que se especializa en nutrición.
La ABC se puso en contacto con el Dr. Gaby, y él confirmó que no tenía ninguna relación con el producto.
Engañaron a pacientes con diabetes
Michael, un hombre del norte de Nueva Gales del Sur que solo se siente cómodo compartiendo su nombre de pila, escuchó hablar de Glyco Balance por primera vez a través de Facebook.
Este hombre de 79 años, a quien le diagnosticaron diabetes hace 10 años, decidió hacer clic en el enlace después de comenzar a experimentar nuevos síntomas.
"Hice clic en la etiqueta 'leer más' y detrás había una entrevista prolongada con el Dr. Norman Swan.
"Había muchas páginas que detallaban el desarrollo del producto en conjunto con la Universidad de Oxford y AstraZeneca, todos nombres conocidos".
Cargando...
Michael notó que había una oferta por tiempo limitado (cinco frascos por el precio de tres) y decidió probar el suplemento.
Pero casi de inmediato se arrepintió de la compra.
"Volví y comencé a leer los comentarios... La gente decía: 'Tomé una pastilla y me siento mejor'", dijo.
"Vamos... No te sientes mejor con una pastilla".
Poco tiempo después, Michael solicitó un reembolso por los $340 que había gastado.
Abordar las afirmaciones de salud infundadas
Se dice que los suplementos Glyco Balance contienen "extractos naturales y vitaminas esenciales" formulados para "apoyar los niveles saludables de azúcar en sangre y los perfiles lipídicos".
Pero cuando se trata de controlar la diabetes tipo 2, solo hay [débil Hay pruebas de un posible beneficio de algunos suplementos dietéticos, y las autoridades sanitarias subrayan que el tratamiento médico no debe sustituirse por productos sanitarios no probados.
Los anuncios falsos de Glyco Balance también indican que ha sido "aprobado" por la Administración de Productos Terapéuticos de Australia (TGA).
Sin embargo, no figura en el Registro Australiano de Productos Terapéuticos y la TGA no ha evaluado su calidad, seguridad o eficacia.
Un portavoz de la TGA dijo que el regulador estaba al tanto del asunto (y de otros que involucran a profesionales de la salud y a celebridades que promocionan productos sanitarios) y que estaba "evaluando la situación".
"Nos preocupa la salud y la seguridad de los australianos que acceden a productos terapéuticos no aprobados o a información sobre estos productos en línea", dijo el portavoz.
"Es importante que los consumidores sean conscientes de que no existen garantías sobre la seguridad o la calidad de los productos terapéuticos que no están aprobados para su suministro en Australia, como los que se compran por Internet".
En Australia, los profesionales de la salud y los investigadores médicos también tienen prohibido respaldar productos terapéuticos o hacer testimonios sobre ellos.
El profesor Shaw dijo que las estafas de respaldo falso tenían el potencial de crear problemas legales espinosos para los profesionales de la salud que están en el centro de ellas.
El profesor Jonathan Shaw es subdirector del Instituto Baker de Cardiología y Diabetes en Melbourne. (Fuente: Instituto Baker)
"Tenemos todo tipo de regulaciones que parecen funcionar muy bien... Y de repente sucede esto, y todo eso se va por la ventana", dijo.
El riesgo de que los profesionales de la salud sean suplantados o que su voz sea clonada por la IA ya impedía que algunos aparecieran en los medios o interactuaran en línea, agregó.
¿Quién es el trabajo de abordar los deepfakes de médicos?
Meta eliminó el video falso del Profesor Shaw el 29 de noviembre, nueve días después de que el Instituto Baker lo denunciara. El instituto dijo que no fue hasta que presentó una queja por infracción de propiedad intelectual por separado que se eliminó el video.
"Meta no quiere estafas en nuestras plataformas y seguimos invirtiendo en herramientas y tecnología para prevenirlas", dijo un portavoz de la empresa.
Durante un programa piloto entre abril y mayo, Meta eliminó más de 8000 estafas generadas por IA que usaban rostros de figuras públicas.
La empresa también ha estado probando la tecnología de reconocimiento facial para combatir a los estafadores que utilizan celebridades para promocionar sus productos.
Pero hasta ahora, esta tecnología está limitada a 50.000 figuras públicas seleccionadas que deben optar por participar en el programa. Mientras tanto, se está apuntando a más profesionales médicos.
"Conozco a otros especialistas muy eminentes en diabetes a quienes también les ha sucedido esto", dijo el profesor Shaw.
Un portavoz de la TGA dijo que el regulador trabajó en estrecha colaboración con varias plataformas digitales, incluida Meta, para disuadir y abordar la publicidad ilegal de productos terapéuticos.
En 2023-24, la TGA solicitó la eliminación de más de 4.800 anuncios ilegales de productos terapéuticos de varias plataformas digitales.
La Sra. Sundstrom dijo que uno de los principales desafíos para las empresas tecnológicas y los reguladores era el volumen de material fraudulento que se producía y la velocidad a la que se desarrollaba.
Describió la situación como una "tirada al topo", en la que los nuevos anuncios suelen aparecer casi inmediatamente después de que se eliminan otros.
"Cuando analizamos [contenido en línea], ya sea un video o una publicación de Facebook... necesitamos tener esa sospecha predeterminada y analizarla y ver si tiene sentido", dijo.
"Significa que tienes que esperar cinco minutos más antes de interactuar con algo.
"Es agotador, pero es muy importante".