Incidentes Asociados
Se han emitido advertencias urgentes al público tras la aparición en línea de videos deepfake de médicos y celebridades de confianza que venden suplementos "de mentira" a los consumidores.
La alarma se disparó cuando aparecieron videos falsos de médicos de confianza, como el Dr. Norman Swan, el profesor Jonathan Shaw y la expresidenta de la Asociación Médica Australiana (AMA), la profesora Kerryn Phelps, vendiendo suplementos dietéticos en línea.
Un video muestra a un falso profesor Shaw anunciando un suplemento dietético como supuesto tratamiento para la diabetes tipo 2.
En otro video, un deepfake del Dr. Swan afirma que la evidencia científica es "estúpida" mientras intenta vender productos para bajar de peso destinados a tratar enfermedades cardíacas, diabetes y obesidad.
Los videos fueron producidos con tecnología deepfake para imitar las caras y voces de médicos de confianza con el fin de vender productos no probados al público australiano, según declaró la Dra. Danielle McMullen, presidenta de la AMA.
Vivimos en una época en la que cualquier video que aparece en línea debe ser cuestionado: ¿es real o es un deepfake?, preguntó McMullen.
Los videos deepfake son cada vez más convincentes, y esta tecnología está siendo explotada por empresas poco fiables que venden remedios caseros a personas vulnerables que padecen graves problemas de salud.
La asociación médica ha culpado parcialmente a Meta de esta tendencia, afirmando que el contenido se vio agravado por una moderación de contenido más débil en las principales plataformas de redes sociales como Facebook e Instagram.
Meta modificó su política de moderación de contenido en enero de 2025.
Si bien no se han publicado cifras específicas de quejas, se ha informado ampliamente de un aumento de la desinformación y el contenido dañino en las plataformas de Meta desde este cambio de política, según una carta de la AMA al Ministro de Comunicaciones.
Mis intentos de que Meta elimine las imágenes deepfake han sido inútiles.
La AMA está presionando al gobierno federal para que tome medidas respecto a esta tendencia "profundamente preocupante".
Esta tendencia, que se asemeja a una estafa, también ha utilizado vídeos deepfake de la cantante Adele y la actriz australiana Rebel Wilson para vender productos similares.