Incidentes Asociados
Un conocido endocrinólogo de Nueva Zelanda fue recientemente víctima de una estafa deepfake, según un informe del New Zealand Herald.
La imagen de Sir Jim Mann, DM, PhD, MA, de la Universidad de Otago, se utilizó en un video de noticias deepfake que circuló en las redes sociales después de ser publicado en una página de Facebook de una empresa que vende gomitas de cáñamo. En el video, el falso Mann instaba a las personas con diabetes tipo 2 a dejar de tomar el medicamento de referencia, la metformina, y en su lugar utilizar productos naturales alternativos.
Aunque, según se informa, la publicación ha sido eliminada, Mann le dijo al Herald que desde entonces ha vuelto a aparecer ocasionalmente y que solo se enteró de su existencia cuando alguien le envió un mensaje de texto al respecto.
"Después de eso, me bombardearon con mensajes de texto y correos electrónicos de dos grupos de personas... Un grupo decía: 'Felicitaciones por este maravilloso producto nuevo... que han descubierto y es genial que hayan expuesto a todos estos médicos y otras personas como estafadores... ¿dónde puedo conseguir el producto?' Y otras personas decían: 'Por el amor de Dios, tengan cuidado, los han estafado'", dijo al medio.
"Hubo algunas personas realmente muy razonables e inteligentes que lo habían aceptado por completo, incluidas personas que conozco bien... Dios sabe cuántas personas han sido engañadas", agregó. "La IA es tan inteligente que podría manipular mi boca para que pareciera que estaba diciendo esas palabras".
Mann también pidió precaución a quienes se encuentren con videos de expertos que parecen demasiado buenos para ser verdad.
"Si escuchas a alguien decir algo que suena demasiado bueno para ser verdad, probablemente lo sea... Eran afirmaciones bastante escandalosas", dijo al Herald.
De hecho, la estafa de deepfake que usa la imagen de Mann no es un hecho aislado.
En noviembre, la podóloga y personalidad de las redes sociales Dana Brems, DPM, con sede en Los Ángeles, dijo en una publicación de Instagram que una empresa usó IA para hacer una grabación falsa de su voz.
La publicación mostraba a Brems reaccionando, con la boca cubierta de consternación, a lo que dijo que era un anuncio que "usaba un clon de IA de mi voz para simular que recomendaba su producto".
Las publicaciones en las redes sociales de Brems sobre el anuncio, que parecía ser de un dispositivo de limpieza de oídos, acumularon visitas, y muchos comentaristas señalaron los posibles daños de las recomendaciones falsas relacionadas con la salud vinculadas a profesionales médicos.
"Una vez que la gente se dé cuenta de que puede utilizar la IA para hacerse pasar por médicos y otras figuras de autoridad, será un gran problema", dijo Brems a MedPage Today en ese momento.
Mann estuvo de acuerdo con este sentimiento en declaraciones realizadas al Herald.
"Me hace sentir terrible porque soy patrocinador de Diabetes New Zealand, por lo que mucha gente sabe mi nombre, incluso si no me conocen", dijo.
Aconsejó a las personas que busquen información confiable directamente de profesionales de la salud reconocidos.
Mann no respondió de inmediato a la solicitud de más comentarios de MedPage Today.