Incidentes Asociados
Joseph Allen, OD, es muy conocido en el circuito de conferencias, en las redes sociales y por su canal de YouTube, Dr. Eye Health, donde educa a sus seguidores sobre diversos temas de salud ocular. Sin embargo, su notoriedad tuvo un lado negativo cuando descubrió videos en redes sociales que se parecían a él, tanto en apariencia como en voz, pero que difundían información falsa y vendían productos fraudulentos. El Dr. Allen fue víctima de una estafa con deepfakes de IA (https://www.aoa.org/news/clinical-eye-care/public-health/living-an-episode-of-black-mirror-ai-deepfakes-target-optometrist).
Los deepfakes y videos de baja calidad generados por IA están cada vez más dirigidos a médicos reales, suplantándolos para crear contenido fácil y automatizado que puede difundir información errónea y peligrosa sobre la salud. Los deepfakes son contenido manipulado o fabricado mediante IA que suplanta la identidad de una persona real con el fin de difundir información maliciosa o falsa.
Los vídeos de spam con IA son contenido de vídeo producido a gran escala mediante IA que explota los algoritmos de interacción de las redes sociales e inunda plataformas como YouTube, TikTok o Instagram, desplazando a los creadores de contenido original. El Dr. Allen señaló: «En algunos de estos vídeos, te dicen que no vayas a tu oftalmólogo y que toda nuestra profesión es una estafa».
Con asesoría legal, el Dr. Allen impugnó los deepfakes dirigidos a su canal, pero tardó un mes en contactar con TikTok, donde descubrió el vídeo falso, y otras tres semanas en demostrar que era el legítimo «Dr. Eye Health». Una cuenta fue eliminada de la plataforma, pero en dos o tres horas, los estafadores crearon una nueva cuenta y volvieron a subir todo el contenido anterior. En el caso del Dr. Allen, el producto que se vendía en la estafa eran gotas para los ojos para corregir la miopía. Se rastreó el origen de las gotas hasta una empresa china que vendía millones de dólares en productos en Amazon. El contenido de las gotas sigue siendo incierto.
El Dr. Allen recomienda buscar señales reveladoras de videos generados por IA, teniendo en cuenta que, a medida que la IA avanza, estas señales pueden volverse más sutiles o incluso corregirse. Analice detenidamente el contenido del video en busca de ediciones extrañas, como por ejemplo: ¿coinciden los labios del sujeto con la voz y el audio? ¿Parpadea demasiado o muy poco? Si se trata de la venta de un producto demasiado bueno para ser verdad, probablemente lo sea, así que asegúrese de observar y analizar cuidadosamente este tipo de contenido.
¿Se ve natural o no? Los deepfakes aún tienen dificultades para representar la iluminación natural y pueden hacer que el sujeto se vea poco natural debido a una discrepancia en las condiciones de iluminación o los reflejos. Investigadores del MIT ofrecen más señales, incluyendo pistas sobre los ojos y las cejas, el parpadeo y el brillo en las gafas. A medida que la IA difumina los límites entre la realidad y la ficción, la responsabilidad recae en el pensamiento crítico individual sobre el contenido de los medios de comunicación.