Incidentes Asociados
Thai PBS Verify descubrió un anuncio falso que utilizaba fraudulentamente el logotipo de Thai PBS World Tonight. Empleaba tecnología deepfake de IA para suplantar la identidad de conocidos presentadores de noticias y empresarios, invitando a invertir en un esquema llamado CRYSTALLUM AI. Sin embargo, el vídeo original era en realidad un reportaje sobre una inundación ocurrida en 2013. Las víctimas han advertido a otros que no se dejen engañar, ya que podría ocasionar pérdidas financieras y fraude.
Thai PBS Verify determinó que la fuente de la noticia falsa era Facebook.
Captura de pantalla de una publicación falsa
Thai PBS Verify ha descubierto que una página de Facebook llamada "Muscle Merge" está utilizando el logotipo del programa Thai PBS World Tonight. Se publicó un video con una entrevista al Sr. Toss Chirathivat, Presidente Ejecutivo de Central Group, y al Sr. Kalin Sarasin, Presidente Honorario de la Cámara de Comercio y la Junta de Comercio de Tailandia. El video anima a invertir en un proyecto llamado "CRYSTALLUM AI". El video se distribuyó mediante anuncios en Facebook y ha recibido más de 1200 "me gusta".
Tras una revisión, se identificó a la presentadora del video como la Sra. Patchari Raksawong, antigua presentadora de noticias de NHK World. Al ser consultada, la Sra. Patchari declaró que nunca ha sido presentadora de noticias para Thai PBS. Solo ha aparecido en programas relacionados con la enseñanza del inglés, pero nunca ha trabajado como presentadora para la cadena.
Sra. Patchari Raksawong, ex presentadora de noticias de NHK World
Para la Sra. Raksawong, que su imagen se utilizara en un deepfake generado por IA fue una experiencia sin precedentes.
Si bien estaba familiarizada con la tecnología, nunca la había utilizado en un contexto tan negativo. Le impactó que su imagen se usara para engañar a la gente y hacerla invertir, ya que esto podría perjudicar a otros y dañar su reputación. Sintió la necesidad de denunciarlo para que nadie más fuera engañado de esta manera. También desea que todos sean más conscientes del doble filo de la IA. Por un lado, puede ser una excelente herramienta para la eficiencia, pero también puede usarse con fines maliciosos, especialmente para el fraude que perjudica a otros.
Ella cree que el fragmento utilizado pertenece a un antiguo reportaje que realizó para NHK, una agencia de noticias japonesa con una oficina para la región Asia-Pacífico en Bangkok, donde trabajó durante varios años. Sospecha que alguien malintencionado encontró el antiguo fragmento en internet y lo utilizó para crear el deepfake. Aclaró que su trabajo para NHK siempre fue en inglés, nunca en tailandés.
Para concluir, instó a los espectadores a ser cautelosos y a verificar cuidadosamente la fuente antes de creer este tipo de noticias. Subrayó la importancia de comprobar la información dos o tres veces para garantizar su autenticidad.
El fragmento original era simplemente un reportaje sobre una inundación.
Basándonos en la entrevista de la Sra. Patchari, donde sugirió que el fragmento podría haber sido tomado de su época como presentadora de NHK WORLD, utilizamos las palabras clave "Patchari Raksawong NHK WORLD" para buscar el video original en el buscador de Google. Esta búsqueda nos llevó al video original, un reportaje sobre una inundación en la provincia de Phra Nakhon Sri Ayutthaya. Fue publicado en el canal de YouTube "Únete a nosotros para hacer el bien a la sociedad" de la Fundación Habitat for Humanity Tailandia el 28 de febrero de 2013 y no tiene ninguna relación con ninguna solicitud de inversión que ofrezca rentabilidad.
Los resultados de la búsqueda con las palabras clave encontraron el video que se utilizó para crear la imagen deepfake generada por IA.
Al comparar ambos clips, se observó que el logotipo del clip utilizado se cambió por el del canal de televisión pública tailandés (PBS) y el idioma se modificó de inglés (noticias) a voz en tailandés sintetizada por IA.
Captura de pantalla que muestra el vídeo falso con el logotipo de Thai PBS World Tonight superpuesto (izquierda), comparado con el reportaje sobre la construcción de viviendas para las víctimas de las inundaciones de 2013 (derecha).
La herramienta de verificación confirma que el vídeo fue creado con IA
Al analizar el vídeo con la herramienta de detección de IA de HIVEMODERATION, se determinó que tenía una alta probabilidad (72,3 %) de ser un deepfake generado por IA.
Los resultados de la herramienta de detección de imágenes con IA arrojaron una probabilidad del 72,3 % de que el video haya sido creado por IA.
Thai PBS World Tonight transmite noticias exclusivamente en inglés.
แคลร์ ปัจฉิมานนท์, la directora de Thai PBS World, expresó su preocupación personal de que los espectadores o cualquier persona que vea el video pudiera creer que es real. Afirmó que las imágenes de los presentadores de Thai PBS World se han utilizado en varias ocasiones para crear deepfakes negativos mediante inteligencia artificial. Sin embargo, la Sra. Patchari, quien aparece en el video, no es presentadora del programa Thai PBS World.
Claire Pachimanon, directora de Thai PBS World
También declaró que:
Los programas de Thai PBS World no se emiten en tailandés. Thai PBS World Tonight es un programa semanal de resumen informativo que se transmite exclusivamente en inglés. Por lo tanto, si aparece un reportaje en cualquier otro idioma, debe considerarse inmediatamente un vídeo falso.
Si alguien encuentra un vídeo de este tipo y tiene dudas, puede enviarlo al equipo de Thai PBS para su verificación.
El mensaje que el equipo quiere transmitir es claro: Thai PBS es una organización sin ánimo de lucro. Queremos que todos entiendan que si ven este tipo de vídeo, deben sospechar inmediatamente y preguntarse si es falso.
Esta no es la primera vez que los presentadores de noticias tailandeses de PBS World han sido víctimas del uso de deepfakes.
para difundir noticias falsas. Por ejemplo, Verificado: clip del informe del presentador tailandés de PBS sobre "Anne
Jakrajutatip" La invitación a invertir para obtener un rendimiento de 500.000 baht en 1 mes fue en realidad creada por Deepfake,ตรวจสอบแล้ว: คลิปผู้ประกาศ Thai PBS รายงานข่าว "แอน จักรพงษ์" ชวนลงทุนได้ผลตอบแทน 5 แสนบาท ใน 1 เดือน แท้จริงสร้างจาก Deepfake
El Grupo Central advierte sobre un clip de inversión falso
Mientras tanto, la página de Facebook del Grupo Central publicó sobre el tema, afirmando: "Falso Noticias\ ¡Alerta!](https://perma.cc/4676-8LRP) Central Group emite una advertencia. Debido a que personas malintencionadas se hacen pasar por la empresa o su personal para engañar al público y lograr que invierta mediante información falsa en diversas plataformas en línea, Central Group no tiene una política que permita invitar a terceros a invertir de esta manera. Solicitan al público que no crea, no comparta y no haga clic en estos enlaces.
Publicación de advertencia sobre noticias falsas en la página de Facebook de Central Group
Leyes vigentes que regulan los deepfakes Tailandia
La Ley de Delitos Informáticos, B.E. 2560 (2017), Sección 16, establece: «Quien introduzca en un sistema informático accesible al público cualquier dato informático que aparezca como la imagen de otra persona, y dicha imagen sea una creación, adición o modificación por medios electrónicos o de cualquier otro tipo, de manera que pueda causar que esa persona pierda su reputación, sea humillada, odiada o deshonrada, será castigado con pena de prisión de hasta tres años y una multa de hasta doscientos mil baht».
El Código Penal incluye secciones relacionadas con la difamación, el desacato y la difusión de material obsceno.
La Ley de Protección de Datos Personales (PDPA) prohíbe el uso de datos personales (como el rostro, el nombre y la voz) sin consentimiento.
Si la víctima es menor de edad, el delito podría estar tipificado en la Ley contra la Trata de Personas o en las leyes de protección infantil.
Tras la investigación de este asunto, Thai PBS Verify encontró La noticia es falsa. La IA
deepfake se utilizó para suplantar falsamente la imagen y la voz de un presentador de noticias de Thai PBS World y de empresarios famosos, combinándolas con contenido en el clip que afirmaba falsamente invitar a invertir con un retorno de hasta 5 veces la cantidad inicial.
กระบวนการตรวจสอบ
■ Una investigación utilizando las palabras clave "Patchari Raksawong NHK WORLD" en el buscador de Google
condujo al descubrimiento del video original, que no tiene ninguna relación con ninguna
solicitud de inversión que ofrezca retornos.\
■ Confirmación de las personas involucradas en el video
Se recibió confirmación de las víctimas cuyos datos personales fueron utilizados a través de la tecnología de IA-\ Deepfake. Además, se realizaron consultas con Thai PBS World y Central Group para confirmar que el programa no informa en tailandés y que Las personas de negocios cuya identidad fue suplantada no están relacionadas con el video en cuestión.
■ Investigación mediante una herramienta de detección de imágenes con IA: Se determinó que existe una alta probabilidad, de hasta un 72,3%, de que el video haya sido creado mediante deepfake con IA.
Impacto de esta información falsa
■ Daña la credibilidad de los medios de comunicación y los presentadores de noticias.
■ Si el público es engañado o malinterpreta el contenido, podría disminuir la credibilidad general de la cadena de noticias o del medio en general.
■ Viola los derechos personales. Usar el rostro o la voz de otra persona sin su permiso es una violación de sus derechos individuales y es ilegal.
■ Crea una vía para que operen los estafadores. Los videos falsos pueden usarse ampliamente para crear y distribuir estafas, como fraudes o la venta engañosa de productos. productos.
ข้อแนะนำเมื่อได้ข้อมูลเท็จนี้ ?
Recomendaciones al encontrar información falsa
-
Recopile evidencia de inmediato: Informe a la persona cuyas imágenes privadas fueron utilizadas por los estafadores. Guarde las imágenes, videos o mensajes editados y la hora de publicación. Si se compartieron en un grupo de chat o en redes sociales, guarde el historial del chat y la URL de la publicación.
-
Denúncielo en la plataforma (Facebook, YouTube, TikTok): Denuncie el contenido a la plataforma donde se publicó (Facebook, YouTube o TikTok) para que lo eliminen.
-
Presente una denuncia Denuncia o consulta con las agencias pertinentes. Si eres víctima cuyo rostro o voz se ha utilizado, presenta una denuncia en una comisaría o ante la Oficina de Investigación de Delitos Cibernéticos (CCIB). También puedes contactar con otras agencias pertinentes, como el Ministerio de Economía y Sociedad Digital (DE), para solicitar asistencia en la coordinación de la eliminación de los datos o llamar a la Línea Directa contra el Cibercrimen al 1212.
-
Cómo detectar un vídeo deepfake con IA
■ Observa movimientos anormales de los labios.
■ Presta atención al acento de la voz en el vídeo.
■ Observa el vídeo en su totalidad y busca cualquier anomalía en los objetos o personas que aparecen en la foto o el vídeo.
■ Considera la verosimilitud del suceso. Por ejemplo, en este caso, el vídeo mostraba una manifestación con un fondo que se asemejaba a un templo o al Palacio Real, lo cual no ocurriría en la realidad.