Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 4321

Incidentes Asociados

Incidente 8514 Reportes
Salt Lake City Police Chief Mike Brown's Voice and Image Misused in AI-Generated Scam

Loading...
La imagen falsa del jefe de policía de Salt Lake City genera advertencias sobre estafas con inteligencia artificial que se hacen pasar por policías
ksl.com · 2024

SALT LAKE CITY — La policía de Salt Lake City insta a tener cuidado con los estafadores que utilizan inteligencia artificial para hacerse pasar por la policía.

La advertencia se produce después de que un residente de Woods Cross informara haber recibido un correo electrónico de lo que parecía ser una cuenta de la policía y presentaba un mensaje de video que usaba inteligencia artificial para hacerse pasar por el jefe de policía de Salt Lake City, Mike Brown, dijo la policía en un comunicado el viernes.

El mensaje de video usaba imágenes tomadas de una entrevista de Brown en ABC4 de hace varios años. El audio decía que el destinatario había recibido una transferencia bancaria rechazada y afirmaba que el destinatario todavía le debía al gobierno federal casi $ 100,000, dijo la policía.

"El audio en sí es claro e imita de cerca la voz del jefe Brown, lo que podría llevar a los miembros de la comunidad a creer que el mensaje era legítimo", dice el comunicado de la policía.

Después de un análisis cuidadoso, se descubrió que el mensaje contenía patrones de habla poco naturales, énfasis inusual en las palabras y un tono inconsistente. También tenía "ediciones acústicas detectables" entre las oraciones, dijo la policía.

El correo electrónico falso provenía de una cuenta de Google con el nombre del departamento de policía seguido de un número. La policía enfatizó que todos los correos electrónicos oficiales del Departamento de Policía de Salt Lake City tendrán el dominio de correo electrónico "slc.gov".

"Al manipular videos y grabaciones de Internet, los estafadores pueden crear grabaciones de voz realistas e incluso videos, conocidos como 'clonación de voz' o 'deepfakes'. Por lo general, estas estafas implican una llamada de lo que suena como un ser querido angustiado que pide dinero urgentemente", dijo la policía.

Los signos de una estafa de clonación de voz incluyen contactos inesperados o no solicitados, sentirse presionado para actuar rápidamente, el mensajero solicita dinero urgentemente, pide información privada o personal o se le pide que guarde un secreto.

La policía dijo que hacer preguntas, verificar llamadas, detenerse a pensar y limitar el uso compartido en las redes sociales puede ayudar a protegerse contra las estafas.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd