Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 6277

Incidentes Asociados

Incidente 123626 Reportes
Quantum AI Scam Reportedly Used AI-Generated Celebrity Endorsements and Spoofed Media Sites to Solicit Investments

Loading...
Desvelamos una estafa global de inteligencia artificial
which.co.uk · 2024

Las redes sociales se han visto inundadas de vídeos sospechosos en los que se suplantan rostros y organizaciones conocidas, como la BBC, Elon Musk y David Beckham, en un turbio esquema financiero.

A lo largo de los meses, descubrimos varias publicaciones, anuncios y sitios web dudosos que difundían una estafa financiera, todos ellos vinculados en una compleja red de fraudes.

Siga leyendo para descubrir adónde nos llevó nuestra investigación y obtener algunos consejos para protegerse y no caer en este tipo de estafas sofisticadas.

Una versión de este artículo se publicó originalmente en la revista Which? Tech.

Cómo descubrimos la estafa

Cuando vi un vídeo de un noticiero de la BBC en Facebook, mis sospechas comenzaron a aumentar. Aunque parecía un vídeo auténtico, con el fondo, el logotipo, el sonido y el presentador de la BBC, se publicó desde una cuenta desconocida y promocionaba la posibilidad de "asegurar la jubilación" con un "nuevo programa de IA cuántica".

Estos anuncios aparecieron en mis redes sociales durante las semanas siguientes y todos promocionaban un programa de inversión llamado IA Cuántica (cabe destacar que no tiene ninguna relación con la iniciativa homónima de Google para desarrollar la computación cuántica) y presentaban caras conocidas.

Vi un total de 25 anuncios, en los que David Beckham, Martin Lewis, Elon Musk, Richard Branson y periodistas de la BBC parecían hablar sobre este plan donde "cualquiera podía enriquecerse". Estos anuncios enlazaban a 24 sitios web.

La mayoría de los sitios web que visité se hacían pasar por sitios de noticias, incluyendo la BBC y el Daily Mirror del Reino Unido, CNN y Forbes de EE. UU., DW News de Alemania, El Universo de España y Domenica Ingrid de Italia. Todos contenían noticias falsas que promocionaban aún más el plan de inversión. Me registré en estos sitios para esta investigación.

Qué hicieron los estafadores a continuación

Todos los sitios web me pedían que completara mi nombre, número de teléfono y dirección de correo electrónico para que un "asesor financiero" pudiera contactarme.

Tras registrarnos, nos bombardeaban con docenas de llamadas diarias. El guion al otro lado de la línea se volvió muy familiar: "¡Quantum AI es un sistema que utiliza inteligencia artificial para operar e invertir automáticamente en tu nombre!".

A esto siempre le seguía una solicitud de inversión mínima de 200 a 250 libras para empezar.

A veces, oíamos a otras personas llamando y hablando con los destinatarios de fondo, indicando un posible centro de llamadas. Otras veces, nos decían que no podíamos devolverles la llamada al mismo número y que no podían proporcionarnos otro número al que volver a llamar.

La inversión tenía que hacerse rápidamente, en el acto.

Caso práctico: Anuncios fraudulentos como cebo

A Robert le llamó la atención un vídeo en el que aparecía una versión deepfake de Elon Musk hablando sobre un plan de inversión llamado Quantum AI en un programa de desayuno.

El entrevistador afirmó haber ganado 34 dólares en la plataforma durante el segmento. "Fue muy convincente", recordó Robert. Siguió el enlace del anuncio, se registró y pagó 219 libras para unirse a la plataforma.

Robert recibía llamadas diarias con diversas instrucciones. Un día, le pidieron que realizara una tarea en su teléfono, que no pudo realizar, así que la persona que llamó la realizó desde su teléfono, lo que despertó sus sospechas.

Para recuperar sus ganancias, le pidieron que descargara una aplicación y pagara 400 dólares, pero su instinto lo frenó.

En total, perdió dos sumas: 219 libras, que le devolvió su banco porque aún estaban pendientes; y 250 libras, que le robaron los estafadores.

Una red de fraude

La IA cuántica funciona de la misma manera que todas las empresas legítimas al establecer una presencia en línea.

Los estafadores comienzan registrando un nombre de dominio con un registrador de dominios por una pequeña tarifa, lo que significa que este nombre de dominio (o dirección web) solo puede ser utilizado por Quantum AI.

Luego, los estafadores buscan un proveedor de alojamiento de dominios para alojar el sitio web. Este proveedor de servicios alquila espacio en sus servidores o en los de otra organización para almacenar los archivos y datos del sitio web. En esencia, un alojamiento de dominio es donde el sitio web reside en internet.

Posteriormente, se crea el sitio web. Para esta estafa, se creó un artículo de noticias falso que promocionaba un plan de inversión inexistente con un formulario para completar los datos de contacto. Los anuncios se publican en plataformas Meta (Facebook e Instagram) y enlazan a estos sitios web de noticias falsas.

Un estafador usa tus datos de contacto y te llama desde un número falso, de modo que tu teléfono muestra un número elegido por el estafador.

Te harán creer que estás transfiriendo dinero a una cuenta de trading. Pero, en realidad, los estafadores te harán transferir dinero a una cuenta bancaria que ellos gestionan.

Caso práctico: El estafador pidió dinero para dejar de llamar

Balaram encontró Quantum AI a través de un anuncio en redes sociales e hizo clic en un sitio web donde introdujo sus datos.

Luego fue redirigido al sitio web de Spencer & Stanley. Se trata de una empresa con sede en Luxemburgo sobre la que el regulador financiero del Reino Unido, la Autoridad de Conducta Financiera, ha advertido y que las víctimas han denunciado repetidamente como una estafa.

Balaram fue contactado por un "asesor financiero" por WhatsApp y le instó a realizar una inversión de 250 dólares. "Vi cómo el valor de mi inversión se duplicó en dos días", recordó Balaram. Lo presionaron para que invirtiera más mediante llamadas insistentes, lo que le hizo sospechar que algo andaba mal.

También vio que su transacción inicial se realizó a "Smithville International", que le sonaba "a una casa de vacaciones".

Balaram tuvo que silenciar su teléfono para que dejara de sonar una y otra vez. En un momento dado, incluso le dijeron que le pagara a la estafadora para que dejara de llamarla.

Lo que descubrimos

Esto es lo que descubrimos al investigar quién estaba detrás de Quantum AI:

  • Las direcciones físicas que aparecían en los sitios web conducían a edificios, gasolineras y hoteles al azar al buscarlos en Google Maps.
  • La información de contacto de los sitios web incluía números de teléfono y direcciones de correo electrónico falsos.
  • Al consultar la información del registrador del sitio web, 11 de ellos estaban registrados en Reikiavik, Islandia, en una dirección vinculada a otras estafas. Los demás estaban registrados en edificios, gasolineras y carreteras de EE. UU. y el Reino Unido.
  • Las direcciones IP de los sitios web pueden indicar la ubicación de su servidor: 22 de los 24 usaban Cloudflare, un proxy inverso que oculta las direcciones IP.
  • La mayoría de los números que los estafadores usaron para contactarme eran falsos, lo que significa que no se pudo rastrear su ubicación hasta nadie relacionado con la estafa.

Qué hicimos

Denunciamos los sitios web a través del formulario de denuncia de abusos de Cloudflare. Tres se consideraron infringiendo la política de abusos de Cloudflare, uno no estaba activo y el otro resultó no usar Cloudflare.

Para cinco de ellos, nos asignaron otros proveedores de alojamiento para contactar. No recibimos respuesta de estos proveedores y los informes de dos de los sitios web no se pudieron entregar. También había otros seis proveedores de dominios involucrados (los sitios web pueden tener más de uno); ninguno respondió cuando los contactamos.

También denunciamos todos los sitios web a sus registrantes. Algunos deshabilitaron los dominios.

Un registrante solicitó una prueba en forma de una imagen de la página web, pero la página web estaba inactiva y no obtuvimos respuesta cuando se lo informamos. Otros no respondieron y algunos dijeron que el proveedor de dominios era el contacto más adecuado para denunciar el abuso (con el que ya nos habíamos puesto en contacto).

Una operación global

Esta estafa no solo ha afectado a personas en el Reino Unido. En marzo de este año, el Centro Nacional Antiestafa del gobierno australiano emitió una alerta de estafa advirtiendo sobre "estafas de inversión en línea con celebridades falsas". La advertencia incluía un ejemplo de un sitio que suplantaba la identidad de los presentadores del programa australiano Today Show, entrevistando al actor Hugh Jackman sobre la plataforma.

En mayo, la Comisión de Valores y Futuros de Hong Kong (SFC), regulador de los mercados de valores y futuros de Hong Kong, emitió una advertencia sobre Quantum AI. Describió la estafa como una plataforma fraudulenta de comercio de criptomonedas que utiliza la imagen de Elon Musk para atraer a las víctimas.

También hubo ocho denuncias presentadas por víctimas de Quantum AI entre 2020 y 2024 ante la Oficina de Buenas Prácticas Comerciales (BBB) de EE. UU. y Canadá, que proporciona información sobre empresas, gestiona las quejas de los consumidores y publica advertencias sobre estafas.

¿Qué está haciendo el regulador del Reino Unido?

Ofcom regula los servicios de comunicación, incluidas las telecomunicaciones e internet, en el Reino Unido. Nos pusimos en contacto con ellos en relación con la IA Cuántica y les preguntamos qué se estaba haciendo para proteger a las personas.

Un portavoz de Ofcom nos comentó: «Las tácticas de los estafadores son cada vez más sofisticadas y, a menudo, implican el uso de múltiples canales. Abordar este complejo problema requiere una acción coordinada de la policía, el Gobierno, los organismos reguladores y la industria».

«Hemos reforzado nuestras normas y directrices para las compañías telefónicas con el fin de bloquear las llamadas fraudulentas desde el extranjero que utilizan números de teléfono fijo del Reino Unido falsificados. Y hay planes similares en marcha para bloquear más llamadas que falsifican números de teléfono móvil del Reino Unido».

«Cuando las nuevas obligaciones de la Ley de Seguridad en Línea del Reino Unido entren en vigor el próximo año, las empresas tecnológicas deberán evaluar el riesgo de contenido o actividad ilegal en sus plataformas, incluido el fraude, tomar las medidas adecuadas para reducir el riesgo de que aparezca y actuar con rapidez para eliminarlo en cuanto tengan conocimiento de ello».

¿Qué pretende Which?

Las estafas suelen tener éxito al utilizar más de una plataforma. Por eso, Which?, junto con otras organizaciones, ha instado al gobierno a facilitar que las empresas y autoridades pertinentes compartan información sobre fraudes para comprender mejor y combatir las estafas.

Las estafas se esconden a simple vista: están presentes en múltiples plataformas y, a menudo, pasan desapercibidas. Esto significa que los delincuentes pueden estafar una y otra vez. Mientras esperamos que la ley se ponga al día con sus trucos, la responsabilidad de protegerse recae en usted.

5 maneras de protegerse

  1. Ignore los anuncios en redes sociales que no se publiquen desde cuentas oficiales y que presenten a celebridades conocidas u organizaciones nuevas.

  2. Tenga cuidado al ingresar su información personal en sitios web que nunca haya visitado; estos datos pueden usarse para estafarlo ahora o en el futuro.

  3. Utilice la búsqueda inversa de imágenes de Google para verificar si una imagen se ha usado en otro lugar. A veces, los videos deepfake son una compilación de imágenes que ya existen, por lo que esta es una buena manera de encontrar el original. Puedes buscar una imagen haciendo una captura de pantalla y seleccionando el icono de la imagen a la derecha de la barra de búsqueda de Google.

  4. A veces puedes encontrar información rápida sobre una dirección web escribiéndola en el sitio web Who.is. Los sitios web recién creados deberían ser una señal de alerta.

  5. Desconfía de las llamadas no solicitadas de números aleatorios. Considera usar un teléfono con bloqueo de llamadas para detenerlas en un teléfono fijo y activar el bloqueo de llamadas en tu móvil.

Bloqueo de números en tu teléfono móvil

  • En un iPhone, puedes silenciar llamadas desconocidas: haz clic en Ajustes > Teléfono. Desplázate hacia abajo y activa Silenciar llamadas desconocidas.

  • En Android, puedes bloquear números: abre la app Teléfono, selecciona Historial de llamadas y luego el número que quieres bloquear > Bloquear/denunciar spam.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd