Bienvenido a

la base de datos de incidentes de IA

Nuestra misión es asegurar que la inteligencia artificial general beneficie a toda la humanidad. Impulsamos esta misión mediante el despliegue de nuestras innovaciones para construir una IA democrática: una IA moldeada por principios democráticos, regida por normas de sentido común y diseñada para ayudar a las personas a resolver problemas complejos, protegiéndolas al mismo tiempo de daños reales. Esta misión también requiere identificar y desarticular los intentos de regímenes autoritarios y sus aliados de utilizar sistemas de IA para coaccionar a los críticos, vigilar a las comunidades o interferir subrepticiamente en sociedades democráticas.

En este informe, describimos dos grupos de cuentas de ChatGPT, probablemente originarias de China, que bloqueamos tras utilizar nuestros modelos para apoyar aparentes operaciones de influencia encubiertas que promovían narrativas con el fin de manipular un debate legítimo sobre la IA estadounidense y las políticas tecnológicas en general.

El primer grupo generó comentarios e imágenes en redes sociales que afirmaban que la construcción de centros de datos para IA estaba aumentando los precios de la electricidad para las familias promedio. Denominamos a este grupo la campaña «El auge de los centros de datos».

El segundo grupo generó comentarios e imágenes que criticaban los aranceles estadounidenses como intentos de dominar la competencia tecnológica y especificaba en sus mensajes que el contenido no debía incluir al líder chino Xi Jinping, sino únicamente al presidente Trump. Este grupo estaba conectado a una red de cuentas de redes sociales probablemente falsas que también atacaban a OpenAI alegando que los datos de los usuarios de ChatGPT se habían visto comprometidos. Estas acusaciones eran completamente falsas. Denominamos a este segundo grupo la campaña «Tecnología y Aranceles».

El ataque a OpenAI y a la construcción de centros de datos en EE. UU. es significativo no porque la operación parezca haber modificado la opinión pública, sino porque demuestra que operadores de influencia de origen chino estaban probando narrativas contra la infraestructura de IA, un pilar del liderazgo tecnológico, el crecimiento económico y el ecosistema democrático de IA de EE. UU. La operación buscaba explotar y amplificar las preocupaciones públicas existentes sobre los precios de la energía y el impacto local del desarrollo de centros de datos, pero no encontramos evidencia de un alcance significativo más allá de su propia actividad. Las operaciones de influencia extranjera han buscado durante mucho tiempo aprovecharse de problemas locales y creencias arraigadas para generar credibilidad, exacerbar las divisiones o agravar la desconfianza pública. En este caso, los agentes intentaron infiltrarse subrepticiamente en un debate estadounidense sobre el futuro de las capacidades de IA del país, ocultando su identidad y sus motivaciones.

Al publicar estos hallazgos, buscamos ayudar a la industria, los gobiernos, la sociedad civil y el público a identificar y desbaratar mejor los intentos de actores extranjeros que amenazan con manipular debates públicos legítimos, debilitar las instituciones democráticas y promover el totalitarismo con características de IA: el uso de la IA para la vigilancia, la censura y el control de la vida política, social y privada.

En los últimos meses, Facebook se ha visto inundado de publicaciones con imágenes generadas por IA con temática de estados de EE. UU., provenientes de una multitud de cuentas sospechosamente similares con nombres como "Life in Nevada", "I grown up in Iowa" y "Utah Life". El contenido publicado por estas cuentas suele mostrar imágenes rurales y es extremadamente similar, independientemente del estado al que supuestamente se refiera cada publicación; muchas de las imágenes son prácticamente intercambiables, salvo por el nombre del estado. Irónicamente, esta red de cuentas con temática estadounidense no parece estar gestionada desde Estados Unidos; la función de Transparencia de Páginas de Facebook indica que algunas, y posiblemente todas, las cuentas se gestionan desde Bangladesh.

La mayoría de las páginas fueron creadas o renombradas en 2026.

Estas cuentas de Facebook forman parte de una red de spam compuesta por al menos 49 páginas de Facebook con temática de estados de EE. UU., con representación de todos los estados excepto Delaware. Muchas son cuentas nuevas, y muchas de las más antiguas han sido renombradas recientemente. Las cuentas generalmente tienen nombres del tipo "Vida en <Estado>" o "Vida en <Estado>". "Just Connecticut Things", "I grown up in Iowa" y "Life is Idaho" son excepciones a la regla.

Vida en Nevada, o posiblemente en Bangladesh

23 de las 49 cuentas tienen información de ubicación disponible a través de la función de Transparencia de la página de Facebook; cada una de estas 23 cuentas tiene uno o más operadores en Bangladesh. Dos de las cuentas también tienen operadores en otros países; "Louisiana Life" tiene al menos un operador supuestamente ubicado en Grecia, mientras que "Massachusetts Life" parece estar parcialmente administrada desde Arabia Saudita. Algunas cuentas han cambiado de nombre, y en algunos casos, los nombres anteriores indican que el contenido previo probablemente tenía una temática diferente. Ejemplos de ello son "Life in Ohio", que originalmente se llamaba "Rose Shop", y "Life in Nevada", que durante aproximadamente un mes se llamó "Hello India".

Variaciones extremadamente repetitivas sobre un mismo tema.

El contenido publicado por las cuentas de esta red de spam consiste principalmente en memes generados mediante modelos de IA, y es extremadamente similar entre sí, salvo por el estado al que se hace referencia. Uno de los tipos de contenido recurrentes más populares son las imágenes de granjas con carteles que expresan oposición a la importación de alimentos de China. (Ejemplo: "Indiana no necesita comprar alimentos de China, Indiana necesita apoyar a los agricultores de Indiana").

La ironía ha muerto.

En un giro irónico, otro tema recurrente del contenido de la red son los memes anti-IA sobre centros de datos producidos con IA generativa. Estas imágenes suelen mostrar vistas aéreas de granjas y playas con mensajes como «No vale la pena ceder ni un centímetro de esto para un centro de datos», impresos en el suelo con una tipografía enorme, a veces acompañados de un dibujo del estado donde supuestamente se ubica la cuenta. En algunos casos, el mensaje contra los centros de datos aparece en un cartel.

¿Quién de nosotros no ha puesto un enorme cartel de "Bienvenido a Colorado" en su jardín?

Muchas de las cuentas de spam también publican memes en contra del impuesto a la propiedad. Estas publicaciones consisten en una imagen de una casa con un cartel que dice "Los impuestos a la propiedad no tienen sentido en una casa pagada si realmente la poseemos" o variaciones similares. Muchas de las imágenes también incluyen el nombre o la bandera del estado supuestamente asociado con la cuenta que publicó la imagen; En el caso de la cuenta "Colorado Life", esto se manifiesta como un enorme letrero de "Bienvenido a Colorado" en el jardín de una persona cualquiera.

ÚLTIMA HORA: nada de esto sucedió en realidad.

Casi todas las cuentas de esta red han publicado al menos una entrada afirmando que se han reportado numerosos terremotos en el supuesto estado de origen de la cuenta. En realidad, la actividad sísmica en Estados Unidos no está distribuida uniformemente, y la mayoría de los terremotos en el país ocurren en California o Alaska, lo que hace que muchas de estas publicaciones sean extremadamente improbables. Todas las publicaciones sobre terremotos incluyen mapas que señalan la ubicación de los supuestos sismos. Algunos de estos mapas, sin embargo, son bastante imprecisos; por ejemplo, Traverse City aparece al otro lado del lago Michigan en la publicación de la esquina superior izquierda.

Solo tenías que hacer una cosa.

Los mapas incorrectos no son el único problema de las publicaciones de esta red. En varias ocasiones, los operadores de la red parecen haber olvidado en qué cuenta estaban conectados, lo que provoca que aparezca una publicación sobre Indiana en la página "Wisconsin Life" y un mapa de Maine en la página "Utah Life". Varias publicaciones también incluyen evidencia de las indicaciones utilizadas para generar las imágenes y el texto asociado, lo que corrobora el origen artificial del contenido.

Si bien esta red de spam es similar en algunos aspectos a otras granjas de contenido con IA generativa de Facebook, como las que publican sin cesar imágenes de casas tipo granero inexistentes y comidas ficticias, incorpora un componente político adicional del que carecen estas otras operaciones de spam. Los temas anti-importación china, anti-centros de datos y anti-impuestos están presentes de forma constante en todas las cuentas y parecen estar dirigidos principalmente a un público rural. Será interesante observar cómo evoluciona la actividad de esta red con el tiempo, suponiendo que Facebook no intervenga y la cierre.

El Equipo de Control y Aplicación de la Ley Cibernética (CVET) del Inspector General de la Policía de Ghana ha arrestado a 11 personas, entre ellas ciudadanos nigerianos, por presuntamente utilizar vídeos deepfake generados con IA para suplantar la identidad de John Dramani Mahama y realizar actividades fraudulentas en línea.

Fuentes policiales informaron a MyjoyOnline.com que, entre el 1 y el 3 de mayo de 2026, el CVET llevó a cabo operaciones cibernéticas coordinadas en Sogakope, Dabala, Tongu, Akatsi y Aflao, en la región de Volta, lo que resultó en el arresto de cinco sospechosos.

Los detenidos son Raphael Ablordeppey (32), Anipah Jonathan (23), Dzamesi Bright Kofi (35), Thomas Ayoyo (17) y Louis Segbawu (18), tras recibir información sobre un grupo que supuestamente creaba y distribuía vídeos generados con IA que suplantaban la identidad del presidente.

Una nueva operación, llevada a cabo el 4 de mayo de 2026, resultó en la detención de seis sospechosos más en Aflao: cinco nigerianos y un ghanés.

Los sospechosos son Bishop Esiri (46), Wisdom James (25), Ali Lucky (23), Edwin Edos (22), John Kofi Darlington (20) y Danu Peter (19), identificado como el ghanés del segundo grupo.

Durante la operación, la policía incautó varios artículos, entre ellos computadoras portátiles, teléfonos móviles, routers de internet, 120 tarjetas SIM pre-registradas y un Mercedes-Benz ML 350 con matrícula nigeriana (Lagos LSR 138HR).

Según la policía, las investigaciones preliminares sugieren que los sospechosos utilizaron contenido generado por inteligencia artificial para suplantar la identidad de personas influyentes y así obtener fraudulentamente dinero e información personal de personas desprevenidas a través de plataformas en línea.

Los investigadores también creen que el grupo forma parte de una red de ciberdelincuencia más amplia dedicada a la producción y distribución de contenido digital fraudulento con fines de lucro.

El miércoles 6 de mayo de 2026, en el tribunal, nueve de los once sospechosos fueron puestos bajo custodia policial y deberán comparecer nuevamente el 25 de mayo de 2026. Thomas Ayoyo y Louis Segbawu obtuvieron la libertad bajo fianza, con dos fiadores cada uno que deberán justificar su identidad.

21 de enero (Reuters) - Eightfold AI, una plataforma de contratación mediante inteligencia artificial respaldada por capital de riesgo y utilizada por Microsoft, PayPal y muchas otras empresas de la lista Fortune 500, está siendo demandada en California por supuestamente recopilar informes utilizados para evaluar a los solicitantes de empleo sin su conocimiento.

La demanda, presentada el martes, es la primera en Estados Unidos que acusa a una empresa de contratación mediante IA de violar la Ley de Informes Crediticios Justos (Fair Credit Reporting Act), según los bufetes de abogados que presentaron la demanda, y demuestra cómo los defensores de los consumidores buscan aplicar la legislación vigente a los sistemas de IA capaces de extraer conclusiones sobre las personas basándose en grandes cantidades de datos.

Eightfold, con sede en Santa Clara, California, ofrece herramientas que prometen agilizar el proceso de contratación evaluando a los solicitantes de empleo y prediciendo si serían adecuados para un puesto, utilizando grandes cantidades de datos de currículos y ofertas de trabajo en línea.

Sin embargo, los candidatos que solicitan empleo en empresas que utilizan estas herramientas no reciben notificación ni tienen la oportunidad de impugnar errores, según alegan las solicitantes Erin Kistler y Sruti Bhaumik en su demanda colectiva.

Por ello, afirman que Eightfold violó la Ley de Informes Crediticios Justos (FCRA, por sus siglas en inglés) y una ley de California que otorga a los consumidores el derecho a consultar e impugnar los informes crediticios utilizados en préstamos y contrataciones.

"No existe ninguna excepción a estas leyes para la inteligencia artificial, las cuales, durante décadas, han sido una herramienta esencial para proteger a los solicitantes de empleo de los abusos de terceros —como las empresas de verificación de antecedentes— que se lucran recopilando información y evaluando a los solicitantes", declararon en la demanda.

El portavoz de Eightfold, Kurt Foeller, afirmó que la plataforma opera con datos compartidos por los candidatos o proporcionados por los clientes.

«No recopilamos información de redes sociales ni similares. Estamos profundamente comprometidos con la IA responsable, la transparencia y el cumplimiento de las leyes laborales y de protección de datos aplicables», declaró Foeller.

Eightfold cuenta con el respaldo de firmas de capital riesgo como SoftBank Vision Fund y General Catalyst.

Kistler y Bhaumik presentaron una demanda ante un tribunal estatal de California en nombre de todos los solicitantes de empleo estadounidenses que postularon a puestos de trabajo y fueron evaluados mediante las herramientas de la empresa. El bufete de abogados laborales Outten & Golden y la organización sin ánimo de lucro Towards Justice representan a la parte demandante.

Según la demanda, Eightfold crea perfiles de talento de los solicitantes de empleo que incluyen descripciones de personalidad como «trabajo en equipo» e «introvertido», clasifica su «calidad de estudios» y predice sus futuros puestos y empresas.

Según la demanda, Kistler solicitó puestos en varias empresas que utilizan Eightfold, como PayPal, y Bhaumik en empresas como Microsoft. Ambos tienen títulos en ciencias o tecnología y más de 10 años de experiencia. Ninguno fue contratado y ambos creen que las herramientas de Eightfold influyeron en su decisión.

Microsoft y PayPal no figuran como demandados en la demanda. Un portavoz de Microsoft declinó hacer comentarios. Un portavoz de PayPal no respondió de inmediato a la solicitud de comentarios.

Según el sitio web de Eightfold, un tercio de los clientes son empresas incluidas en la lista Fortune 500, como Salesforce y Bayer. El Departamento de Trabajo del Estado de Nueva York y el Departamento de Trabajo y Empleo de Colorado también ofrecen plataformas con tecnología Eightfold para quienes buscan empleo.