Nos comprometemos a prevenir el uso indebido de nuestros modelos Claude por parte de actores adversarios, a la vez que mantenemos su utilidad para los usuarios legítimos. Si bien nuestras medidas de seguridad previenen con éxito muchos resu…

Los LLM y los sistemas de IA generativa se implementan rápidamente en diversas industrias, y su escala está creando nuevas oportunidades para los actores de amenazas.

Recientemente, un informe de amenazas de Anthropic analizó los usos malic…

La empresa de inteligencia artificial (IA) Anthropic ha revelado que actores de amenazas desconocidos utilizaron su chatbot Claude para una operación de "influencia como servicio" con el fin de interactuar con cuentas auténticas en Facebook…

Anthropic ha revelado un ejemplo preocupante de cómo las herramientas de IA pueden utilizarse como arma para escalar operaciones de influencia, según un informe de The Hacker News. La compañía descubrió que su chatbot Claude se utilizó para…

La IA de Claude, desarrollada por Anthropic, ha sido explotada por actores maliciosos en diversas operaciones adversarias, en particular una campaña de "influencia como servicio" con fines financieros.

Esta operación aprovechó las avanzadas…