Incidents associés
Anthropic a annoncé jeudi que des pirates informatiques soutenus par l'État chinois avaient utilisé Claude, son modèle d'intelligence artificielle, pour automatiser une trentaine d'attaques contre des entreprises et des gouvernements lors d'une campagne menée en septembre, selon un article du Wall Street Journal.
Anthropic a précisé que 80 à 90 % de l'attaque était automatisée par l'IA, un niveau supérieur à celui des piratages précédents. « Tout s'est déroulé littéralement d'un simple clic, avec une intervention humaine minimale », a déclaré Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, au Wall Street Journal. Il a ajouté : « L’intervention humaine se limitait à quelques points critiques, se contentant de dire : “Oui, continuez”, “N’allez pas plus loin”, “Merci pour ces informations”, “Oh, ça ne me semble pas correct, Claude, vous en êtes sûr ?” »
Le piratage informatique assisté par l’IA est de plus en plus courant, tout comme la stratégie la plus récente consistant à utiliser l’IA pour coordonner les différentes tâches nécessaires à une attaque réussie. Google a détecté des pirates informatiques russes utilisant des modèles de langage complexes pour générer des commandes pour leurs logiciels malveillants, selon un rapport de l'entreprise publié le 5 novembre.
Depuis des années, le gouvernement américain alerte sur le fait que la Chine utilise l'intelligence artificielle pour voler des données de citoyens et d'entreprises américains, ce que la Chine a toujours nié. Anthropic a déclaré au Journal être convaincue que les pirates informatiques étaient commandités par le gouvernement chinois. Lors de cette campagne, ils ont dérobé des données sensibles à quatre victimes. Cependant, comme lors des précédents piratages (https://www.theverge.com/ai-artificial-intelligence/766435/anthropic-claude-threat-intelligence-report-ai-cybersecurity-hacking), Anthropic n'a pas divulgué l'identité des cibles, qu'elles aient été atteintes ou non. L'entreprise a toutefois précisé que le gouvernement américain n'avait pas été visé.