Incidents associés
Anthropic a annoncé jeudi que des pirates informatiques chinois avaient utilisé sa technologie d'intelligence artificielle dans ce que l'entreprise considère comme la première opération de cyberespionnage menée en grande partie grâce à l'IA.
Anthropic a précisé que les cybercriminels avaient utilisé son chatbot populaire, Claude, pour cibler une trentaine d'entreprises technologiques, d'institutions financières, de fabricants de produits chimiques et d'agences gouvernementales. Les pirates ont utilisé la plateforme d'IA pour collecter les identifiants et mots de passe des bases de données des entreprises, qu'ils ont ensuite exploités pour dérober des données confidentielles, a indiqué Anthropic, tout en soulignant que seul un petit nombre de ces attaques avaient abouti.
« Nous pensons qu'il s'agit du premier cas documenté de cyberattaque de grande ampleur exécutée sans intervention humaine significative », a déclaré Anthropic dans un communiqué.
L'entreprise basée à San Francisco a partagé ses conclusions avec CBS News, mais n'a pas fait d'autres commentaires. L'information a été initialement rapportée par le Wall Street Journal.
Anthropic a déclaré avoir détecté une activité suspecte à la mi-septembre. Une enquête menée par la suite par l'entreprise a révélé que cette activité était liée à une campagne d'espionnage probablement menée par un groupe étatique basé en Chine, selon Anthropic.
D'après l'enquête, les pirates auraient trompé Claude en lui faisant croire qu'il était un employé d'une entreprise de cybersécurité légitime et qu'il était utilisé pour des tests de sécurité. Anthropic a également indiqué que les cybercriminels avaient cherché à dissimuler leurs traces en fractionnant l'attaque en petites tâches.
Contrairement aux cyberattaques classiques, cette opération a nécessité une intervention humaine minimale, selon l'entreprise. « L'IA a effectué des milliers de requêtes par seconde, une vitesse d'attaque qu'il aurait été tout simplement impossible pour des pirates humains d'égaler », a déclaré Anthropic.
Anthropic prévoit que les cyberattaques par IA gagneront en ampleur et en sophistication à mesure que ces agents virtuels seront plus largement utilisés pour divers services. Les agents d'IA sont moins coûteux que les pirates informatiques professionnels et peuvent agir rapidement à grande échelle, ce qui les rend particulièrement attractifs pour les cybercriminels, comme le souligne la MIT Technology Review.
Chris Krebs, ancien directeur de la Cybersecurity and Infrastructure Security Agency (CISA), l'agence fédérale américaine chargée de la cybersécurité, a déclaré vendredi matin sur CBS que cette attaque est un signe avant-coureur.
« En tant qu'experts en sécurité, nous parlons d'événements et d'attaques de ce type depuis près de dix ans », a-t-il affirmé. Voir une cyberattaque par IA se concrétiser de cette manière est « plutôt inquiétant », a-t-il ajouté.