Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1054: Un rapport d'Anthropic révèle que Claude a été utilisé à des fins d'influence, de détournement d'informations d'identification, de fraude au recrutement et de développement de logiciels malveillants.

Description:
Traduit par IA
En avril 2025, Anthropic a publié un rapport détaillant plusieurs cas d'abus impliquant son LLM Claude, tous détectés en mars. Parmi ceux-ci figuraient une opération d'« influence en tant que service » ayant orchestré plus de 100 bots sur les réseaux sociaux ; une tentative de récupération et de test d'identifiants divulgués pour l'accès aux caméras de sécurité ; une campagne de fraude au recrutement ciblant l'Europe de l'Est ; et un acteur novice développant un logiciel malveillant sophistiqué. Anthropic a banni les comptes concernés, mais n'a pas pu confirmer le déploiement en aval.
Editor Notes: Timeline notes: Anthropic's report details separate case studies from March 2025, but published their findings on 04/23/2025, which is the date this incident ID takes.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Anthropic developed an AI system deployed by Unknown malicious actors , Unknown cybercriminals et Influence-as-a-service operators, which harmed social media users , People targeted by malware , Job seekers in Eastern Europe et IoT security camera owners.
Systèmes d'IA présumés impliqués: LLM-enhanced malware toolkits , Claude AI models , Claude et AI-generated social media bots

Statistiques d'incidents

ID
1054
Nombre de rapports
5
Date de l'incident
2025-04-23
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

+1
Détection et lutte contre les utilisations malveillantes de Claude : mars 2025
Pourquoi les invites sont les nouveaux IOC que vous n’avez pas vu venir !L'IA de Claude exploitée pour exploiter plus de 100 fausses personnalités politiques dans une campagne d'influence mondialeDrapeaux anthropiques : influence pilotée par l'IA et opérations de cybercriminalitéClaude AI utilisé à mauvais escient dans les opérations et campagnes d'influence en tant que service
Détection et lutte contre les utilisations malveillantes de Claude : mars 2025

Détection et lutte contre les utilisations malveillantes de Claude : mars 2025

anthropic.com

Pourquoi les invites sont les nouveaux IOC que vous n’avez pas vu venir !

Pourquoi les invites sont les nouveaux IOC que vous n’avez pas vu venir !

blog.securitybreak.io

L'IA de Claude exploitée pour exploiter plus de 100 fausses personnalités politiques dans une campagne d'influence mondiale

L'IA de Claude exploitée pour exploiter plus de 100 fausses personnalités politiques dans une campagne d'influence mondiale

thehackernews.com

Drapeaux anthropiques : influence pilotée par l'IA et opérations de cybercriminalité

Drapeaux anthropiques : influence pilotée par l'IA et opérations de cybercriminalité

channele2e.com

Claude AI utilisé à mauvais escient dans les opérations et campagnes d'influence en tant que service

Claude AI utilisé à mauvais escient dans les opérations et campagnes d'influence en tant que service

gbhackers.com

Détection et lutte contre les utilisations malveillantes de Claude : mars 2025
anthropic.com · 2025
Traduit par IA

Nous nous engageons à prévenir l'utilisation abusive de nos modèles Claude par des acteurs malveillants tout en préservant leur utilité pour les utilisateurs légitimes. Si nos mesures de sécurité préviennent efficacement de nombreux contenu…

Pourquoi les invites sont les nouveaux IOC que vous n’avez pas vu venir !
blog.securitybreak.io · 2025
Traduit par IA

Les masters de maîtrise et les systèmes d'IA générative sont rapidement déployés dans tous les secteurs, et leur ampleur crée de nouvelles opportunités pour les acteurs malveillants.

Récemment, un rapport d'Anthropic sur les menaces évoquai…

L'IA de Claude exploitée pour exploiter plus de 100 fausses personnalités politiques dans une campagne d'influence mondiale
thehackernews.com · 2025
Traduit par IA

Anthropic, une entreprise d'intelligence artificielle (IA), a révélé que des acteurs malveillants inconnus ont exploité son chatbot Claude pour une opération d'« influence en tant que service » afin d'interagir avec des comptes authentiques…

Drapeaux anthropiques : influence pilotée par l'IA et opérations de cybercriminalité
channele2e.com · 2025
Traduit par IA

Anthropic a révélé un exemple inquiétant de la manière dont les outils d'IA peuvent être utilisés pour étendre les opérations d'influence, selon un rapport de The Hacker News. L'entreprise a découvert que son chatbot Claude était utilisé po…

Claude AI utilisé à mauvais escient dans les opérations et campagnes d'influence en tant que service
gbhackers.com · 2025
Traduit par IA

L'IA Claude, développée par Anthropic, a été exploitée par des acteurs malveillants dans le cadre de diverses opérations adverses, notamment une campagne d'influence en tant que service à motivation financière.

Cette opération a exploité le…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

AI-Generated Profiles Used in Disinformation Campaign Targeting Ukrainians

Updates on Our Security Work in Ukraine

Feb 2022 · 4 rapports
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 rapports
DALL-E 2 Reported for Gender and Racially Biased Outputs

A new AI draws delightful and not-so-delightful images

Apr 2022 · 3 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

AI-Generated Profiles Used in Disinformation Campaign Targeting Ukrainians

Updates on Our Security Work in Ukraine

Feb 2022 · 4 rapports
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 rapports
DALL-E 2 Reported for Gender and Racially Biased Outputs

A new AI draws delightful and not-so-delightful images

Apr 2022 · 3 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c