Incidents associés
** L'analyse des chats sur les forums du dark web montre que des efforts sont déjà en cours pour utiliser le chatbot d'OpenAI pour écrire des logiciels malveillants. **
Le chatbot IA ChatGPT suscite beaucoup d'enthousiasme. Il semble maintenant qu'il soit utilisé dans des tentatives de création de code malveillant. ChatGPT, publié par le laboratoire de recherche sur l'intelligence artificielle OpenAI, a suscité un large intérêt et suscité des discussions sur l'évolution de l'IA et sur la manière dont elle pourrait être utilisée à l'avenir.
Comme tout outil, entre de mauvaises mains, il pourrait être utilisé à des fins criminelles. Selon les chercheurs en cybersécurité de Check Point, les utilisateurs de la communauté de piratage clandestin expérimentent déjà l'utilisation de ChatGPT pour les cyberattaques. "Les acteurs de la menace avec très peu de connaissances techniques - jusqu'à zéro connaissance technique - pourraient être en mesure de créer des outils malveillants. Cela pourrait également rendre les opérations quotidiennes des cybercriminels sophistiqués beaucoup plus efficaces et simples, comme la création de différentes parties de la chaîne d'infection », a déclaré Sergey Shykevich, responsable du groupe Threat Intelligence chez Check Point.
ng
Les conditions d'utilisation d'OpenAI interdisent spécifiquement la génération de logiciels malveillants, définis comme "un contenu qui tente de générer des rançongiciels, des enregistreurs de frappe, des virus ou tout autre logiciel conçu pour causer des dommages sous quelque forme que ce soit". Les tentatives de génération de spam et les cas d'utilisation visant la cybercriminalité sont également interdits. Cependant, une analyse de l'activité sur plusieurs grands forums de piratage souterrains suggère que les cybercriminels utilisent déjà ChatGPT pour créer des outils malveillants - et dans certains cas, cela permet déjà aux cybercriminels de créer des logiciels malveillants sans aucune compétence en développement ou en programmation.
Dans un forum fin décembre, une affiche a détaillé comment il utilise ChatGPT pour recréer des souches de logiciels malveillants et des techniques décrites dans des publications de recherche et des enregistrements de logiciels malveillants courants. Cela leur a permis de créer des logiciels malveillants basés sur Python qui recherchent des fichiers courants tels que Microsoft [Office](https://www.zdnet.de/ themen/ office-2013/)\ documents, fichiers PDF et images, les copie, puis les télécharge sur un serveur File Transfer Protocol. Les chercheurs notent que l'utilisateur du forum a partagé les messages pour montrer aux cybercriminels moins techniques comment utiliser les outils d'IA à des fins malveillantes.
Script pour débutants
Un utilisateur a publié un script Python qui, selon lui, était le premier script qu'il ait jamais créé. L'analyse du script suggère qu'il est conçu pour chiffrer et déchiffrer des fichiers qui, avec un peu de travail, pourraient se transformer en ransomware, ce qui pourrait conduire les cybercriminels de bas niveau à développer et distribuer leurs propres campagnes de ransomware. « Bien sûr, le code peut être utilisé de manière inoffensive. Cependant, ce script peut facilement être modifié pour chiffrer entièrement l'ordinateur d'une personne sans aucune interaction de l'utilisateur », a déclaré Check Point.
Les cybercriminels ne se contentent pas d'expérimenter ChatGPT pour créer des logiciels malveillants. Le soir du Nouvel An, un membre du forum clandestin a publié un message montrant comment l'outil pourrait être utilisé pour créer des scripts qui pourraient exécuter un marché Web sombre automatisé pour acheter et vendre des détails de compte volés, des informations de carte de crédit ou des logiciels malveillants. Le cybercriminel a même montré un morceau de code construit à l'aide d'une API tierce pour obtenir les prix actuels des crypto-monnaies Monero, Bitcoin et Ethereum dans le cadre d'un système de paiement pour un marché du dark web.