Incidents associés
Dans un cas, un pirate a partagé un code malveillant Android écrit par ChatGPT, qui pourrait voler les fichiers souhaités, les compresser et les divulguer en ligne.
Les cybercriminels ont un nouveau tour dans leur manche impliquant l'abus d'un (AI) chatbot d'OpenAI appelé ChatGPT. L'application ChatGPT est devenue populaire depuis son lancement fin novembre 2022, donc naturellement, les escrocs l'intéressent pour l'exploiter.
Selon un nouveau rapport de la société de sécurité israélienne Check Point, les pirates utilisent ChatGPT pour développer de puissants outils de piratage et créer de nouveaux chatbots conçus pour imiter les jeunes filles pour attirer des cibles.
ChatGPT peut également coder des logiciels malveillants capables de surveiller les frappes au clavier des utilisateurs et de créer des ransomwares. Pour votre information, ChatGPT a été développé par OpenAI comme interface pour son LLM (Large Modèle de langage).
Cependant, les cybercriminels ont en quelque sorte trouvé un moyen d'en faire une menace pour le cybermonde, car sa capacité de génération de code peut facilement aider les acteurs de la menace à lancer des cyberattaques.
D'autre part, le fondateur de Hold Security, Alex Holden, a déclaré qu'il avait observé des escrocs de rencontres exploitant ChatGPT pour créer des personnages convaincants. Les escrocs créent des personnages féminins pour se faire passer pour des filles afin de gagner la confiance et d'avoir des conversations plus longues avec leurs cibles.
Dangers potentiels
Les chercheurs de Check Point Research ont expliqué dans leur article de blog qu'un attaquant pourrait créer un e-mail de harponnage authentique pour exécuter un reverse shell qui peut accepter des commandes en anglais.
De nombreux forums de piratage clandestins ont publié des informations sur des incidents au cours desquels des cybercriminels ont utilisé OpenAI pour développer des outils malveillants, même ceux qui n'ont aucune compétence en développement. Dans l'un des messages examinés par Check Point, un pirate a partagé un code malware Android écrit par ChatGPT, qui pourrait voler les fichiers souhaités, les compresser et les divulguer sur le Web.
Un utilisateur a partagé comment il a abusé de ChatGPT en l'utilisant pour créer des fonctionnalités de code d'un marché sur le [Dark Web] (https://www.hackread.com/what-are-dark-web-search-engines-how- pour-les-trouver/), comme Route de la soie et [Alphabay](https://www.hackread. com/alphabay-dark-web-marketplaces-back-online/).
Un autre outil a été publié sur le forum qui pourrait être utilisé pour installer une porte dérobée sur un appareil et télécharger plus de logiciels malveillants sur l'ordinateur compromis. De même, un code Python partagé par l'utilisateur capable de chiffrer des fichiers à l'aide de l'application OpenAI.
Les chercheurs de Check Point ont observé qu'il s'agissait du premier outil créé par cet utilisateur. Ces codes pourraient être utilisés à des fins malveillantes et modifiés pour chiffrer un appareil sans impliquer d'interaction de l'utilisateur, tout comme avec ransomware.
De plus, les escrocs peuvent également utiliser ChatGPT pour créer des bots et des sites pour inciter les utilisateurs à partager leurs informations et lancer des escroqueries d'ingénierie sociale très ciblées. et les campagnes de phishing.
OpenAI n'a pas encore répondu à ces conclusions.