Incidents associés
Des cybercriminels experts et novices ont déjà commencé à utiliser le chatbot ChatGPT d'OpenAI dans le but de créer des outils de piratage, ont déclaré des analystes de la sécurité.
Dans un exemple documenté, la société de sécurité israélienne Check Point repéré un fil sur un forum de piratage souterrain populaire par un hacker qui a déclaré qu'il expérimentait le populaire chatbot d'IA pour "recréer des souches de logiciels malveillants".
Le pirate avait ensuite compressé et partagé des logiciels malveillants Android écrits par ChatGPT sur le Web. Le logiciel malveillant avait la capacité de voler des fichiers intéressants, Forbes reports.
Le même pirate a montré un autre outil qui a installé une porte dérobée sur un ordinateur et pourrait infecter un PC avec plus de logiciels malveillants.
Check Point a noté dans son évaluation que certains pirates utilisaient ChatGPT pour créer leurs premiers scripts. Dans le forum susmentionné, un autre utilisateur a partagé du code Python qui, selon lui, pouvait crypter des fichiers et avait été écrit à l'aide de ChatGPT. Le code, a-t-il dit, était le premier de ce genre qu'il ait écrit.
Bien qu'un tel code puisse être utilisé pour des raisons inoffensives, Check Point a déclaré qu'il pouvait "facilement être modifié pour chiffrer complètement la machine de quelqu'un sans aucune interaction de l'utilisateur".
La société de sécurité a souligné que si les outils de piratage codés par ChatGPT semblaient "assez basiques", ce n'est "qu'une question de temps avant que des acteurs de la menace plus sophistiqués améliorent la façon dont ils utilisent les outils basés sur l'IA pour le mal".
Un troisième cas d'utilisation de ChatGPT pour des activités frauduleuses signalées par Check Point incluait un cybercriminel qui a montré qu'il était possible de créer un marché du Dark Web à l'aide du chatbot AI. Le pirate a posté sur le forum clandestin qu'il avait utilisé ChatGPT pour créer un morceau de code qui utilise une API tierce pour récupérer les prix à jour de la crypto-monnaie, qui est utilisée pour le système de paiement du marché du Dark Web.
Le développeur de ChatGPT, OpenAI, a mis en place certains contrôles qui empêchent les demandes évidentes de l'IA de créer des logiciels espions. Cependant, la boîte de discussion AI a fait l'objet d'un examen plus minutieux après que des analystes de la sécurité et des journalistes ont découvert qu'elle pouvait écrire des e-mails de phishing grammaticalement corrects [sans fautes de frappe](https://www.bleepingcomputer.com/news/technology/openais-new-chatgpt-bot -10-choses-dangereuses-dont-il-est-capable/).
OpenAI n'a pas immédiatement répondu à une demande de commentaire.