Incidents associés
Les pirates testent la capacité de ChatGPT à créer des chatbots féminins dans le cadre de leurs efforts pour arnaquer les hommes attirés par la personnalité numérique.
Les cybercriminels ont commencé à utiliser le chatbot artificiellement intelligent ChatGPT d'OpenAI pour créer rapidement des outils de piratage, ont averti vendredi des chercheurs en cybersécurité. Les escrocs testent également la capacité de ChatGPT à créer d'autres chatbots conçus pour se faire passer pour de jeunes femmes pour piéger des cibles, a déclaré un expert surveillant les forums criminels à Forbes.
De nombreux premiers utilisateurs de ChatGPT avaient sonné l'alarme sur le fait que l'application, devenue virale dans les jours qui ont suivi son lancement en décembre, pouvait coder des logiciels malveillants capables d'espionner les frappes au clavier des utilisateurs ou de créer des rançongiciels.
Les forums criminels clandestins ont finalement fait leur chemin, selon un rapport de la société de sécurité israélienne Check Point. Dans un message de forum examiné par Check Point, un pirate informatique qui avait précédemment partagé un logiciel malveillant Android a présenté un code écrit par ChatGPT qui a volé des fichiers intéressants, les a compressés et les a envoyés sur le Web. Ils ont montré un autre outil qui installait une porte dérobée sur un ordinateur et pouvait télécharger d'autres logiciels malveillants sur un PC infecté.
Dans le même forum, un autre utilisateur a partagé du code Python capable de chiffrer des fichiers, affirmant que l'application OpenAI les avait aidés à le créer. Ils ont affirmé que c'était le premier script qu'ils avaient jamais développé. Comme l'a noté Check Point dans son rapport, un tel code peut être utilisé à des fins tout à fait bénignes, mais il pourrait également "être facilement modifié pour chiffrer complètement la machine de quelqu'un sans aucune interaction de l'utilisateur", similaire à la manière dont fonctionne le ransomware. Le même utilisateur du forum avait précédemment vendu l'accès à des serveurs d'entreprise piratés et à des données volées, a noté Check Point.
Un utilisateur a également parlé d'"abuser" de ChatGPT en l'aidant à coder les fonctionnalités d'un marché du dark web, semblable à des bazars de drogue comme Silk Road ou Alphabay. À titre d'exemple, l'utilisateur a montré comment le chat bot pouvait rapidement créer une application qui surveillait les prix des crypto-monnaies pour un système de paiement théorique.
Alex Holden, fondateur de la société de cyber-intelligence Hold Security, a déclaré qu'il avait vu des escrocs de rencontres commencer également à utiliser ChatGPT, alors qu'ils essayaient de créer des personnages convaincants. "Ils prévoient de créer des chatbots pour se faire passer pour la plupart des filles pour aller plus loin dans les discussions avec leurs marques", a-t-il déclaré. "Ils essaient d'automatiser les bavardages inutiles."
OpenAI n'avait pas répondu à une demande de commentaire au moment de la publication.
Alors que les outils codés par ChatGPT semblaient "assez basiques", Check Point a déclaré que ce n'était qu'une question de temps avant que des pirates plus "sophistiqués" ne trouvent un moyen de tourner l'IA à leur avantage. Rik Ferguson, vice-président du renseignement de sécurité de la société américaine de cybersécurité Forescout, a déclaré qu'il ne semblait pas que ChatGPT était encore capable de coder quelque chose d'aussi complexe que les principales souches de ransomwares qui ont été observées dans des incidents de piratage importants ces dernières années, tels que [ Conti, tristement célèbre pour son utilisation en violation du système de santé national irlandais](https://www.forbes.com/sites/thomasbrewster/2022/02/28/a-ransomware-crew-pledged-allegiance-to-russia- maintenant-ses-données-ont-été-fuites-par-un-hacker-pro-ukrainien/). L'outil d'OpenAI réduira cependant la barrière d'entrée pour les novices pour entrer sur ce marché illicite en créant des logiciels malveillants plus basiques, mais tout aussi efficaces, a ajouté Ferguson.
Il a soulevé une autre préoccupation selon laquelle plutôt que de créer un code qui vole les données des victimes, ChatGPT pourrait également être utilisé pour aider à créer des sites Web et des robots qui incitent les utilisateurs à partager leurs informations. Cela pourrait "industrialiser la création et la personnalisation de pages Web malveillantes, de campagnes de phishing très ciblées et d'escroqueries reposant sur l'ingénierie sociale", a ajouté Ferguson.
Sergey Shykevich, chercheur en renseignement sur les menaces de Check Point, a déclaré à Forbes que ChatGPT sera un "excellent outil" pour les pirates russes qui ne maîtrisent pas l'anglais pour créer des e-mails de phishing d'apparence légitime.
Quant aux protections contre l'utilisation criminelle de ChatGPT, Shykevich a déclaré qu'elles devraient finalement, et "malheureusement", être appliquées avec une réglementation. OpenAI a mis en place certains contrôles, empêchant les demandes évidentes de ChatGPT de créer des logiciels espions avec des avertissements de violation de politique, bien que [les pirates et les journalistes aient trouvé des moyens](https://www.bleepingcomputer.com/news/technology/openais-new-chatgpt-bot -10-choses-dangereuses-dont-il-est-capable/) pour contourner ces protections. Shykevich a déclaré que des entreprises comme OpenAI pourraient devoir être légalement obligées de former leur IA pour détecter de tels abus.