Incidents associés
Un nouveau IA chatbot destiné à aider à la rédaction d'e-mails, d'essais et de codage, est utilisé par certains pour des activités criminelles telles que l'espionnage, les rançongiciels et les logiciels malveillants. spam, entre autres.
Depuis sa sortie en novembre par le laboratoire de recherche OpenAI basé à San Francisco, ChatGPT a suscité un intérêt généralisé pour la manière dont l'outil chatbot peut être utilisé à l'avenir.
Mais quelques semaines seulement après la mise en ligne de ChatGPT, une analyse des forums de piratage souterrains a montré que les participants - dont beaucoup n'avaient que peu ou pas d'expérience en matière de codage - utilisaient l'outil pour créer des logiciels malveillants et se livrer à d'autres activités néfastes.
"Il est encore trop tôt pour décider si les fonctionnalités de ChatGPT deviendront ou non le nouvel outil préféré des participants au Dark Web", ont écrit vendredi les chercheurs de la société de sécurité Check Point Research. "Cependant, la communauté cybercriminelle a déjà montré un intérêt significatif et saute dans cette dernière tendance pour générer du code malveillant."
Les chercheurs ont noté que le code peut être utilisé de manière « bénigne ». Mais les mauvais acteurs peuvent facilement modifier le script "pour crypter complètement la machine de quelqu'un sans aucune interaction de l'utilisateur", a déclaré la société.
FOX Business a contacté OpenAI pour un commentaire.
L'outil de chat a déjà suscité une certaine controverse dans les écoles pour sa capacité à produire un dissertation persuasif en quelques secondes. La semaine dernière, les responsables de l'école de New York ont commencé à bloquer l'outil d'écriture pour les élèves.
La décision du plus grand U.S. district scolaire pour restreindre le site Web ChatGPT sur les appareils et réseaux scolaires pourrait avoir des effets d'entraînement sur d'autres écoles et enseignants qui se démènent pour comprendre comment empêcher la triche. Les créateurs de ChatGPT disent qu'ils recherchent également des moyens de détecter les abus.
ChatGPT fait partie d'une nouvelle génération de systèmes d'IA qui peuvent converser, générer du texte lisible à la demande et même produire de nouvelles images et vidéos basées sur ce qu'ils ont appris à partir d'une vaste base de données de livres numériques, d'écrits en ligne et d'autres médias.
Mais contrairement aux itérations précédentes de soi-disant «grands modèles de langage», tels que le GPT-3 d'OpenAI, lancé en 2020, l'outil ChatGPT est disponible gratuitement pour toute personne disposant d'une connexion Internet et conçu pour être plus convivial. Cela fonctionne comme un dialogue écrit entre le système d'IA et la personne qui lui pose des questions.