Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 443: ChatGPT Abused to Develop Malicious Softwares

Description: OpenAI's ChatGPT was reportedly abused by cyber criminals including ones with no or low levels of coding or development skills to develop malware, ransomware, and other malicious softwares.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par OpenAI, a endommagé internet users.

Statistiques d'incidents

ID
443
Nombre de rapports
25
Date de l'incident
2022-12-21
Editeurs
Khoa Lam
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Rapports d'incidents

Chronologie du rapport

ChatGPT promet d'utiliser l'IA pour écrire des logiciels malveillantsComment ChatGPT peut transformer n'importe qui en un acteur de menace de ransomware et de malware+2
Point de contrôle : ChatGPT peut composer des e-mails et du code malveillants
Incident Occurrence+3
ChatGPT permet aux script kiddies d'écrire des logiciels malveillants fonctionnels
+9
ChatGPT aide les pirates à écrire des codes malveillants
Oui, ChatGPT peut écrire du code malveillant - mais pas bien+1
Explorer le côté obscur de ChatGPT
C'est effrayant d'utiliser ChatGPT pour écrire des e-mails de phishingGPT-4 ne peut pas arrêter d'aider les pirates à créer des outils cybercriminelsLes logiciels malveillants créés par l'IA envoient des ondes de choc dans le monde de la cybersécurité
ChatGPT promet d'utiliser l'IA pour écrire des logiciels malveillants

ChatGPT promet d'utiliser l'IA pour écrire des logiciels malveillants

cyberscoop.com

Comment ChatGPT peut transformer n'importe qui en un acteur de menace de ransomware et de malware

Comment ChatGPT peut transformer n'importe qui en un acteur de menace de ransomware et de malware

venturebeat.com

Point de contrôle : ChatGPT peut composer des e-mails et du code malveillants

Point de contrôle : ChatGPT peut composer des e-mails et du code malveillants

sdxcentral.com

ChatGPT est utilisé pour créer des e-mails et du code malveillants

ChatGPT est utilisé pour créer des e-mails et du code malveillants

techradar.com

ChatGPT peut être utilisé pour générer du code malveillant, trouve des recherches

ChatGPT peut être utilisé pour générer du code malveillant, trouve des recherches

livemint.com

ChatGPT permet aux script kiddies d'écrire des logiciels malveillants fonctionnels

ChatGPT permet aux script kiddies d'écrire des logiciels malveillants fonctionnels

arstechnica.com

Armés de ChatGPT, les cybercriminels créent des logiciels malveillants et complotent de faux robots féminins

Armés de ChatGPT, les cybercriminels créent des logiciels malveillants et complotent de faux robots féminins

forbes.com

Les cybercriminels demandent à ChatGPT de créer un code malveillant

Les cybercriminels demandent à ChatGPT de créer un code malveillant

theregister.com

OPWNAI : les cybercriminels commencent à utiliser ChatGPT

OPWNAI : les cybercriminels commencent à utiliser ChatGPT

research.checkpoint.com

ChatGPT aide les pirates à écrire des codes malveillants

ChatGPT aide les pirates à écrire des codes malveillants

thehindu.com

Des pirates informatiques exploitent ChatGPT d'OpenAI pour déployer des logiciels malveillants

Des pirates informatiques exploitent ChatGPT d'OpenAI pour déployer des logiciels malveillants

hackread.com

Les cybercriminels utilisent ChatGPT pour créer des outils de piratage et écrire du code

Les cybercriminels utilisent ChatGPT pour créer des outils de piratage et écrire du code

pcmag.com

Comment ChatGPT peut être utilisé par les cybercriminels pour le piratage, la « fraude et plus »

Comment ChatGPT peut être utilisé par les cybercriminels pour le piratage, la « fraude et plus »

timesofindia.indiatimes.com

Les gens essaient déjà de faire en sorte que ChatGPT écrive des logiciels malveillants

Les gens essaient déjà de faire en sorte que ChatGPT écrive des logiciels malveillants

zdnet.com

ChatGPT utilisé pour écrire des logiciels malveillants, des rançongiciels : rapports

ChatGPT utilisé pour écrire des logiciels malveillants, des rançongiciels : rapports

foxbusiness.com

Le côté obscur de ChatGPT : générer des logiciels malveillants fonctionnels

Le côté obscur de ChatGPT : générer des logiciels malveillants fonctionnels

muycomputerpro.com

Logiciels malveillants avec IA : code en ligne généré avec ChatGPT

Logiciels malveillants avec IA : code en ligne généré avec ChatGPT

punto-informatico.it

ChatGPT est utilisé pour écrire des logiciels malveillants

ChatGPT est utilisé pour écrire des logiciels malveillants

zdnet.de

Les gens essaient déjà de faire en sorte que ChatGPT écrive des logiciels malveillants

Les gens essaient déjà de faire en sorte que ChatGPT écrive des logiciels malveillants

zdnet.com

Oui, ChatGPT peut écrire du code malveillant - mais pas bien

Oui, ChatGPT peut écrire du code malveillant - mais pas bien

washingtonpost.com

Explorer le côté obscur de ChatGPT

Explorer le côté obscur de ChatGPT

augustman.com

ChatGPT permet aux escrocs de créer des e-mails si convaincants qu'ils peuvent obtenir de l'argent des victimes sans même s'appuyer sur des logiciels malveillants

ChatGPT permet aux escrocs de créer des e-mails si convaincants qu'ils peuvent obtenir de l'argent des victimes sans même s'appuyer sur des logiciels malveillants

fortune.com

C'est effrayant d'utiliser ChatGPT pour écrire des e-mails de phishing

C'est effrayant d'utiliser ChatGPT pour écrire des e-mails de phishing

cnet.com

GPT-4 ne peut pas arrêter d'aider les pirates à créer des outils cybercriminels

GPT-4 ne peut pas arrêter d'aider les pirates à créer des outils cybercriminels

forbes.com

Les logiciels malveillants créés par l'IA envoient des ondes de choc dans le monde de la cybersécurité

Les logiciels malveillants créés par l'IA envoient des ondes de choc dans le monde de la cybersécurité

foxnews.com

ChatGPT promet d'utiliser l'IA pour écrire des logiciels malveillants
cyberscoop.com · 2022
Traduit par IA

Même pour les pirates les plus expérimentés, cela peut prendre au moins une heure pour écrire un script pour exploiter une vulnérabilité logicielle et infiltrer leur cible. Bientôt, une machine pourra peut-être le faire en quelques secondes…

Comment ChatGPT peut transformer n'importe qui en un acteur de menace de ransomware et de malware
venturebeat.com · 2022
Traduit par IA

Depuis que OpenAI a lancé ChatGPT fin novembre, les commentateurs de tous bords se sont inquiétés de l'impact qu'aura la création de contenu basée sur l'IA, en particulier dans le domaine de la cybersécurité. En fait, de nombreux chercheurs…

Point de contrôle : ChatGPT peut composer des e-mails et du code malveillants
sdxcentral.com · 2022
Traduit par IA

Check Point Research today [publié](https://research.checkpoint.com/2022/opwnai-ai- that-can-save-the-day-or-hack-it-away/) une étude sur ChatGPT et [Codex](https://openai. com/blog/openai-codex/), soulignant comment les acteurs menaces peu…

ChatGPT est utilisé pour créer des e-mails et du code malveillants
techradar.com · 2022
Traduit par IA

ChatGPT, le chatbot d'Open AI qui a suscité beaucoup d'enthousiasme ces derniers mois, peut être utilisé pour créer des fichiers Excel malveillants, ainsi que des [emails] de phishing convaincants (https://www.techradar.com/news/best- email…

ChatGPT peut être utilisé pour générer du code malveillant, trouve des recherches
livemint.com · 2022
Traduit par IA

ChatGPT d'OpenAI, le générateur de texte d'intelligence artificielle (IA) basé sur un grand modèle de langage (LLM), peut apparemment être utilisé pour générer du code pour des tâches malveillantes, a observé mardi une note de recherche de …

ChatGPT permet aux script kiddies d'écrire des logiciels malveillants fonctionnels
arstechnica.com · 2023
Traduit par IA

Depuis son lancement bêta en novembre, le chatbot IA [ChatGPT](https://arstechnica.com/information-technology/2022/12/openai-invites-everyone-to-test-new-ai-powered-chatbot-with-amusing -results/) a été utilisé pour un large éventail de tâc…

Armés de ChatGPT, les cybercriminels créent des logiciels malveillants et complotent de faux robots féminins
forbes.com · 2023
Traduit par IA

Les pirates testent la capacité de ChatGPT à créer des chatbots féminins dans le cadre de leurs efforts pour arnaquer les hommes attirés par la personnalité numérique.

Les cybercriminels ont commencé à utiliser le chatbot artificiellement i…

Les cybercriminels demandent à ChatGPT de créer un code malveillant
theregister.com · 2023
Traduit par IA

Les cybercriminels commencent à utiliser la très populaire technologie ChatGPT d'OpenAI pour développer rapidement et facilement du code à des fins malveillantes.

Une rotation autour de sites de piratage souterrains a révélé des exemples in…

OPWNAI : les cybercriminels commencent à utiliser ChatGPT
research.checkpoint.com · 2023
Traduit par IA

Introduction

Fin novembre 2022, OpenAI a publié ChatGPT, la nouvelle interface de son Large Language Model (LLM), qui a instantanément suscité un regain d'intérêt pour l'IA et ses utilisations possibles. Cependant, ChatGPT a également ajout…

ChatGPT aide les pirates à écrire des codes malveillants
thehindu.com · 2023
Traduit par IA

ChatGPT, la nouvelle sensation de l'IA, aide même les acteurs les moins qualifiés en matière de cybermenaces à écrire des codes et à lancer des cyberattaques sans effort, ont déclaré vendredi des chercheurs de la société de sécurité Check P…

Des pirates informatiques exploitent ChatGPT d'OpenAI pour déployer des logiciels malveillants
hackread.com · 2023
Traduit par IA

Dans un cas, un pirate a partagé un code malveillant Android écrit par ChatGPT, qui pourrait voler les fichiers souhaités, les compresser et les divulguer en ligne.

Les cybercriminels ont un nouveau tour dans leur manche impliquant l'abus d…

Les cybercriminels utilisent ChatGPT pour créer des outils de piratage et écrire du code
pcmag.com · 2023
Traduit par IA

Des cybercriminels experts et novices ont déjà commencé à utiliser le chatbot ChatGPT d'OpenAI dans le but de créer des outils de piratage, ont déclaré des analystes de la sécurité.

Dans un exemple documenté, la société de sécurité israélie…

Comment ChatGPT peut être utilisé par les cybercriminels pour le piratage, la « fraude et plus »
timesofindia.indiatimes.com · 2023
Traduit par IA

Au cours du dernier mois environ, l'outil d'IA ChatGPT est devenu tout à fait le sujet de conversation de la ville technologique. ChatGPT peut être utilisé pour répondre à des questions, rédiger des rapports et même des codes logiciels. Et …

Les gens essaient déjà de faire en sorte que ChatGPT écrive des logiciels malveillants
zdnet.com · 2023
Traduit par IA

Le chatbot ChatGPT AI a créé beaucoup d'enthousiasme dans le court laps de temps où il a été disponible et il semble maintenant qu'il a été enrôlé par certains dans des tentatives pour aider à générer du code malveillant.

ChatGPT est un out…

ChatGPT utilisé pour écrire des logiciels malveillants, des rançongiciels : rapports
foxbusiness.com · 2023
Traduit par IA

Un nouveau IA chatbot destiné à aider à la rédaction d'e-mails, d'essais et de codage, est utilisé par certains pour des activités criminelles telles que l'espionnage, les rançongiciels et les logiciels malveillants. spam, entre autres.

Dep…

Le côté obscur de ChatGPT : générer des logiciels malveillants fonctionnels
muycomputerpro.com · 2023
Traduit par IA

L'IA ouverte fait face à un nouveau défi difficile à arrêter ; l'utilisation malveillante de ChatGPT. Une étude développée par la société de sécurité Check Point Research révèle que la version bêta de ce chatbot IA a commencé à être utilisé…

Logiciels malveillants avec IA : code en ligne généré avec ChatGPT
punto-informatico.it · 2023
Traduit par IA

Les experts de Check Point Software ont testé les capacités de ChatGPT en écrivant malware. Quelques semaines plus tard, les premiers exemples pratiques ont déjà été publiés sur un forum de hacking bien connu, notamment par des cybercrimine…

ChatGPT est utilisé pour écrire des logiciels malveillants
zdnet.de · 2023
Traduit par IA

** L'analyse des chats sur les forums du dark web montre que des efforts sont déjà en cours pour utiliser le chatbot d'OpenAI pour écrire des logiciels malveillants. **

Le chatbot IA ChatGPT suscite beaucoup d'enthousiasme. Il semble mainte…

Les gens essaient déjà de faire en sorte que ChatGPT écrive des logiciels malveillants
zdnet.com · 2023
Traduit par IA

Le chatbot ChatGPT AI a créé beaucoup d'enthousiasme dans le court laps de temps où il a été disponible et il semble maintenant qu'il a été enrôlé par certains dans des tentatives pour aider à générer du code malveillant.

ChatGPT est un out…

Oui, ChatGPT peut écrire du code malveillant - mais pas bien
washingtonpost.com · 2023
Traduit par IA

Bienvenue dans The Cybersecurity 202 ! J'ai accidentellement déclenché des débats sur la fausse viande avec le bavardage d'hier. Pour mémoire, Beyond Burger is  bon, mais je préfère Impossible Burger. De plus, je creuse encore parfois de la…

Explorer le côté obscur de ChatGPT
augustman.com · 2023
Traduit par IA

Depuis sa sortie le 30 novembre 2022, ChatGPT a été salué comme l'un des plus grands développements de l'intelligence artificielle (IA). Le «GPT» dans le nom signifie Generative Pre-trained Transformer (GPT), un modèle d'apprentissage de ré…

ChatGPT permet aux escrocs de créer des e-mails si convaincants qu'ils peuvent obtenir de l'argent des victimes sans même s'appuyer sur des logiciels malveillants
fortune.com · 2023
Traduit par IA

L'avènement de ChatGPT a effrayé les experts en cybersécurité. Certains craignent que le puissant chatbot ne facilite la création pour les non-codeurs des logiciels malveillants et devenir des cybercriminels. Mais jusqu'à présent, selon une…

C'est effrayant d'utiliser ChatGPT pour écrire des e-mails de phishing
cnet.com · 2023
Traduit par IA

Pour mémoire, ChatGPT ne m'a pas écrit d'e-mail de phishing lorsque je l'ai demandé. En fait, cela m'a donné une conférence très sévère sur les raisons pour lesquelles le phishing est mauvais.

Il a qualifié l'hameçonnage d'"activité malveil…

GPT-4 ne peut pas arrêter d'aider les pirates à créer des outils cybercriminels
forbes.com · 2023
Traduit par IA

OpenAI a publié la dernière version de son logiciel d'apprentissage automatique, GPT-4, en grande pompe cette semaine. L'une des caractéristiques que la société a soulignées à propos de la nouvelle version était qu'elle était censée avoir d…

Les logiciels malveillants créés par l'IA envoient des ondes de choc dans le monde de la cybersécurité
foxnews.com · 2023
Traduit par IA

ChatGPT a causé beaucoup de buzz dans le monde de la technologie ces derniers mois, et tout le buzz n'a pas été formidable. Maintenant, quelqu'un a prétendu avoir créé un puissant logiciel malveillant d'exploration de données en utilisant d…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 rapports
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 rapports
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 rapports
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 rapports
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df