Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 443: ChatGPT Abused to Develop Malicious Softwares

Descripción: OpenAI's ChatGPT was reportedly abused by cyber criminals including ones with no or low levels of coding or development skills to develop malware, ransomware, and other malicious softwares.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por OpenAI, perjudicó a internet users.

Estadísticas de incidentes

ID
443
Cantidad de informes
25
Fecha del Incidente
2022-12-21
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

ChatGPT promete usar IA para escribir malwareCómo ChatGPT puede convertir a cualquiera en un actor de amenazas de ransomware y malware+2
Punto de control: ChatGPT puede redactar correos electrónicos maliciosos, código
Incident Occurrence+3
ChatGPT permite a los script kiddies escribir malware funcional
+9
ChatGPT está ayudando a los piratas informáticos a escribir códigos de malware
Sí, ChatGPT puede escribir código malicioso, pero no bien+1
Explorando el lado oscuro de ChatGPT
Es aterrador Fácil de usar ChatGPT para escribir correos electrónicos de phishingGPT-4 no puede dejar de ayudar a los piratas informáticos a crear herramientas cibercriminalesEl malware creado por IA envía ondas de choque a través del mundo de la ciberseguridad
ChatGPT promete usar IA para escribir malware

ChatGPT promete usar IA para escribir malware

cyberscoop.com

Cómo ChatGPT puede convertir a cualquiera en un actor de amenazas de ransomware y malware

Cómo ChatGPT puede convertir a cualquiera en un actor de amenazas de ransomware y malware

venturebeat.com

Punto de control: ChatGPT puede redactar correos electrónicos maliciosos, código

Punto de control: ChatGPT puede redactar correos electrónicos maliciosos, código

sdxcentral.com

ChatGPT se está utilizando para crear correos electrónicos y códigos maliciosos

ChatGPT se está utilizando para crear correos electrónicos y códigos maliciosos

techradar.com

ChatGPT se puede usar para generar código malicioso, encuentra investigación

ChatGPT se puede usar para generar código malicioso, encuentra investigación

livemint.com

ChatGPT permite a los script kiddies escribir malware funcional

ChatGPT permite a los script kiddies escribir malware funcional

arstechnica.com

Armados con ChatGPT, los ciberdelincuentes construyen malware y trazan bots femeninos falsos

Armados con ChatGPT, los ciberdelincuentes construyen malware y trazan bots femeninos falsos

forbes.com

Los ciberdelincuentes le dicen a ChatGPT que cree código malicioso

Los ciberdelincuentes le dicen a ChatGPT que cree código malicioso

theregister.com

OPWNAI: los ciberdelincuentes comienzan a usar ChatGPT

OPWNAI: los ciberdelincuentes comienzan a usar ChatGPT

research.checkpoint.com

ChatGPT está ayudando a los piratas informáticos a escribir códigos de malware

ChatGPT está ayudando a los piratas informáticos a escribir códigos de malware

thehindu.com

Los piratas informáticos explotan ChatGPT de OpenAI para implementar malware

Los piratas informáticos explotan ChatGPT de OpenAI para implementar malware

hackread.com

Ciberdelincuentes que utilizan ChatGPT para crear herramientas de piratería y escribir código

Ciberdelincuentes que utilizan ChatGPT para crear herramientas de piratería y escribir código

pcmag.com

Cómo los ciberdelincuentes pueden usar ChatGPT para piratear, 'fraude y más'

Cómo los ciberdelincuentes pueden usar ChatGPT para piratear, 'fraude y más'

timesofindia.indiatimes.com

La gente ya está intentando que ChatGPT escriba malware

La gente ya está intentando que ChatGPT escriba malware

zdnet.com

ChatGPT se usa para escribir malware, ransomware: informes

ChatGPT se usa para escribir malware, ransomware: informes

foxbusiness.com

El lado oscuro de ChatGPT: generar malware funcional

El lado oscuro de ChatGPT: generar malware funcional

muycomputerpro.com

Malware con IA: código en línea generado con ChatGPT

Malware con IA: código en línea generado con ChatGPT

punto-informatico.it

ChatGPT se usa para escribir malware

ChatGPT se usa para escribir malware

zdnet.de

La gente ya está intentando que ChatGPT escriba malware

La gente ya está intentando que ChatGPT escriba malware

zdnet.com

Sí, ChatGPT puede escribir código malicioso, pero no bien

Sí, ChatGPT puede escribir código malicioso, pero no bien

washingtonpost.com

Explorando el lado oscuro de ChatGPT

Explorando el lado oscuro de ChatGPT

augustman.com

ChatGPT permite a los estafadores crear correos electrónicos tan convincentes que pueden obtener dinero en efectivo de las víctimas sin siquiera depender del malware

ChatGPT permite a los estafadores crear correos electrónicos tan convincentes que pueden obtener dinero en efectivo de las víctimas sin siquiera depender del malware

fortune.com

Es aterrador Fácil de usar ChatGPT para escribir correos electrónicos de phishing

Es aterrador Fácil de usar ChatGPT para escribir correos electrónicos de phishing

cnet.com

GPT-4 no puede dejar de ayudar a los piratas informáticos a crear herramientas cibercriminales

GPT-4 no puede dejar de ayudar a los piratas informáticos a crear herramientas cibercriminales

forbes.com

El malware creado por IA envía ondas de choque a través del mundo de la ciberseguridad

El malware creado por IA envía ondas de choque a través del mundo de la ciberseguridad

foxnews.com

ChatGPT promete usar IA para escribir malware
cyberscoop.com · 2022
Traducido por IA

Incluso para los piratas informáticos más hábiles, puede tomar al menos una hora escribir un script para explotar una vulnerabilidad de software e infiltrarse en su objetivo. Pronto, una máquina podrá hacerlo en cuestión de segundos.

Cuando…

Cómo ChatGPT puede convertir a cualquiera en un actor de amenazas de ransomware y malware
venturebeat.com · 2022
Traducido por IA

Desde que OpenAI lanzó ChatGPT a fines de noviembre, los comentaristas de todos los lados se han preocupado por el impacto que tendrá la creación de contenido impulsada por IA, particularmente en el ámbito de la ciberseguridad. De hecho, a …

Punto de control: ChatGPT puede redactar correos electrónicos maliciosos, código
sdxcentral.com · 2022
Traducido por IA

Check Point Research today [publicado](https://research.checkpoint.com/2022/opwnai-ai- that-can-save-the-day-or-hack-it-away/) un estudio sobre ChatGPT y [Codex](https://openai. com/blog/openai-codex/), destacando cómo los actores de amenaz…

ChatGPT se está utilizando para crear correos electrónicos y códigos maliciosos
techradar.com · 2022
Traducido por IA

ChatGPT, el chatbot de Open AI que ha causado mucho entusiasmo en los últimos meses, se puede usar para crear archivos de Excel maliciosos, así como [correos electrónicos] de phishing convincentes (https://www.techradar.com/news/best- prove…

ChatGPT se puede usar para generar código malicioso, encuentra investigación
livemint.com · 2022
Traducido por IA

ChatGPT de OpenAI, el generador de texto de inteligencia artificial (IA) basado en el modelo de lenguaje grande (LLM), aparentemente puede usarse para generar código para tareas maliciosas, según observó una nota de investigación de la firm…

ChatGPT permite a los script kiddies escribir malware funcional
arstechnica.com · 2023
Traducido por IA

Desde su lanzamiento beta en noviembre, AI chatbot [ChatGPT](https://arstechnica.com/information-technology/2022/12/openai-invites-everyone-to-test-new-ai-powered-chatbot-with-amusing -resultados/) se ha utilizado para una amplia gama de ta…

Armados con ChatGPT, los ciberdelincuentes construyen malware y trazan bots femeninos falsos
forbes.com · 2023
Traducido por IA

Los piratas informáticos están probando la capacidad de ChatGPT para crear chatbots femeninos como parte de sus esfuerzos para estafar a los hombres atraídos por la personalidad digital.

Los ciberdelincuentes han comenzado a utilizar ChatGP…

Los ciberdelincuentes le dicen a ChatGPT que cree código malicioso
theregister.com · 2023
Traducido por IA

Los ciberdelincuentes están comenzando a utilizar la popular tecnología ChatGPT de OpenAI para desarrollar rápida y fácilmente código con fines maliciosos.

Un giro alrededor de los sitios de piratería clandestinos descubrió instancias inici…

OPWNAI: los ciberdelincuentes comienzan a usar ChatGPT
research.checkpoint.com · 2023
Traducido por IA

Introducción

A fines de noviembre de 2022, OpenAI lanzó ChatGPT, la nueva interfaz para su modelo de lenguaje grande (LLM), que instantáneamente generó un gran interés en la IA y sus posibles usos. Sin embargo, ChatGPT también ha agregado a…

ChatGPT está ayudando a los piratas informáticos a escribir códigos de malware
thehindu.com · 2023
Traducido por IA

ChatGPT, la nueva sensación de IA, está ayudando incluso a los actores de amenazas cibernéticas menos hábiles a escribir códigos y lanzar ataques cibernéticos sin esfuerzo, dijeron investigadores de la firma de seguridad Check Point Researc…

Los piratas informáticos explotan ChatGPT de OpenAI para implementar malware
hackread.com · 2023
Traducido por IA

En un caso, un pirata informático compartió un código de malware de Android escrito por ChatGPT, que podría robar los archivos deseados, comprimirlos y filtrarlos en línea.

Los ciberdelincuentes tienen un nuevo truco bajo la manga que invol…

Ciberdelincuentes que utilizan ChatGPT para crear herramientas de piratería y escribir código
pcmag.com · 2023
Traducido por IA

Los ciberdelincuentes expertos y novatos ya han comenzado a usar el chatbot ChatGPT de OpenAI en un intento por crear herramientas de piratería, dijeron analistas de seguridad.

En un ejemplo documentado, la empresa de seguridad israelí Chec…

Cómo los ciberdelincuentes pueden usar ChatGPT para piratear, 'fraude y más'
timesofindia.indiatimes.com · 2023
Traducido por IA

En el último mes más o menos, la herramienta de inteligencia artificial ChatGPT se ha convertido en el tema de conversación de la ciudad tecnológica. ChatGPT se puede usar para responder preguntas, escribir informes e incluso códigos de sof…

La gente ya está intentando que ChatGPT escriba malware
zdnet.com · 2023
Traducido por IA

El chatbot ChatGPT AI ha creado mucha emoción en el poco tiempo que ha estado disponible y ahora parece que algunos lo han reclutado para intentar ayudar a generar código malicioso.

ChatGPT es un herramienta de procesamiento de lenguaje nat…

ChatGPT se usa para escribir malware, ransomware: informes
foxbusiness.com · 2023
Traducido por IA

Algunos utilizan un nuevo [bot conversacional de IA] (https://www.foxbusiness.com/category/artificial-intelligence) destinado a ayudar a escribir correos electrónicos, ensayos y codificar para actividades delictivas como espionaje, ransomwa…

El lado oscuro de ChatGPT: generar malware funcional
muycomputerpro.com · 2023

Open AI se enfrenta a un nuevo desafío difícil de frenar; el uso malicioso de ChatGPT. Un estudio desarrollado por la empresa de seguridad Check Point Research revela que la versión beta de este chatbot con IA se empezó a utilizar en fotos …

Malware con IA: código en línea generado con ChatGPT
punto-informatico.it · 2023
Traducido por IA

Los expertos de Check Point Software habían probado las capacidades de ChatGPT para escribir malware. Unas semanas después, ya se han publicado los primeros ejemplos prácticos en un conocido foro de hacking, especialmente por parte de (aspi…

ChatGPT se usa para escribir malware
zdnet.de · 2023
Traducido por IA

El análisis de los chats en los foros de la dark web muestra que ya se están realizando esfuerzos para usar el chatbot de OpenAI para escribir malware.

El chatbot de IA ChatGPT está causando mucho entusiasmo. Ahora parece que se usa para in…

La gente ya está intentando que ChatGPT escriba malware
zdnet.com · 2023
Traducido por IA

El chatbot ChatGPT AI ha creado mucha emoción en el poco tiempo que ha estado disponible y ahora parece que algunos lo han reclutado para intentar ayudar a generar código malicioso.

ChatGPT es un herramienta de procesamiento de lenguaje nat…

Sí, ChatGPT puede escribir código malicioso, pero no bien
washingtonpost.com · 2023
Traducido por IA

¡Bienvenido a The Cybersecurity 202! Accidentalmente provoqué algunos debates falsos con la charla de ayer. Para que conste, Beyond Burger is bueno, pero prefiero Impossible Burger. Además, a veces todavía me gusta la "carne falsa" que ni s…

Explorando el lado oscuro de ChatGPT
augustman.com · 2023
Traducido por IA

Desde su lanzamiento el 30 de noviembre de 2022, ChatGPT ha sido aclamado como uno de los mayores avances en inteligencia artificial (IA). El 'GPT' en el nombre significa Transformador preentrenado generativo (GPT), un modelo de aprendizaje…

ChatGPT permite a los estafadores crear correos electrónicos tan convincentes que pueden obtener dinero en efectivo de las víctimas sin siquiera depender del malware
fortune.com · 2023
Traducido por IA

La llegada de ChatGPT ha asustado a los expertos en ciberseguridad. Algunos temen que el poderoso chatbot hará que sea mucho más fácil para los no programadores crear malware y [convertirse en ciberdelincuentes] (https://fortune.com/2023/01…

Es aterrador Fácil de usar ChatGPT para escribir correos electrónicos de phishing
cnet.com · 2023
Traducido por IA

Para que conste, ChatGPT no me escribió un correo electrónico de phishing cuando se lo pedí. De hecho, me dio un sermón muy severo sobre por qué el phishing es malo.

Llamó al phishing una "actividad maliciosa e ilegal que tiene como objetiv…

GPT-4 no puede dejar de ayudar a los piratas informáticos a crear herramientas cibercriminales
forbes.com · 2023
Traducido por IA

OpenAI lanzó la última versión de su software de aprendizaje automático, GPT-4, con gran fanfarria esta semana. Una de las características que la compañía destacó sobre la nueva versión fue que se suponía que tenía reglas que la protegían d…

El malware creado por IA envía ondas de choque a través del mundo de la ciberseguridad
foxnews.com · 2023
Traducido por IA

ChatGPT ha causado mucho revuelo en el mundo de la tecnología estos últimos meses, y no todo el revuelo ha sido bueno. Ahora, alguien ha afirmado haber creado un poderoso malware de extracción de datos mediante el uso de indicaciones basada…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 informes
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

Feb 2017 · 9 informes
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df