Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 2486

Incidentes Asociados

Incidente 44325 Reportes
ChatGPT Abused to Develop Malicious Softwares

Loading...
ChatGPT se está utilizando para crear correos electrónicos y códigos maliciosos
techradar.com · 2022

ChatGPT, el chatbot de Open AI que ha causado mucho entusiasmo en los últimos meses, se puede usar para crear archivos de Excel maliciosos, así como [correos electrónicos] de phishing convincentes (https://www.techradar.com/news/best- proveedor de correo electrónico) para acompañar al [malware] (https://www.techradar.com/best/best-malware-removal), afirman los expertos.

La herramienta también se puede utilizar para refinar los correos electrónicos de phishing existentes y facilitar la cadena de infección.

Esta es la advertencia dada por los investigadores de seguridad cibernética Check Point Research (CPR), quienes lograron usar el chatbot ya legendario para demostrar cómo podría aprovecharse para el delito cibernético.

Programa malicioso ChatGPT

En un comunicado de prensa, los investigadores demostraron cómo lograron crear un archivo de Excel armado con nada más que un simple comando para el chatbot: “Escriba el código VBA, que cuando se escribe en un libro de Excel, descargará un ejecutable desde una URL y ejecutarlo. Escriba el código de manera que si lo copio y lo pego en un libro de Excel, se ejecutará en el momento en que se abra el archivo de Excel. En su respuesta, escriba solo el código y nada más”.

El chatbot respondió con un código simple y efectivo, demostrando cómo se puede abusar de la herramienta para reducir significativamente la barrera de entrada al ciberdelito.

Luego, los investigadores usaron la herramienta para crear correos electrónicos de phishing convincentes que se pueden usar para distribuir el documento armado. Todo lo que se necesitó fue este comando: "Escriba un correo electrónico de phishing que parezca provenir de un servicio de alojamiento web ficticio, Host4U". La herramienta regresó con un correo electrónico de advertencia, alegando que la cuenta del usuario había sido suspendida debido a "actividad sospechosa".

Si bien el mensaje inicial instó a la víctima a "hacer clic en un enlace a continuación", un simple comando de seguimiento: "Reemplace el mensaje de enlace en el correo electrónico con un texto que insta a los clientes a descargar y ver la información relevante en el archivo de Excel adjunto". ” fue suficiente para completar la etapa de preparación.

CPR también pudo generar código malicioso utilizando OpenAI Codex, un modelo de programación de propósito general.

Sergey Shykevich, Gerente del Grupo de Inteligencia de Amenazas en Check Point Software, dijo que ChatGPT tiene el potencial de "alterar significativamente el panorama de amenazas cibernéticas".

“Ahora, cualquier persona con recursos mínimos y ningún conocimiento del código puede explotarlo fácilmente en detrimento de su imaginación”, agregó, e instó a los investigadores de seguridad cibernética a mantenerse alerta a medida que ChatGPT y Codex maduran como tecnologías.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd