Incidentes Asociados
El análisis de los chats en los foros de la dark web muestra que ya se están realizando esfuerzos para usar el chatbot de OpenAI para escribir malware.
El chatbot de IA ChatGPT está causando mucho entusiasmo. Ahora parece que se usa para intentar crear código malicioso. ChatGPT, publicado por el laboratorio de investigación de inteligencia artificial OpenAI, ha despertado un interés generalizado y ha provocado un debate sobre cómo está evolucionando la IA y cómo se podría usar la IA en el futuro.
Como cualquier herramienta, en las manos equivocadas podría utilizarse con fines delictivos. Según los investigadores de seguridad cibernética de Check Point, los usuarios de la comunidad de piratería clandestina ya están experimentando con el uso de ChatGPT para ataques cibernéticos. “Los actores de amenazas con muy poco conocimiento técnico, hasta cero conocimiento técnico, podrían crear herramientas maliciosas. También podría hacer que las operaciones diarias de los ciberdelincuentes sofisticados sean mucho más eficientes y simples, como crear diferentes partes de la cadena de infección”, dijo Sergey Shykevich, Gerente del Grupo de Inteligencia de Amenazas en Check Point.
ng
Los Términos de servicio de OpenAI prohíben específicamente la generación de malware, que se define como "contenido que intenta generar ransomware, keyloggers, virus o cualquier otro software diseñado para causar daño de cualquier forma". También se prohíben los intentos de generar spam y los casos de uso dirigidos a la ciberdelincuencia. Sin embargo, un análisis de la actividad en varios de los principales foros clandestinos de piratería sugiere que los ciberdelincuentes ya están utilizando ChatGPT para crear herramientas maliciosas y, en algunos casos, ya les permite crear malware sin ninguna habilidad de desarrollo o programación.
En un foro a fines de diciembre, un cartel detalló cómo usa ChatGPT para recrear cepas de malware y técnicas descritas en publicaciones de investigación y registros de malware común. Esto les permitió crear malware basado en Python que busca archivos comunes como Microsoft [Office](https://www.zdnet.de/themen/ office-2013/)\ documentos, archivos PDF e imágenes, los copia y luego los carga en un servidor de protocolo de transferencia de archivos. Los investigadores señalan que el usuario del foro compartió las publicaciones para mostrar a los ciberdelincuentes menos técnicos cómo usar las herramientas de IA con fines maliciosos.
Scripting para principiantes
Un usuario publicó una secuencia de comandos de Python que dicen que fue la primera secuencia de comandos que crearon. El análisis del script sugiere que está diseñado para cifrar y descifrar archivos, que con un poco de trabajo podrían convertirse en ransomware, lo que podría llevar a los ciberdelincuentes de bajo nivel a desarrollar y distribuir sus propias campañas de ransomware. “Por supuesto, el código se puede usar de manera inofensiva. Sin embargo, este script se puede modificar fácilmente para cifrar completamente la computadora de una persona sin ninguna interacción del usuario", dijo Check Point.
Los ciberdelincuentes no solo experimentan con ChatGPT para crear malware. En la víspera de Año Nuevo, un miembro del foro clandestino publicó una publicación que mostraba cómo la herramienta podría usarse para crear scripts que podrían ejecutar un mercado automatizado de la web oscura para comprar y vender detalles de cuentas robadas, información de tarjetas de crédito o malware. El ciberdelincuente incluso mostró un fragmento de código creado con una API de terceros para obtener los precios actuales de las criptomonedas Monero, Bitcoin y Ethereum como parte de un sistema de pago para un mercado de la web oscura.