Incidentes Asociados
Algunos utilizan un nuevo [bot conversacional de IA] (https://www.foxbusiness.com/category/artificial-intelligence) destinado a ayudar a escribir correos electrónicos, ensayos y codificar para actividades delictivas como espionaje, ransomware y ataques maliciosos. spam, entre otras cosas.
Desde su lanzamiento en noviembre por parte del [laboratorio de investigación] artificial con sede en San Francisco (https://www.foxbusiness.com/technology) OpenAI, ChatGPT ha generado un interés generalizado sobre cómo se puede usar la herramienta de chatbot para el futuro.
Pero a las pocas semanas de la puesta en marcha de ChatGPT, un análisis de los foros clandestinos de hacking mostró que los participantes, muchos con poca o ninguna experiencia en codificación, estaban usando la herramienta para crear malware y participar en otras actividades nefastas.
"Todavía es demasiado pronto para decidir si las capacidades de ChatGPT se convertirán o no en la nueva herramienta favorita para los participantes en la Dark Web", escribieron el viernes investigadores de la empresa de seguridad Check Point Research. "Sin embargo, la comunidad ciberdelincuente ya ha mostrado un gran interés y se está sumando a esta última tendencia para generar código malicioso".
Los investigadores notaron que el código se puede usar de manera "benigna". Pero los malos actores pueden modificar fácilmente el script "para encriptar la máquina de alguien por completo sin ninguna interacción del usuario", dijo la firma.
FOX Business se ha comunicado con OpenAI para hacer comentarios.
La herramienta de chat ya ha generado cierta controversia en las escuelas por su capacidad para producir un ensayo final persuasivo en cuestión de segundos. La semana pasada, los funcionarios escolares de la ciudad de Nueva York comenzaron a bloquear la herramienta de escritura para los estudiantes.
La decisión de la mayor EE.UU. distrito escolar para restringir el sitio web de ChatGPT en dispositivos y redes escolares podría tener un efecto dominó en otras escuelas y maestros que se esfuerzan por descubrir cómo evitar las trampas. Los creadores de ChatGPT dicen que también están buscando formas de detectar el uso indebido.
ChatGPT es parte de una nueva generación de sistemas de IA que pueden conversar, generar texto legible bajo demanda e incluso producir imágenes y videos novedosos basados en lo que han aprendido de una amplia base de datos de libros digitales, escritos en línea y otros medios.
Pero a diferencia de las iteraciones anteriores de los llamados "modelos de lenguaje grande", como GPT-3 de OpenAI, lanzado en 2020, la herramienta ChatGPT está disponible de forma gratuita para cualquier persona con conexión a Internet y está diseñada para ser más fácil de usar. Funciona como un diálogo escrito entre el sistema de IA y la persona que le hace las preguntas.