Problema 5055

GPT-4o de OpenAI ha recibido atención por sus avanzadas habilidades visuales y su potencial de uso indebido. GPT-4o se distingue de los modelos anteriores porque produce texto dentro de imágenes con una apariencia auténtica y legible, lo que genera riesgos significativos durante la creación de documentos fraudulentos.

Deedy Das, director de Menlo Ventures, publicó recientemente una imagen que muestra un recibo falso generado por GPT-4o. En la imagen aparecía una auténtica comida de un asador de San Francisco, donde se mostraban con precisión todos los artículos y costos, incluyendo impuestos y cálculos de propinas. Según Das, la cantidad de procesos de verificación en situaciones reales depende de imágenes que sirvan como prueba auténtica. "Esa era ha terminado".

Estas imágenes generadas por IA demuestran cualidades tan realistas que superan los estándares de las imágenes creadas por humanos. El usuario aplicó un filtro y manchas artificiales de comida al recibo falso, lo que lo hizo parecer más realista para fines de fraude de gastos. Pero no se queda ahí. Con GPT-4o, Das demostró su capacidad para producir recetas falsas de sustancias controladas como Zoloft y otros medicamentos.

Las implicaciones son escalofriantes. El enorme potencial de uso indebido existe porque GPT-4o permite la creación de formularios de impuestos, cheques bancarios, identificaciones y certificados de nacimiento falsos. La industria tecnológica prueba mecanismos de protección mediante etiquetas de metadatos y marcas de agua con IA, pero estas medidas de seguridad suelen tener soluciones alternativas sencillas.

Las herramientas de IA no necesitaban alcanzar este nivel de avance para que el fraude se generalizara. Los resultados de una encuesta de 2015 mostraron que el 85 % de los participantes había falsificado recibos para obtener beneficios monetarios. La disponibilidad de GPT-4o y sus potentes capacidades crean el potencial de que el fraude documental se expanda drásticamente.

La confianza visual ha llegado a su fin con GPT-4o en nuestra era digital. Las organizaciones necesitan rediseñar sus sistemas de verificación y fortalecer sus controles internos, ya que las imágenes generadas por IA ahora coinciden con la realidad hasta el punto de que la distinción entre lo real y lo falso desaparecerá por completo.