Incidentes Asociados
El mundo es un lugar extraordinariamente complejo. Siento que recién nos hemos acostumbrado al concepto de que las imágenes sean retocadas con Photoshop, y ahora las voces y los videos falsificados por IA hacen que sea difícil confiar en algo. Es importante escuchar esa voz dentro de tu cabeza como lo hizo un ejecutivo de Ferrari, ya que la compañía probablemente evitó un error costoso y vergonzoso al burlar a los delincuentes de una manera deliciosamente irónica.
Akio Toyoda no puede culpar a la IA por la pérdida de confianza en su compañía. No, amigos, este es un caso clásico de una compañía que hace demasiado y demasiado rápido. Las compañías automotrices japonesas como grupo están, en general, en una situación extraña, por lo que se rumorea que Mitsubishi se unirá a la alianza de software Honda/Nissan.
Y, finalmente, terminemos este episodio de The Morning Dump con un poco de noticias sobre el próximo Cadillac Celestiq.
Cómo un libro venció a una falsificación de inteligencia artificial
La escena pintada por este artículo de Bloomberg es bastante preocupante. Un ejecutivo anónimo de Ferrari recibe un montón de mensajes de WhatsApp del director ejecutivo Benedetto Vigna diciendo que se avecina un gran acuerdo y que se requiere el máximo secreto.
Es un poco arriesgado, implica mucho dinero y debe mantenerse en secreto por el momento, según el informe. Vigna está usando un número diferente porque no quiere que nadie lo sepa. El ejecutivo debe esperar un acuerdo de confidencialidad para firmar lo antes posible.
Obviamente, nadie querría que un ejecutivo enviara un montón de dinero por un correo electrónico y un mensaje de WhatsApp en el año de nuestro Logano 2024, pero luego siguió una llamada telefónica de Vigna:
La voz que imitaba a Vigna era convincente --- una imitación perfecta del acento del sur de Italia.
El deepfaker de Vigna comenzó a explicar que estaba llamando desde un número de teléfono móvil diferente porque necesitaba discutir algo confidencial --- un acuerdo que podría enfrentar algunos inconvenientes relacionados con China y requería que se llevara a cabo una transacción de cobertura de divisas no especificada.
El ejecutivo se sorprendió y comenzó a tener sospechas, según las personas. Comenzó a captar la más mínima entonación mecánica que solo profundizó sus sospechas.
"Lo siento, Benedetto, pero necesito identificarte", dijo el ejecutivo. Me planteó una pregunta: ¿Cuál era el título del libro que Vigna le había recomendado unos días antes?
Debo decir que este simple artículo ha provocado un torbellino de pensamientos en mi cerebro.
En primer lugar, un excelente reportaje de Bloomberg. En segundo lugar, existen muchas aplicaciones que permiten crear un bot de IA de voz en aproximadamente 11 minutos, y hay mucho audio público de un CEO para que esto funcione.
En tercer lugar, el mundo es un lugar extremadamente complejo lleno de malos actores digitales. En las últimas semanas, hemos visto a CDK Global entregar potencialmente cientos de millones de dólares a los piratas informáticos. ¡Diablos, incluso postularse para un trabajo en una tienda de repuestos hace cinco años es arriesgado!
En cuarto lugar, gran trabajo por parte del ejecutivo aquí para tener la presencia de ánimo para combatir todo esto.
En quinto y último lugar, la ironía de cómo se resolvió todo esto es casi demasiado perfecta. No solo un libro repelió un ataque de ingeniería social/deepfake con IA, sino que el libro en sí es tan directo que uno pensaría que lo están inventando: Decálogo de la complejidad: actuar, aprender y adaptarse en el devenir incesante del mundo
A continuación, se muestra la descripción (traducida):
¿Por qué la complejidad siempre aumenta? ¿Cuál es el dilema de la complejidad? ¿Qué significa bailar con sistemas complejos? ¿Cuáles son las implicaciones de la ley de la variedad necesaria? ¿Cuál es la conexión entre la paradoja y la metamorfosis? Éstas son algunas de las preguntas que este Decálogo busca responder. En el mar de magnum de la literatura existente sobre la complejidad, diez temas tratados de manera sintética pueden representar para el lector novato una oportunidad de descubrir un tema fascinante y para el lector experto una oportunidad de releer, con un hilo conductor diferente, temas clave de la materia.
El libro parece tratar específicamente de la complejidad de los sistemas en relación con los negocios y, aquí, vemos un ejemplo de cómo la complejidad (en términos de comunicaciones y estructura empresarial) casi contribuyó a una pérdida grave de capital. Algo salvaje.