Incidentes Asociados
Cuando informas sobre los desarrollos vertiginosos, los tratos de mucho dinero, la exageración alucinante y los egos multimillonarios en el mundo de la tecnología, puede ser fácil quedar atrapado en el juego e ignorar el hecho de que los ganadores son no siempre los buenos.
Elige entre películas divertidas y centradas en los niños. The Mitchells vs. the Machines, Ron's Gone Wrong, Big Hero 6, incluso WALL-E de Pixar hace 15 años, y es un tema común. Los grandes tecnológicos inventan desarrollos geniales basados en IA que vuelven loca a la humanidad, antes de descubrir que las cosas iban mucho mejor sin ellos, y un héroe inesperado salva el día con hazañas.
Una imagen falsa de una explosión, supuestamente en el Pentágono, parece haber demostrado la capacidad de las aplicaciones de IA baratas para mover los mercados financieros globales.
Pero los padres saben que no existe el milagro del acto final en el mundo no animado. Y los inversores se enteraron de los peligros de la IA esta semana después de que los mercados financieros se tambalearon brevemente por lo que pensaron que era [una explosión en el Pentágono en los EE. UU.] (https://www.afr.com/technology/this-tweet-of- una-explosión-del-pentágono-era-falsa-todavía-hit-stocks-20230523-p5dah5).
Una cuenta de Twitter verificada (gracias, Elon) que pretendía estar relacionada con el respetado imperio de noticias Bloomberg, compartió una foto de columnas de humo que se elevaban sobre un gran edificio blanco con las palabras: * "Gran explosión cerca del Complejo del Pentágono en Washington D.C. - Reporte inicial".*
La imagen y la cuenta de Twitter eran falsas. La imagen probablemente fue generada por una aplicación de inteligencia artificial, pero no fue desacreditada hasta que el índice industrial Dow Jones cayó 85 puntos (0,3 por ciento) en cuatro minutos.
Es discutible que las imágenes no hayan tenido impacto en eso, por supuesto, pero eso parecería una ignorancia temeraria dado que el tuit falso de Bloomberg había sido circulado por cuentas con muchos seguidores, como Russia Today, la emisora nacional del país.
Realidad falsificada
La falsificación inteligente es un problema pendiente que ha perturbado las mentes de académicos y tecnólogos durante años, pero se está convirtiendo rápidamente en un dilema del mundo real en la era de la IA generativa.
Ha llegado la posibilidad de que se manipulen los mercados, se fomente el descontento social y las personas sean blanco de todo tipo de horribles engaños en línea, y no estamos ni cerca de estar preparados para enfrentarlo.
En 2004 (sí, era un niño prodigio, sinceramente), entrevisté a un experto de la firma de investigación estadounidense Gartner llamado Daryl Plummer sobre un concepto del que ya estaba advirtiendo llamado "realidad falsificada", mediante el cual la tecnología que entonces se usaba para crear convincentes mundos virtuales en las películas, se utilizarían para causar estragos en el mundo real.
En su momento ya había ejemplos que se habían producido. El año anterior, Piers Morgan se vio obligado a dimitir como editor de The Daily Mirror después de publicar fotografías falsas de soldados británicos torturando a un prisionero iraquí en su portada.
Mientras tanto, fotografías del candidato presidencial demócrata John Kerry hablando junto a Jane Fonda en un mitin anti-Vietnam en 1970 aparecieron en el período previo a su inclinación por las elecciones presidenciales de Estados Unidos.
Los veteranos llamaron a la imagen una "bofetada" y, a pesar de que se demostró que era falsa, logró retratar a Kerry como un candidato al servicio antimilitarista, antes de su muy estrecha derrota ante George W. Bush.
"La realidad falsa a la venta será la norma en la próxima década y su crecimiento no se deberá a la tecnología, sino a la propensión de la sociedad a permitir que lo desviado se convierta en la norma", me dijo Plummer en 2004.
"A medida que la gente espere el uso de tecnología virtual en lugar de la interacción humana en tiempo real, la indignación psicológica esperada con la realidad falsificada disminuirá... Sospecho que habrá algunas situaciones muy notables en las que seremos engañados y mucho ruido. sucederá. Los ejemplos existentes son solo la punta del iceberg".
Si bien se equivocó en los tiempos, ahora estamos en la era de la realidad falsificada, lo creamos o no.
La tecnología de clonación de voz es lo suficientemente avanzada como para generar un discurso único que suena como la persona prevista, a partir de solo unas pocas muestras breves de su audio genuino, y la capacidad de alinear esto con un video falso lo convertirá en un arma.
En la sala de redacción de un periódico financiero, tendremos que ser más diligentes que nunca en la investigación de las pistas anónimas que llegan. El audio filtrado de los directores ejecutivos de Qantas y Virgin discutiendo una fusión puede sonar como una gran primicia, pero ¿y si es solo una accionista con una aplicación de IA tratando de aumentar las acciones?
Limitaciones actuales
Los enigmas de otras industrias también serán obvios para las personas que trabajan en ellas.
La clonación de voz actualmente tiene limitaciones en el sentido de que funciona de manera mucho más efectiva en una breve ráfaga de audio y no llega a ser convincente en un escenario en vivo donde un humano puede tratar de interrogarlo, pero eso sigue siendo un alcance bastante grande para el engaño.
A principios de este año, la empresa de servicios de voz de inteligencia artificial ElevenLabs tuvo que emitir nuevos términos y condiciones después de que surgiera "un número cada vez mayor de casos de uso indebido" cuando abrió el acceso a su plataforma de clonación de voz.
Los falsos discursos del presidente de los EE. UU., Joe Biden, se propagan como la pólvora, y todo es gracioso y muy divertido... hasta que deja de serlo, por supuesto. (Advertencia de mal lenguaje para el final del video en este tweet).
La suplantación de identidad ejecutiva es algo que las empresas de seguridad cibernética ya están tratando de vender servicios relacionados para mitigar a las empresas, pero existe un problema existencial que se avecina en los mercados financieros y en la sociedad en general.
¿Es responsabilidad de los operadores del mercado detener las acciones porque un tuit se está volviendo viral? ¿Qué hace Commonwealth Bank cuando un video del discurso de renuncia de Matt Comyn aparece en línea, cuando en realidad está de vacaciones en Byron Bay?
Ciertamente no tengo idea, pero lo preocupante es que sospecho que ellos tampoco.