Incidentes Asociados
Una foto generada por IA de una explosión cerca del Pentágono en Washington, D.C., provocó la caída del mercado stock de Estados Unidos. La imagen fue compartida por una cuenta verificada en Twitter llamada Bloomberg Feed, acompañada de una leyenda engañosa que decía: “Gran explosión Cerca del Complejo del Pentágono en Washington, DC – Informe inicial”.
El principal ejemplo de los peligros en el sistema de pago para verificar: esta cuenta, que tuiteó una foto (muy probablemente generada por IA) de una historia (falsa) sobre una explosión en el Pentágono, a primera vista parece un Bloomberg legítimo. noticias. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) 22 de mayo de 2023
Aunque la verificación de Twitter no tiene sentido ya que cualquiera puede pagar por la marca de verificación azul, la imagen del Pentágono generada por IA tuvo consecuencias en el mundo real. Según The Byte, la "noticia" se volvió viral después de que un usuario con más de 650 000 seguidores compartiera la foto a las 10:06 am. Cuatro minutos después, la Bolsa cayó un 0,26%.
El Departamento de Policía de Arlington actuó rápidamente para sofocar el pánico al afirmar que la imagen del Pentágono de AI era de hecho falsa. “NO se está produciendo ninguna explosión o incidente en la reserva del Pentágono o cerca de ella, y no hay peligro inmediato para el público”, dijo el departamento en las redes sociales.
@PFPAOfficial y la ACFD están al tanto de un informe en las redes sociales que circula en línea sobre una explosión cerca del Pentágono. NO se está produciendo ninguna explosión o incidente en o cerca de la reserva del Pentágono, y no hay peligro o peligros inmediatos para el público. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) 22 de mayo de 2023
Si bien las fuerzas del orden no han confirmado si la imagen se creó con herramientas de inteligencia artificial, presenta algunas de las características de las imágenes generadas por IA. Las columnas del edificio en la foto engañosa varían en tamaño y la valla se funde con la acera en algunos lugares. La publicación, que también fue compartida por una cuenta de Twitter de un medio estatal ruso con más de 3 millones de seguidores, ha sido eliminada desde entonces.
Afortunadamente, los mercados se recuperaron rápidamente una vez que se reveló que la foto del Pentágono AI era un engaño. De manera similar, la destacada criptomoneda Bitcoin se enfrentó a una breve caída cuando circularon las noticias falsas, lo que provocó que cayera a $ 26,500. La moneda digital se estabilizó poco después y actualmente se cotiza a $ 26,882.
Esta forma de engaño en línea ha generado preocupaciones significativas entre los críticos del avance de la IA no regulada. Los expertos en el campo han expresado previamente su temor sobre el posible uso indebido de los sistemas avanzados de inteligencia artificial por parte de personas malintencionadas, lo que permite la difusión de información errónea y desencadena el caos dentro de las comunidades en línea.
La imagen del Pentágono generada por IA no es la primera instancia de engaño. Otras imágenes virales falsas que engañaron al público incluyeron fotos falsas del Papa Francisco con una chaqueta de Balenciaga, una foto del ex presidente [Donald Trump] (https://www.giantfreakinrobot.com/cltr/donald-trump-facebook-instagram.html ) siendo arrestado y videos falsos profundos con celebridades como Elon Musk que respaldan las estafas de criptomonedas. Imágenes de video falsas clasificadas X de la estrella de Harry Potter Emma Watson también aparecieron en línea.
Como resultado, cientos de expertos en tecnología han pedido una pausa de seis meses en el desarrollo de IA avanzada hasta que se establezcan las pautas de seguridad adecuadas. El Dr. Geoffrey Hinton, conocido como el padrino de la IA, dejó voluntariamente su cargo en Google para mostrar sus preocupaciones sobre los riesgos potenciales sin dañar la reputación de su antiguo empleador.
Los casos de desinformación, como la imagen del Pentágono AI, agregan combustible al discurso en curso sobre el establecimiento de un marco ético y regulatorio integral para la inteligencia artificial. A medida que esta tecnología se convierte en una herramienta cada vez más importante en manos de los agentes de desinformación, las consecuencias pueden ser más caóticas que una caída temporal del mercado de valores.
La falta de transparencia, rendición de cuentas y consideraciones éticas podría amplificar estos riesgos. Pero hasta que se implemente algún tipo de regulación en todo el mundo, es probable que aumenten los casos de noticias falsas y otras tendencias peligrosas.