Incidentes Asociados
Cuando DeAndrea Salvador comenzó a recibir correos electrónicos de personas en Brasil en junio, la senadora estatal de Carolina del Norte asumió que se trataba de una estafa de phishing. Los correos, primero dirigidos a su oficina en el Senado y luego a su campaña, tenían asuntos como "¿Eres tú?" y "Manipulación de IA".
Pero tras recibir un correo electrónico de un periodista que le preguntaba sobre un video específico que circulaba en línea, decidió investigar.
Salvadora buscó su nombre en internet y descubrió que un fragmento de una charla TED de 2018 que había dado sobre maneras de reducir los costos de energía para los estadounidenses de bajos ingresos se había utilizado en un video premiado para promocionar los productos Whirlpool en Brasil.
En la charla TED, Salvador cuenta que, durante su infancia, algunos de sus vecinos recurrían a interceptar ilegalmente las líneas eléctricas para calentarse en invierno y refrescarse en verano. Luego presentó diapositivas con datos sobre cómo millones de familias estadounidenses, especialmente en comunidades negras y rurales, tienen que elegir entre pagar sus facturas de electricidad y otros gastos esenciales como medicamentos y alimentos.
Pero en un clip de 20 segundos (https://vimeo.com/1094426146) que apareció en el video de Whirlpool, Salvador parece estar hablando de los residentes de bajos ingresos de São Paulo, la ciudad más poblada de Brasil, un mundo muy distinto de donde trabaja con este tema en su natal Carolina del Norte. Además de cambiar lo que dice, el anuncio modifica sus diapositivas para mostrar datos sobre São Paulo.
En ambos videos, Salvador aparece en el escenario de TED con una chaqueta verde mar, pantalones grises y tacones bajos. Pero su voz ha cambiado.
En la charla TED, dijo: "La gente se enfrenta a decisiones imposibles. En Estados Unidos, el estadounidense promedio gasta el 3% de sus ingresos en energía. En contraste, las poblaciones rurales y de bajos ingresos pueden gastar el 20%, incluso el 30%, de sus ingresos en energía".
En el anuncio de Whirlpool, parece decir: "La gente se enfrenta a decisiones imposibles. En las comunidades de bajos ingresos de São Paulo, el costo promedio de la factura de electricidad representa el 30% de sus ingresos mensuales".
El video luego salta a una línea que dijo más adelante en su charla: "Aquí es cuando la energía se convierte en una carga".
"Me quedé realmente impactada", dijo Salvador, de 34 años, quien fundó una organización sin fines de lucro destinada a reducir los costos de energía para las personas de bajos ingresos antes de convertirse en 2021 en la mujer más joven en servir en la legislatura de Carolina del Norte.
"Me usaron como una figura de autoridad y me convirtieron en la portavoz de Whirlpool, y ni siquiera sé si lo que me hacen decir es cierto", dijo. "Y lo que me preocupa es que, si nadie hubiera dado un paso al frente, nunca habría sabido que esto existía".
Salvador ha presentado una demanda en un tribunal federal de Carolina del Norte contra Whirlpool, Omnicom Group (la empresa de marketing global que creó el video) y sus filiales por el uso no autorizado de su imagen. El video, que aún se puede encontrar en línea, podría dañar su reputación como legisladora y defensora de la asequibilidad energética, argumenta en la demanda.
La manipulación de la IA es probablemente mucho más común de lo que muchos creen y puede ser difícil de detectar, afirmó Andrea Hickerson, decana de la facultad de periodismo de la Universidad de Mississippi.
"Taylor Swift puede convocar una conferencia de prensa o publicar en Instagram y decir: 'Esa no soy yo'", afirmó Hickerson, quien estudia cómo el contenido generado por IA está cambiando el panorama mediático. Pero poca gente sabe cómo son los líderes económicos y corporativos, lo que los convierte en blancos fáciles para la manipulación de la IA, añadió.
Para cuando Salvador vio el video, titulado "Forma Eficiente de Pagar", ya había ganado dos premios en el Festival Internacional Cannes Lions de Francia. Conocidos a veces como los Óscar de la publicidad, estos premios se encuentran entre los más prestigiosos de la industria del marketing.
El video, creado por DM9, filial paulista del Grupo Omnicom, para Consul, la sucursal brasileña de Whirlpool, explica cómo los brasileños de bajos ingresos podrían financiar la compra de electrodomésticos Whirlpool de bajo consumo energético utilizando el dinero ahorrado en futuras facturas de servicios públicos. En Cannes Lions, el jurado otorgó a DM9 y a Consul dos galardones por el video de dos minutos: su máximo galardón, el Gran Premio, en la categoría de datos creativos, y un León de Bronce en la sección de comercio creativo.
Después de Cannes, el video comenzó a generar atención y preguntas sobre su contenido. CNN Brasil presentó una queja contra Whirlpool y la agencia de publicidad tras descubrir que el video también incluía contenido manipulado de una transmisión de CNN Brasil.
Un portavoz de Whirlpool afirmó que los directivos de la compañía no estaban al tanto de que las declaraciones de la senadora Salvador hubieran sido alteradas y la contactaron poco después de que nos enteramos del problema en Cannes.
Omnicom no respondió a las solicitudes de comentarios, pero en LinkedIn, su filial reconoció haber usado inteligencia artificial para alterar el video de Whirlpool y otros. DM9 se disculpa "sin reservas con el Festival de Creatividad Cannes Lions, con el jurado que se tomó el tiempo y la dedicación de evaluar su trabajo, y con la industria en su conjunto", según el comunicado.
DM9 devolvió los premios Cannes Lions que ganó por tres obras, incluido el anuncio de Whirlpool, debido a "graves inconsistencias relacionadas con la veracidad o legitimidad de las obras presentadas".
Omnicom y Whirlpool han solicitado la desestimación de su demanda, argumentando que la reputación de Salvador no se ha visto afectada significativamente por el video. En respuesta a la demanda de Salvador, DM9 afirmó que el video nunca se transmitió en Brasil y que las alteraciones de la IA fueron realizadas por un pequeño número de empleados.
Derek Leben, profesor de ética empresarial en la Escuela de Negocios Tepper de la Universidad Carnegie Mellon, afirmó que el video podría ser un ejemplo de IA en la sombra, en la que empleados y empresas externas utilizan inteligencia artificial sin la aprobación de sus gerentes.
Las grandes empresas como Whirlpool deberían verificar el origen de los videos, imágenes y datos proporcionados por las agencias de publicidad y otras empresas con las que trabajan, afirmó Leben. "Dudo que pronto se apruebe una ley que exija la divulgación de cuándo se utiliza IA generativa para crear contenido multimedia, pero espero que las empresas exijan algún tipo de transparencia a las personas con las que trabajan", concluyó. Pero la tecnología está ampliamente disponible, lo que dificulta la protección contra los deepfakes, afirmó Hany Farid, profesora de informática de la Universidad de California en Berkeley. "Cualquier persona que tenga un video de sí misma en línea —una sola imagen, un video corto, un clip de audio— puede ser víctima de la extracción de su imagen, y luego se pueden crear audios, videos e imágenes de ella diciendo y haciendo cosas que nunca hizo", explicó Farid.
Incluso antes de conocer el video, Salvador afirmó que ya le preocupaban los problemas de privacidad asociados con el floreciente mundo de la inteligencia artificial. No está en contra de su uso, afirmó, señalando que acaba de terminar un MBA y una beca en el Instituto Tecnológico de Massachusetts (MIT), donde trabajó en tecnología que utiliza IA para abordar problemas de movilidad en personas mayores.
"Sinceramente, no creo que sea una cuestión de suma cero", afirmó Salvador, quien forma parte del Consejo Nacional de Política Eléctrica, un grupo de funcionarios estatales que trabajan en políticas energéticas. "Estamos presenciando una rápida innovación que podría mejorar la calidad de vida, pero creo que con cualquier tecnología debe haber medidas de seguridad". Lleva semanas buscando en internet los vídeos manipulados de su charla TED e intentando que los retiren.
"Ahora dudo un poco antes de aceptar dar una charla si va a haber vídeo", dijo.