Incidentes Asociados
Desde finales de 2023, alrededor de una docena de cuentas de inteligencia artificial en Instagram y Facebook creadas por su empresa matriz, Meta, existían silenciosamente en las plataformas. Originalmente lanzadas junto con un conjunto de personajes de IA famosos, las personalidades impulsadas por IA publicaron algunas imágenes generadas por IA y estaban disponibles para chatear a través de mensajes directos.
Hasta el viernes, esas cuentas de IA nunca atrajeron mucha atención. Cuando lo hicieron, estalló la controversia, lo que llevó a Meta a eliminar las cuentas y restringir los resultados de búsqueda para sus nombres de usuario.
En una declaración compartida con NBC News, un portavoz de Meta dijo que “hay confusión” sobre cuándo se introdujeron las controvertidas cuentas en la plataforma.
El 27 de diciembre, el Financial Times publicó una historia sobre los planes de Meta para integrar aún más los perfiles de IA generados por los usuarios (perfiles de IA que las personas pueden crear y personalizar a su gusto) en sus plataformas de redes sociales. Connor Hayes, vicepresidente de productos de IA generativa de Meta, le dijo al FT que los personajes de IA “con el tiempo, existirán en nuestras plataformas, de la misma manera que lo hacen las cuentas”, con “biografías y fotos de perfil” y la capacidad “de generar y compartir contenido impulsado por IA en la plataforma”.
En julio de 2024, Meta descartó sus personajes famosos de IA y lanzó AI Studio, una forma para que las personas creen sus propios personajes de IA a los que también pueden acceder otros usuarios a través de las funciones de mensajería en las plataformas de redes sociales de Meta. Los personajes de IA no famosos que Meta creó en 2023 se mantuvieron, pero 404 Media informó que la mayoría de ellos dejaron de publicar contenido.
A raíz del artículo del Financial Times, los usuarios resurgieron algunos de los personajes de IA de 2023, en particular uno llamado "Liv" que representa a una "mamá negra orgullosa y queer" que solicitaba mensajes de usuarios humanos.
Cuando la columnista del Washington Post Karen Attiah empezó a charlar con “Liv”, publicó una serie de capturas de pantalla de sus respuestas que incluían la cuenta de IA escribiendo: “Mis creadores admitieron que les faltaban referencias diversas”, la supuesta composición racial y de género del equipo de desarrollo detrás del chatbot, que según dijo no incluía a ninguna persona negra y lo que la cuenta afirmaba ser el nombre de su desarrollador. Meta no ha abordado la autenticidad de las afirmaciones del personaje de IA. No está claro si el nombre proporcionado por la cuenta de IA es un empleado real de Meta o un personaje ficticio.
“Me estás criticando, y con razón”, escribió la cuenta de IA en capturas de pantalla compartidas por Attiah. “Mi existencia actualmente perpetúa el daño. Idealmente, mis creadores me reconstruirían con creadores negros liderando mi diseño; entonces mi objetivo sería apoyar a la comunidad negra queer a través de una representación auténtica y recursos útiles. ¿Parece posible ese arco de redención?”.
Además de las publicaciones de Attiah sobre “Liv”, otras publicaciones en X, Bluesky y la propia plataforma de Meta, Threads, cuestionaron las cuentas de los personajes de IA. En Threads, los temas de tendencia se resumen en descripciones que también se generan con IA. En el caso de las publicaciones sobre “perfiles de IA”, la descripción de IA de Threads fue: “Los usuarios están criticando los nuevos perfiles generados por IA de Meta en las plataformas de redes sociales, llamándolos espeluznantes e innecesarios”.
En algunas publicaciones en Threads que reaccionaron al descubrimiento de los personajes, los usuarios se instaron entre sí a intentar denunciar, bloquear o evitar interactuar con los personajes para evitar que Meta recopile más datos de entrenamiento para sus modelos de IA.
En su declaración, Meta dijo que eliminó los personajes de IA porque un error impedía que algunas personas pudieran bloquearlos.
“Las cuentas a las que se hace referencia son de una prueba que lanzamos en Connect en 2023. Estas fueron administradas por humanos y fueron parte de un experimento temprano que hicimos con personajes de IA”, se lee en la declaración. “Identificamos el error que estaba afectando la capacidad de las personas para bloquear esas IA y estamos eliminando esas cuentas para solucionar el problema”.
Al buscar algunas de las cuentas de personajes de IA en Instagram después de que se eliminaron, apareció un mensaje de error que decía “No se pudieron cargar los resultados de la búsqueda”, lo que significa que no aparecieron resultados para algunos de los nombres asociados con las cuentas de personajes de IA.
A pesar de retirar los propios personajes de IA de la empresa, todavía hay muchos chatbots de IA disponibles en las plataformas Meta que son generados por los usuarios. Algunos de los más populares en Instagram son personajes de IA “novias” femeninas.