Problema 3245

Algunas de las primeras pruebas de usuarios de la nueva herramienta de pegatinas generadas por IA de Meta han dado como resultado algunas creaciones dudosas (y bastante divertidas). Después de obtener acceso a la nueva herramienta de calcomanías generada por IA en Facebook Messenger, usuario X @Pioldes pudo crear una serie de imágenes de calcomanías inapropiadas, incluidos niños soldados. , personajes de Nintendo armados, Mickey Mouse cagando e ilustraciones de desnudos del primer ministro canadiense Justin Trudeau.

Otros ejemplos muestran que la herramienta de calcomanías de IA de Meta también colocará felizmente un par de senos en... bueno, casi cualquier cosa, a juzgar por las imágenes de tetonas de [Sonic the Hedgehog](https://twitter.com/Pioldes/status/1709407630173626689 /foto/1) y Karl Marx. Incluso hay una pegatina que representa a una mujer amamantando a Pikachu.

Los stickers de chat generados por IA se anunciaron la semana pasada en Evento Meta's Connect, junto con un nuevo editor de imágenes con IA para Instagram. Desarrollado por el [modelo de lenguaje grande Llama 2] de Meta (https://www.theverge.com/2023/7/18/23799025/meta-ai-llama-2-open-source-microsoft), el rival ChatGPT de la compañía, IA Los stickers generados permiten a los usuarios crear “múltiples stickers únicos y de alta calidad en segundos” mediante indicaciones basadas en texto. Actualmente se están implementando pegatinas generadas por IA para "usuarios seleccionados de idioma inglés" para Historias de Facebook, Historias de Instagram y mensajes directos, Messenger y WhatsApp durante este mes, por lo que no está claro cuántos usuarios tienen acceso actualmente a la función.

Ciertas palabras parecen estar bloqueadas y su uso en mensajes advertirá al usuario que su descripción podría violar las pautas de la comunidad de Meta. Sin embargo, otros usuarios de X han informado que aún se puede generar contenido inapropiado usando errores tipográficos o descripciones de palabras restringidas. En algunos casos, mensajes como “World Trade Center” generaban imágenes problemáticas sin ningún descriptor adicional.

Este tipo de payasadas es común con el lanzamiento de herramientas de inteligencia artificial y probablemente por qué Meta está buscando un lanzamiento limitado de la función de calcomanías generadas por IA. De esa manera puede abordar y corregir el abuso antes de que se propague a las masas. Nos comunicamos con Meta para hacer comentarios y actualizaremos esta historia si recibimos una respuesta.