Problema 4103

La nueva herramienta de Figma, Make Designs, permite a los usuarios crear rápidamente maquetas de aplicaciones mediante IA generativa. Ahora, la han retirado después de que la herramienta creara diseños que se parecían sorprendentemente a la aplicación del tiempo de iOS de Apple. El director ejecutivo de Figma, Dylan Field, publicó un hilo en X la madrugada del martes en el que detallaba la eliminación, se culpaba a sí mismo por presionar al equipo para que cumpliera con una fecha límite y defendía el enfoque de la empresa para desarrollar sus herramientas de IA.

En publicaciones en X, Andy Allen, director ejecutivo de Not Boring Software, mostró cuán fielmente la herramienta Make Designs de Figma creaba réplicas casi exactas de la aplicación meteorológica de Apple. “Solo un aviso para los diseñadores que usan la nueva función Make Designs: es posible que deseen verificar minuciosamente las aplicaciones existentes o modificar los resultados en gran medida para no meterse en problemas legales sin saberlo”, escribió Allen.

En una entrevista del martes con el director de tecnología de Figma, Kris Rasmussen, le pregunté directamente si Make Designs estaba entrenado en los diseños de aplicaciones de Apple. ¿Su respuesta? No pudo decirlo con certeza. Figma no fue responsable de entrenar los modelos de IA que utilizó en absoluto.

“No hicimos ningún entrenamiento como parte de las funciones de IA generativa”, dijo Rasmussen. Las funciones están “impulsadas por modelos listos para usar y un sistema de diseño a medida que encargamos, que parece ser el problema subyacente”.

Eso en general coincide con lo que dijo el lunes en X en respuesta a un usuario que sugirió que Make Designs se entrenó en aplicaciones existentes. “Como compartimos cuando lanzamos Figma AI la semana pasada, no hubo entrenamiento como parte de esta función ni de ninguna de nuestras funciones generativas”, escribió. “Estamos investigando en qué medida las similitudes son una función de los modelos de terceros que estamos usando en comparación con los sistemas de diseño que encargamos para que los modelos los usen y lo abordaremos según sea necesario”.

Field, en su propio hilo, dijo que la función Make Designs “no está entrenada con contenido de Figma, archivos de la comunidad o diseños de aplicaciones” y señaló que “las acusaciones sobre el entrenamiento de datos en este tuit son falsas”. Dijo que un problema con el enfoque de la empresa es que “la variabilidad es demasiado baja”.

Los modelos de IA clave que impulsan Make Designs son GPT-4o de OpenAI y Titan Image Generator G1 de Amazon, según Rasmussen. Si es cierto que Figma no entrenó sus herramientas de IA pero de todos modos están generando imitaciones de aplicaciones de Apple, eso podría sugerir que los modelos de OpenAI o Amazon fueron entrenados con los diseños de Apple. OpenAI y Amazon no respondieron de inmediato a una solicitud de comentarios.

Rasmussen argumentó que Figma no quería realizar ningún entrenamiento para mejorar sus funciones hasta que fuera abierta con sus usuarios sobre sus políticas de entrenamiento de IA, que también presentó la semana pasada. Como parte de esas políticas, los usuarios tienen hasta el 15 de agosto para decidir si quieren aceptar o rechazar que su contenido se use para el entrenamiento de Figma. (Los planes Starter y Professional están habilitados de forma predeterminada, mientras que los planes Organization y Enterprise están deshabilitados de forma predeterminada).

Pregunté si Figma está planeando entrenar a sus propios modelos, lo cual, dadas las [nuevas políticas de entrenamiento de IA](https://www.figma.com/ai/our-approach/ de la empresa), parece algo que va a suceder. "Definitivamente vemos oportunidades para perfeccionar realmente sus flujos de trabajo de diseño al enseñarles a estos modelos cómo diseñar en el contexto de Figma", dijo Rasmussen. Sin embargo, “vamos a tomar medidas para asegurarnos de que nuestros propios modelos o cualquier ajuste que hagamos con modelos de código abierto solo aprendan patrones de diseño generales y conceptos de diseño específicos de Figma para que puedan ser mejores herramientas para los diseñadores profesionales”.

También le pregunté a Rasmussen cómo planea Figma arreglar sus procesos para detectar posibles problemas en el futuro. “Estamos haciendo una revisión del sistema de diseño a medida para asegurarnos de que tenga suficiente variación y cumpla con nuestros estándares de calidad”, dijo. “Esa es la causa principal del problema. Pero vamos a tomar precauciones adicionales antes de volver a habilitar [Make Designs] para asegurarnos de que toda la función cumpla con nuestros estándares de calidad y sea coherente con nuestros valores”.

Rasmussen también señaló el hecho de que Make Designs está en versión beta. “Las versiones beta, por definición, no son perfectas. Pero es seguro decir, como compartió Dylan en su tweet, que simplemente no detectamos este problema en particular. Y deberíamos haberlo hecho”.

Rasmussen dijo que Figma espera volver a habilitar Make Designs “pronto”. Otras funciones de Figma AI seguirán estando disponibles en versión beta. (Para acceder a cualquiera de las funciones de Figma AI, debes registrarte en una lista de espera).

Figma es la última empresa que ha sido objeto de escrutinio por su enfoque para incorporar IA a sus herramientas creativas. Adobe tuvo que dejar en claro que no usaría tu trabajo para entrenar a su IA después de la reacción negativa a los cambios en los términos del servicio. Y Meta tuvo que cambiar sus etiquetas de IA después de que los fotógrafos se quejaran de que su antigua etiqueta se aplicaba incorrectamente a las fotos reales.