Problème 4103

Le nouvel outil de Figma, Make Designs, permet aux utilisateurs de créer rapidement des maquettes d’applications à l’aide de l’IA générative. Il a été retiré après que l’outil ait élaboré des modèles qui ressemblaient de manière frappante à l’application météo iOS d’Apple. Le PDG de Figma, Dylan Field, a publié un fil de discussion sur X tôt mardi matin détaillant la suppression, se rejetant la responsabilité d’avoir poussé l’équipe à respecter un délai et défendant l’approche de l’entreprise en matière de développement de ses outils d’IA.

Dans des articles sur X, Andy Allen, PDG de Not Boring Software, a montré à quel point l’outil Make Designs de Figma a créé des répliques quasi exactes de l’application météo d’Apple. « Je tiens à avertir tous les concepteurs qui utilisent la nouvelle fonctionnalité Make Designs qu’ils devraient peut-être vérifier minutieusement les applications existantes ou modifier considérablement les résultats afin de ne pas se retrouver sans le savoir dans des problèmes juridiques », a écrit Allen.

Dans une interview mardi avec le directeur technique de Figma, Kris Rasmussen, je lui ai demandé à brûle-pourpoint si Make Designs avait été formé sur les conceptions d’applications d’Apple. Sa réponse ? Il n’a pas pu le dire avec certitude. Figma n’était pas du tout responsable de la formation des modèles d’IA qu’elle utilisait.

« Nous n’avons effectué aucune formation dans le cadre des fonctionnalités d’IA génératives », a déclaré Rasmussen. Les fonctionnalités sont « alimentées par des modèles prêts à l’emploi et un système de conception sur mesure que nous avons commandé, ce qui semble être le problème sous-jacent ».

Cela correspond généralement à ce qu’il a dit lundi sur X en réponse à un utilisateur qui a suggéré que Make Designs était formé sur des applications existantes. « Comme nous l’avons indiqué lors du lancement de Figma AI la semaine dernière, il n’y a eu aucune formation dans le cadre de cette fonctionnalité ou de l’une de nos fonctionnalités génératives », a-t-il écrit. « Nous examinons dans quelle mesure les similitudes sont une fonction des modèles tiers que nous utilisons par rapport aux systèmes de conception que nous avons commandés pour être utilisés par les modèles et nous y remédierons si nécessaire. »

Field, dans son propre fil de discussion, a déclaré que la fonctionnalité Make Designs « n’est pas entraînée sur le contenu de Figma, les fichiers communautaires ou les conceptions d’applications » et a noté que « les accusations autour de l’entraînement des données dans ce tweet sont fausses ». Il a déclaré qu’un problème avec l’approche de l’entreprise est que « la variabilité est trop faible ».

Les principaux modèles d’IA qui alimentent Make Designs sont GPT-4o d’OpenAI et Titan Image Generator G1 d’Amazon, selon Rasmussen. S’il est vrai que Figma n’a pas entraîné ses outils d’IA mais qu’ils produisent quand même des applications Apple similaires, cela pourrait suggérer que les modèles d’OpenAI ou d’Amazon ont été entraînés sur les conceptions d’Apple. OpenAI et Amazon n’ont pas immédiatement répondu à une demande de commentaire.

Rasmussen a fait valoir que Figma ne souhaitait pas proposer de formation pour améliorer ses fonctionnalités avant d’avoir ouvert ses politiques de formation à l’IA avec ses utilisateurs, qu’elle a également introduites la semaine dernière. Dans le cadre de ces politiques, les utilisateurs ont jusqu’au 15 août pour décider s’ils souhaitent autoriser ou non l’utilisation de leur contenu pour la formation de Figma. (Les plans Starter et Professional sont activés par défaut, tandis que les plans Organization et Enterprise sont désactivés par défaut.)

J’ai demandé si Figma prévoyait de former ses propres modèles – ce qui, compte tenu des nouvelles politiques de formation à l’IA de l’entreprise, semble être quelque chose qui va se produire. « Nous voyons clairement des opportunités de vraiment perfectionner vos flux de travail de conception en enseignant à ces modèles comment concevoir dans le contexte de Figma », a déclaré Rasmussen. Cependant, « nous allons prendre des mesures pour garantir que nos propres modèles ou tout réglage fin que nous effectuons avec des modèles open source n’apprennent que des modèles de conception généraux et des concepts de conception Figma spécifiques afin qu’ils puissent être de meilleurs outils pour les concepteurs professionnels. »

J’ai également demandé à Rasmussen comment Figma prévoit de corriger ses processus pour détecter d’éventuels problèmes à l’avenir. « Nous effectuons un passage sur le système de conception sur mesure pour nous assurer qu’il présente suffisamment de variations et qu’il répond à nos normes de qualité », a-t-il déclaré. « C’est la cause fondamentale du problème. Mais nous allons prendre des précautions supplémentaires avant de réactiver [Make Designs] pour nous assurer que l’ensemble de la fonctionnalité répond à nos normes de qualité et est cohérent avec nos valeurs. »

Rasmussen a également souligné le fait que Make Designs est en version bêta. « Les versions bêta, par définition, ne sont pas parfaites. Mais on peut dire sans se tromper, comme Dylan l’a partagé dans son tweet, que nous n’avons tout simplement pas détecté ce problème particulier. Et nous aurions dû le faire. »

Rasmussen a déclaré que Figma prévoit de réactiver Make Designs « bientôt ». D’autres fonctionnalités de Figma AI continueront d’être disponibles en version bêta. (Pour accéder à l’une des fonctionnalités d’IA de Figma, vous devez vous inscrire sur une liste d’attente.)

Figma est la dernière entreprise à être scrutée pour son approche visant à intégrer l’IA dans ses outils de création. Adobe a dû préciser qu’elle n’utiliserait pas votre travail pour former son IA après une réaction négative aux changements de conditions de service. Et Meta a dû changer ses étiquettes d'IA après que des photographes se soient plaints du fait que son ancienne étiquette était appliquée de manière incorrecte à de vraies photos.