Incident 745: Figma désactive sa fonctionnalité d'IA après avoir été accusé de copier l'application météo d'Apple
Description: Figma a temporairement désactivé sa fonctionnalité de conception d'IA, « Make Design », suite à des accusations de copie de l'application Météo d'Apple. Andy Allen de NotBoring Software a mis en lumière le problème, ce qui a incité Dylan Field, PDG de Figma, à démentir les allégations d'entraînement de l'IA sur des conceptions d'applications spécifiques. Cependant, Field a reconnu des failles dans le processus d'assurance qualité et a promis de suspendre la fonctionnalité jusqu'à ce qu'elle réponde aux normes de qualité. Cet incident a des conséquences pour les concepteurs.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Figma, a endommagé Apple , Designers and developers using Figma’s AI tool et Figma users.
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Rapports d'incidents
Chronologie du rapport
/cdn.vox-cdn.com/uploads/chorus_asset/file/25515615/STK273_FIGMA.jpg)
Figma CEO Dylan Field says the company will temporarily disable its "Make Design" AI feature that was said to be ripping off the designs of Apple's own Weather app. The problem was first spotted by Andy Allen, the founder of NotBoring Softw…
/cdn.vox-cdn.com/uploads/chorus_asset/file/25515615/STK273_FIGMA.jpg)
Le nouvel outil de Figma, Make Designs, permet aux utilisateurs de créer rapidement des maquettes d’applications à l’aide de l’IA générative. Il a été retiré après que l’outil ait élaboré des modèles qui ressemblaient de manière frappante à…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?