Problème 3245

Certains premiers tests utilisateur du nouvel outil d’autocollants générés par l’IA de Meta ont abouti à des créations douteuses (et plutôt hilarantes). Après avoir eu accès au nouvel outil d'autocollants généré par l'IA sur Facebook Messenger, utilisateur X @Pioldes a pu créer une multitude d'images d'autocollants inappropriées, y compris des enfants soldats. , des personnages Nintendo brandissant des armes à feu, Mickey Mouse en train de chier et des illustrations nues du premier ministre canadien Justin Trudeau.

D'autres exemples montrent que l'outil d'autocollants IA de Meta se fera également un plaisir d'appliquer une paire de seins sur… enfin, à peu près n'importe quoi, à en juger par les images aux gros seins de [Sonic the Hedgehog](https://twitter.com/Pioldes/status/1709407630173626689 /photo/1) et Karl Marx. Il y a même un autocollant représentant une femme allaitant Pikachu.

Les autocollants de chat générés par l'IA ont été annoncés la semaine dernière sur L'événement Meta's Connect, aux côtés d'un nouvel éditeur d'images IA pour Instagram. Propulsé par le [grand modèle de langage Llama 2] de Meta (https://www.theverge.com/2023/7/18/23799025/meta-ai-llama-2-open-source-microsoft) — le rival ChatGPT de l'entreprise — IA Les autocollants générés permettent aux utilisateurs de créer « plusieurs autocollants uniques et de haute qualité en quelques secondes » à l'aide d'invites textuelles. Des autocollants générés par l’IA sont actuellement déployés pour « certains utilisateurs de langue anglaise » pour les histoires Facebook, les histoires et DM Instagram, Messenger et WhatsApp ce mois-ci, on ne sait donc pas combien d’utilisateurs ont actuellement accès à cette fonctionnalité.

Certains mots semblent être bloqués et leur utilisation dans les invites avertiront l'utilisateur que leur description pourrait enfreindre les directives de la communauté Meta. Cependant, d'autres utilisateurs de X ont signalé que vous pouvez toujours générer du contenu inapproprié en utilisant des fautes de frappe ou des descriptions de mots restreints. Dans certains cas, des invites telles que « World Trade Center » généraient des images problématiques sans aucun descripteur supplémentaire.

Ce genre de folie est courant avec le lancement d'outils d'IA et probablement pourquoi Meta poursuit un déploiement limité de la fonctionnalité d'autocollant généré par l'IA. De cette façon, il peut traiter et corriger les abus avant qu’ils ne se propagent aux masses. Nous avons contacté Meta pour commentaires et mettrons à jour cette histoire si nous recevons une réponse.