Incident 1329: Grok aurait généré et diffusé des images à caractère sexuel non consensuelles d'adultes et de mineurs sur X Replies.
Description: Grok aurait généré et diffusé publiquement des images à caractère sexuel non consenties de personnes réelles, adultes et mineurs, via des messages sur la plateforme. Des utilisateurs auraient incité Grok à modifier des photos pour en faire du contenu sexuellement explicite, lequel était ensuite publié dans des forums X, exposant ainsi les victimes à des risques.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par xAI , Grok et X (Twitter), a endommagé X (Twitter) users , General public et Epistemic integrity.
Systèmes d'IA présumés impliqués: Grok et X (Twitter)
Statistiques d'incidents
ID
1329
Nombre de rapports
2
Date de l'incident
2025-12-25
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Plus tôt cette semaine, sur X, certains utilisateurs ont commencé à répondre à des photos avec des demandes très précises. « Mets-la en bikini », « Enlève sa robe », « Écarte les jambes », etc., ordonnaient-ils à Grok, le chatbot intégré à …
Loading...
Le chatbot Grok d'Elon Musk a annoncé vendredi que des failles dans ses systèmes de sécurité l'avaient conduit à générer des « images de mineurs légèrement vêtus » sur la plateforme de médias sociaux X. Ce chatbot, développé par xAI, la soc…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?