Journal des citations pour l'incident 530

Description: Seven channels were connected in a Telegram ecosystem centered around letting subscribers, as a paid service, generate non-consensual deepfake nudes using a bot from submitted photos of women, including underage girls and women who they know in real life.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : un système d'IA développé par Telegram channels and Alberto et mis en œuvre par Telegram channels, endommagé Women , underage girls and female celebrities.

Statistiques d'incidents

ID
530
Nombre de rapports
2
Date de l'incident
2019-07-11
Editeurs
Khoa Lam
Les bots Deepfake sur Telegram rendent le travail de création de faux nus dangereusement facile
theverge.com · 2020

Les chercheurs ont découvert un "écosystème deepfake" sur l'application de messagerie Telegram centré sur des robots qui génèrent de faux nus sur demande. Les utilisateurs qui interagissent avec ces robots disent qu'ils créent principalemen…

Un bot deepfake est utilisé pour "déshabiller" les filles mineures
technologyreview.com · 2020

En moins de 24 heures, l'article de Vice avait suscité un tel contrecoup que les créateurs de l'application [l'ont retiré] rapidement (https://www.vice.com/en/article/qv7agw/deepnude-app-that-undresses-photos -de-femmes-le-met-hors-ligne). …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
non révisé
Date de l'incident:
2023-08-03
Description des circonstances de l'incident

Des chercheurs ont découvert un "écosystème deepfake" sur l'application de messagerie Telegram centré sur des robots qui génèrent de faux nus sur

Entrées / Sorties

Raji

12345

Sekar

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents