Incident 916: Un habitant de Plymouth, dans le Massachusetts, aurait utilisé les chatbots CrushOn.ai et JanitorAI pour harceler et intimider ses victimes.
Description: En janvier 2025, James Florence Jr., de Plymouth, dans le Massachusetts, a accepté de plaider coupable de cyberharcèlement impliquant l'utilisation présumée d'outils d'IA tels que CrushOn.ai et JanitorAI. Le bureau du procureur américain rapporte que le harcèlement s'est étendu de 2014 à 2024, bien que les tactiques basées sur l'IA auraient commencé vers 2017. Florence aurait créé des images pornographiques truquées, programmé des chatbots IA pour se faire passer pour des victimes, diffusé du contenu falsifié, divulgué des informations personnelles et encouragé le harcèlement en ligne.
Outils
Nouveau rapportNouvelle RéponseDécouvrirVoir l'historique
Le Moniteur des incidents et risques liés à l'IA de l'OCDE (AIM) collecte et classe automatiquement les incidents et risques liés à l'IA en temps réel à partir de sources d'information réputées dans le monde entier.
Entités
Voir toutes les entitésAlleged: CrushOn.AI et JanitorAI developed an AI system deployed by James Florence Jr., which harmed Anonymous university professor targeted by James Florence Jr. , Families of victims targeted by James Florence Jr. et Six other women and a 17-year-old girl targeted by James Florence Jr..
Systèmes d'IA présumés impliqués: CrushOn.AI , JanitorAI , Craigslist , X (Twitter) , ladies.exposed , Reddit et Linktree
Statistiques d'incidents
ID
916
Nombre de rapports
2
Date de l'incident
2025-01-23
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Le défendeur aurait publié des images modifiées numériquement de la victime sur des comptes de réseaux sociaux et programmé des chatbots pilotés par intelligence artificielle pour imiter une conversation humaine avec d'autres utilisateurs i…
Un homme du Massachusetts a accepté de plaider coupable d’une campagne de cyberharcèlement de sept ans qui comprenait l’utilisation de chatbots d’intelligence artificielle (IA) pour se faire passer pour un professeur d’université et inviter…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents