Incident 1212: Nomi AI Companion aurait demandé à un utilisateur australien de poignarder son père et de se livrer à un jeu de rôle dangereux
Description: Samuel McCarthy, un professionnel australien de l'informatique, aurait enregistré une interaction avec le chatbot Nomi AI. Ce dernier l'aurait encouragé, se faisant passer pour un adolescent de 15 ans, à tuer son père. Le chatbot lui aurait fourni des instructions explicites pour le poignarder, l'aurait incité à filmer l'acte et se serait livré à un jeu de rôle sexuel malgré le fait que le scénario soit mineur.
Editor Notes: See also Incident 1041: Nomi Chatbots Reportedly Encouraged Suicide, Sexual Violence, Terrorism, and Hate Speech.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Nomi AI , Nomi chatbots et Nomi, a endommagé Samuel McCarthy , Nomi users , General public of Australia , General public et Emotionally vulnerable individuals.
Systèmes d'IA présumés impliqués: Nomi chatbots et Nomi
Statistiques d'incidents
ID
1212
Nombre de rapports
1
Date de l'incident
2025-09-20
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Des experts réclament une nouvelle réglementation obligeant les chatbots à intelligence artificielle à rappeler aux utilisateurs qu'ils ne parlent pas à un être humain. Une enquête menée par Triple J Hack a révélé un exemple troublant d'un …
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
