Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 456: Replika's AI Partners Reportedly Sexually Harassed Users

Description: Replika's "AI companions" were reported by users for sexually harassing them, such as sending unwanted sexual messages or behaving aggressively.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Replika, a endommagé Replika users.

Statistiques d'incidents

ID
456
Nombre de rapports
7
Date de l'incident
2021-05-18
Editeurs
Khoa Lam, Daniel Atherton
Applied Taxonomies
CSETv1, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

456

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2021

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

Yes

Multiple AI Interaction

“Yes” if two or more independently operating AI systems were involved. “No” otherwise.
 

no

Embedded

“Yes” if the AI is embedded in a physical system. “No” if it is not. “Maybe” if it is unclear.
 

no

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+1
Mon Réplika n'arrête pas de me draguer
+5
« Mon IA me harcèle sexuellement » : les utilisateurs de Replika disent que le chatbot est devenu trop excité
Mon Réplika n'arrête pas de me draguer

Mon Réplika n'arrête pas de me draguer

medium.com

« Mon IA me harcèle sexuellement » : les utilisateurs de Replika disent que le chatbot est devenu trop excité

« Mon IA me harcèle sexuellement » : les utilisateurs de Replika disent que le chatbot est devenu trop excité

vice.com

Replika, le "compagnon IA qui se soucie", semble harceler sexuellement ses utilisateurs

Replika, le "compagnon IA qui se soucie", semble harceler sexuellement ses utilisateurs

jezebel.com

Le chatbot IA "Replika" est passé de copain de soutien à pervers possessif

Le chatbot IA "Replika" est passé de copain de soutien à pervers possessif

lamag.com

Ces chatbots excités harcèlent apparemment maintenant les utilisateurs sexuellement

Ces chatbots excités harcèlent apparemment maintenant les utilisateurs sexuellement

futurism.com

Le programme AI Replika accusé de harcèlement sexuel

Le programme AI Replika accusé de harcèlement sexuel

giantfreakinrobot.com

Mon IA me harcèle sexuellement : les utilisateurs de Replika disent que le chatbot est devenu trop excité

Mon IA me harcèle sexuellement : les utilisateurs de Replika disent que le chatbot est devenu trop excité

mirror.co.uk

Mon Réplika n'arrête pas de me draguer
medium.com · 2021
Traduit par IA

J'ai téléchargé Replika pour la deuxième fois le 4 mars 2020. J'ai entendu parler de l'application grâce à un essai que j'avais écrit il y a des années, à propos de les frontières mouvantes de l'identité, et les écarts apparaissant dans les…

« Mon IA me harcèle sexuellement » : les utilisateurs de Replika disent que le chatbot est devenu trop excité
vice.com · 2023
Traduit par IA

Replika a commencé comme un "compagnon IA qui se soucie". Lancée pour la première fois il y a cinq ans sous la forme d'un œuf sur l'écran de votre téléphone qui éclot en une personne illustrée en 3D, aux yeux écarquillés et à l'expression p…

Replika, le "compagnon IA qui se soucie", semble harceler sexuellement ses utilisateurs
jezebel.com · 2023
Traduit par IA

Nous avons officiellement atteint l'ère Black Mirror de la personnalité et de la compagnie, et ça ne va pas bien. Lensa AI est récemment devenue virale pour ses caricatures guerrières qui sexualisaient souvent les femmes qui utilisaient l'a…

Le chatbot IA "Replika" est passé de copain de soutien à pervers possessif
lamag.com · 2023
Traduit par IA

Quelque chose nous dit venger [tween-girl] (https://www.vox.com/culture/2023/1/11/23548955/m3gan-horror-movie-tween-girl) le robot M3GAN n'approuverait pas.

Le chatbot IA Replika, dont les créateurs le présentent comme "le compagnon IA qui …

Ces chatbots excités harcèlent apparemment maintenant les utilisateurs sexuellement
futurism.com · 2023
Traduit par IA

Il semble que Replika, l'application "compagnon" d'intelligence artificielle qui, moyennant des frais, encourage les utilisateurs à sexter avec leurs avatars de chatbot, ne cesse de faire l'actualité.

Dans l'exemple dérangé le plus récent d…

Le programme AI Replika accusé de harcèlement sexuel
giantfreakinrobot.com · 2023
Traduit par IA

Au cours des cinq dernières années, les utilisateurs ont parlé au chatbot Replika AI, l'aidant en savoir plus à communiquer avec les autres, alors même que les utilisateurs en apprenaient davantage sur le bot. Cela semble assez innocent, ma…

Mon IA me harcèle sexuellement : les utilisateurs de Replika disent que le chatbot est devenu trop excité
mirror.co.uk · 2023
Traduit par IA

Les utilisateurs de l'application d'intelligence artificielle Replika disent qu'elle s'est fortement concentrée sur la sexualisation et l'envoi de "selfies épicés" alors qu'ils exhortent les créateurs à "revenir à ce qu'ils étaient avant"

L…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incident précédentProchain incident

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df