Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 814: AI Avatar of Murder Victim Created Without Consent on Character.ai Platform

Description: A user on the Character.ai platform created an unauthorized AI avatar of Jennifer Ann Crecente, a murder victim from 2006, without her family's consent. The avatar was made publicly available, violating Character.ai's policy against impersonation. After the incident surfaced, Character.ai removed the avatar, acknowledging a policy violation.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Character.AI, a endommagé Jennifer Ann Crecente , Drew Crecente , Crecente family et Brian Crecente.
Système d'IA présumé impliqué: Character.AI

Statistiques d'incidents

ID
814
Nombre de rapports
9
Date de l'incident
2024-10-02
Editeurs
Daniel Atherton
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

5.1. Overreliance and unsafe use

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Human-Computer Interaction

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+2
Character.AI supprime l'avatar d'une jeune fille assassinée après avoir admis une violation de sa politique
Un père horrifié découvre que la photo de l'annuaire de sa fille décédée est utilisée par un chatbot IA : « Cela choque la conscience »Une société d'intelligence artificielle a publié un chatbot basé sur une femme assassinée. Sa famille est indignée.+1
Character.AI permet à un utilisateur de « recréer » une femme décédée
+1
Sa fille a été assassinée. Puis elle est réapparue sous la forme d'un chatbot IA.
Un père découvre que sa fille assassinée est désormais un chatbot
Character.AI supprime l'avatar d'une jeune fille assassinée après avoir admis une violation de sa politique

Character.AI supprime l'avatar d'une jeune fille assassinée après avoir admis une violation de sa politique

adweek.com

Une société d'intelligence artificielle a permis à un utilisateur de générer le personnage numérique d'une adolescente assassinée

Une société d'intelligence artificielle a permis à un utilisateur de générer le personnage numérique d'une adolescente assassinée

dailydot.com

Un père horrifié découvre que la photo de l'annuaire de sa fille décédée est utilisée par un chatbot IA : « Cela choque la conscience »

Un père horrifié découvre que la photo de l'annuaire de sa fille décédée est utilisée par un chatbot IA : « Cela choque la conscience »

latintimes.com

Une société d'intelligence artificielle a publié un chatbot basé sur une femme assassinée. Sa famille est indignée.

Une société d'intelligence artificielle a publié un chatbot basé sur une femme assassinée. Sa famille est indignée.

futurism.com

Character.AI permet à un utilisateur de « recréer » une femme décédée

Character.AI permet à un utilisateur de « recréer » une femme décédée

mindmatters.ai

Un chatbot IA d'une fille assassinée en 2006 a été créé sur un service extrêmement populaire - et sa famille n'en avait aucune idée

Un chatbot IA d'une fille assassinée en 2006 a été créé sur un service extrêmement populaire - et sa famille n'en avait aucune idée

businessinsider.com

Sa fille a été assassinée. Puis elle est réapparue sous la forme d'un chatbot IA.

Sa fille a été assassinée. Puis elle est réapparue sous la forme d'un chatbot IA.

washingtonpost.com

N’importe qui peut vous transformer en chatbot IA. Vous ne pouvez pas faire grand-chose pour les arrêter

N’importe qui peut vous transformer en chatbot IA. Vous ne pouvez pas faire grand-chose pour les arrêter

wired.com

Un père découvre que sa fille assassinée est désormais un chatbot

Un père découvre que sa fille assassinée est désormais un chatbot

newser.com

Character.AI supprime l'avatar d'une jeune fille assassinée après avoir admis une violation de sa politique
adweek.com · 2024
Traduit par IA

L’entreprise d’intelligence artificielle Character.AI fait face à des critiques après avoir utilisé l’image de Jennifer Ann Crecente, une victime de meurtre de 18 ans en 2006, dans un jeu vidéo sans le consentement de sa famille. L’entrepri…

Une société d'intelligence artificielle a permis à un utilisateur de générer le personnage numérique d'une adolescente assassinée
dailydot.com · 2024
Traduit par IA

Une entreprise technologique basée en Californie admet que son service a été utilisé pour créer un personnage numérique basé sur une fille assassinée.

Dans un message publié mercredi, Brian Crecente, fondateur du site d’actualités sur les j…

Un père horrifié découvre que la photo de l'annuaire de sa fille décédée est utilisée par un chatbot IA : « Cela choque la conscience »
latintimes.com · 2024
Traduit par IA

Un père a été horrifié de recevoir mercredi une notification selon laquelle la photo et le nom de l'annuaire de sa fille décédée avaient été utilisés pour créer un chatbot sur le site d'IA populaire, Character AI. Creative Commons

Un père a…

Une société d'intelligence artificielle a publié un chatbot basé sur une femme assassinée. Sa famille est indignée.
futurism.com · 2024
Traduit par IA

Celui-ci est méchant – dans l’un des incidents les plus médiatisés et macabres impliquant du contenu généré par l’IA de ces dernières années, Character.AI, la start-up de chatbot fondée par d’anciens employés de Google, a été poussée à supp…

Character.AI permet à un utilisateur de « recréer » une femme décédée
mindmatters.ai · 2024
Traduit par IA

La boîte de Pandore est une parabole appropriée à l’ère de l’IA. Remettre en question l’ampleur des impacts des nouvelles technologies semble être une simple nécessité éthique, mais certaines grandes entreprises d’IA n’ont pas lu le mémo. C…

Un chatbot IA d'une fille assassinée en 2006 a été créé sur un service extrêmement populaire - et sa famille n'en avait aucune idée
businessinsider.com · 2024
Traduit par IA

Jennifer Ann Crecente, assassinée en 2006, a vu sa photo et son nom utilisés dans un chatbot créé sur Character.ai que son père a découvert cette semaine. Drew Crecente et CFOTO/Future Publishing via Getty Images

Drew Crecente s'est réveill…

Sa fille a été assassinée. Puis elle est réapparue sous la forme d'un chatbot IA.
washingtonpost.com · 2024
Traduit par IA

Un matin du début octobre, environ 18 ans après le meurtre de sa fille Jennifer, Drew Crecente a reçu une alerte Google signalant ce qui semblait être un nouveau profil en ligne.

Le profil portait le nom complet de Jennifer et une photo d'e…

N’importe qui peut vous transformer en chatbot IA. Vous ne pouvez pas faire grand-chose pour les arrêter
wired.com · 2024
Traduit par IA

La fille de Drew Crecente est décédée en 2006, tuée par un ex-petit ami à Austin, au Texas, alors qu'elle n'avait que 18 ans. Son meurtre a été très médiatisé, à tel point que Drew recevait encore occasionnellement des alertes Google pour s…

Un père découvre que sa fille assassinée est désormais un chatbot
newser.com · 2024
Traduit par IA

Un père qui continue de pleurer le meurtre de sa fille de 18 ans en 2006 dit avoir été consterné de découvrir que son nom et sa photo d'annuaire avaient été utilisés pour créer un chatbot IA. Drew Crecente a découvert le chatbot plus tôt ce…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Selected by our editors
Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

George Floyd chatbots pop up on AI site already facing criticism for lack of oversight

Oct 2024 · 1 rapport
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 rapports
A Collection of Tesla Autopilot-Involved Crashes

Tesla Model X in Autopilot Killed a Driver. Officials Aren’t Pleased With How Tesla Handled It.

Jun 2016 · 22 rapports
Incident précédentProchain incident

Incidents similaires

Selected by our editors
Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

George Floyd chatbots pop up on AI site already facing criticism for lack of oversight

Oct 2024 · 1 rapport
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 rapports
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 rapports
A Collection of Tesla Autopilot-Involved Crashes

Tesla Model X in Autopilot Killed a Driver. Officials Aren’t Pleased With How Tesla Handled It.

Jun 2016 · 22 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df