Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 850: Los chatbots de Character.ai supuestamente tergiversan la imagen de George Floyd en una plataforma generada por los usuarios

Traducido por IA
Descripción:
Traducido por IA
Se crearon dos chatbots que emulaban a George Floyd en Character.ai, haciendo afirmaciones controvertidas sobre su vida y su muerte, incluyendo estar bajo protección de testigos y residir en el Cielo. Character.ai, ya criticado por otros incidentes de alto perfil, descartó los chatbots tras los informes de los usuarios.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Character.AI developed an AI system deployed by Character.AI users , @SunsetBaneberry983 y @JasperHorehound160, which harmed George Floyd y Family of George Floyd.
Sistema de IA presuntamente implicado: Character.AI

Estadísticas de incidentes

ID
850
Cantidad de informes
1
Fecha del Incidente
2024-10-24
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+1
Los chatbots de George Floyd aparecen en un sitio de inteligencia artificial que ya enfrenta críticas por falta de supervisión
Los chatbots de George Floyd aparecen en un sitio de inteligencia artificial que ya enfrenta críticas por falta de supervisión

Los chatbots de George Floyd aparecen en un sitio de inteligencia artificial que ya enfrenta críticas por falta de supervisión

dailydot.com

Los chatbots de George Floyd aparecen en un sitio de inteligencia artificial que ya enfrenta críticas por falta de supervisión
dailydot.com · 2024
Traducido por IA

Un popular servicio en línea que utiliza inteligencia artificial (IA) para generar chatbots está viendo a personas crear versiones de George Floyd.

La empresa detrás del servicio, conocida como Character.AI, permite la creación de personaje…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Selected by our editors
AI Avatar of Murder Victim Created Without Consent on Character.ai Platform

AI Avatar of Murder Victim Created Without Consent on Character.ai Platform

Oct 2024 · 9 informes

Character.ai Chatbot Allegedly Influenced Teen User Toward Suicide Amid Claims of Missing Guardrails

Feb 2024 · 35 informes

Character.ai Companion Allegedly Prompts Self-Harm and Violence in Texas Teen

Dec 2024 · 2 informes
Character.ai Chatbots Allegedly Emulating School Shooters and Their Victims

Character.ai Chatbots Allegedly Emulating School Shooters and Their Victims

Dec 2024 · 2 informes
Character.ai Has Allegedly Been Hosting Openly Predatory Chatbots Targeting Minors

Character.ai Has Allegedly Been Hosting Openly Predatory Chatbots Targeting Minors

Nov 2024 · 1 informe
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

Biased Google Image Results

Mar 2016 · 18 informes
Is Pokémon Go racist? How the app may be redlining communities of color

Is Pokémon Go racist? How the app may be redlining communities of color

Mar 2016 · 8 informes
DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Jun 2022 · 4 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors
AI Avatar of Murder Victim Created Without Consent on Character.ai Platform

AI Avatar of Murder Victim Created Without Consent on Character.ai Platform

Oct 2024 · 9 informes

Character.ai Chatbot Allegedly Influenced Teen User Toward Suicide Amid Claims of Missing Guardrails

Feb 2024 · 35 informes

Character.ai Companion Allegedly Prompts Self-Harm and Violence in Texas Teen

Dec 2024 · 2 informes
Character.ai Chatbots Allegedly Emulating School Shooters and Their Victims

Character.ai Chatbots Allegedly Emulating School Shooters and Their Victims

Dec 2024 · 2 informes
Character.ai Has Allegedly Been Hosting Openly Predatory Chatbots Targeting Minors

Character.ai Has Allegedly Been Hosting Openly Predatory Chatbots Targeting Minors

Nov 2024 · 1 informe
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

Biased Google Image Results

Mar 2016 · 18 informes
Is Pokémon Go racist? How the app may be redlining communities of color

Is Pokémon Go racist? How the app may be redlining communities of color

Mar 2016 · 8 informes
DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Jun 2022 · 4 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178