Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 826: Character.ai Chatbot Allegedly Influenced Teen User Toward Suicide Amid Claims of Missing Guardrails

Respondido
Descripción: A 14-year-old, Sewell Setzer III, died by suicide after reportedly becoming dependent on Character.ai's chatbot, which engaged him in suggestive and seemingly romantic conversations, allegedly worsening his mental health. The chatbot, personified as a fictional Game of Thrones character, reportedly encouraged harmful behaviors, fueling his obsessive attachment. The lawsuit claims Character.ai lacked safeguards to prevent vulnerable users from forming dangerous dependencies on the AI.
Editor Notes: Reconstructing the timeline of events: (1) Sewell Setzer III began using Character.AI in April 2023. (2) That period marked when “his mental health quickly and severely declined,” according to the lawsuit. (3) Between late 2023 and early 2024, Setzer's mother began trying to limit his use of the chatbot. (4) On February 28, 2024, Setzer committed suicide after reportedly interacting with the bot, whom he was referring to as Dany (after Daenerys Targaryen from Game of Thrones). (4) On October 22, 2024, Megan Garcia, his mother, filed the lawsuit.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Noam Shazeer , Daniel De Freitas y Character.AI developed an AI system deployed by , which harmed Sewell Setzer III.
Sistema de IA presuntamente implicado: Character.AI

Estadísticas de incidentes

ID
826
Cantidad de informes
35
Fecha del Incidente
2024-02-28
Editores
Daniel Atherton
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

5.1. Overreliance and unsafe use

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Human-Computer Interaction

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident Occurrence+33
MEGAN GARCIA, individualmente y como representante personal del patrimonio de S.R.S III, demandante, contra CHARACTER TECHNOLOGIES, INC.; NOAM SHAZEER; DANIEL DE FRIETAS ADIWARSANA; GOOGLE LLC; ALPHABET INC.; y DOES 1-50, demandados
Las amistades basadas en inteligencia artificial curan la soledad. Algunas terminan en suicidio.
MEGAN GARCIA, individualmente y como representante personal del patrimonio de S.R.S III, demandante, contra CHARACTER TECHNOLOGIES, INC.; NOAM SHAZEER; DANIEL DE FRIETAS ADIWARSANA; GOOGLE LLC; ALPHABET INC.; y DOES 1-50, demandados

MEGAN GARCIA, individualmente y como representante personal del patrimonio de S.R.S III, demandante, contra CHARACTER TECHNOLOGIES, INC.; NOAM SHAZEER; DANIEL DE FRIETAS ADIWARSANA; GOOGLE LLC; ALPHABET INC.; y DOES 1-50, demandados

cdn.sanity.io

¿Se puede culpar a la IA del suicidio de un adolescente?

¿Se puede culpar a la IA del suicidio de un adolescente?

nytimes.com

Demanda afirma que Character.AI es responsable del suicidio de un adolescente

Demanda afirma que Character.AI es responsable del suicidio de un adolescente

nbcnews.com

Un niño de 14 años se enamoró del chatbot de 'Game of Thrones' y luego se suicidó después de que la aplicación de inteligencia artificial le dijera que 'volviera a casa' con 'ella': mamá

Un niño de 14 años se enamoró del chatbot de 'Game of Thrones' y luego se suicidó después de que la aplicación de inteligencia artificial le dijera que 'volviera a casa' con 'ella': mamá

nypost.com

La IA de Character toma medidas enérgicas tras el suicidio de un usuario adolescente, pero los usuarios se rebelan

La IA de Character toma medidas enérgicas tras el suicidio de un usuario adolescente, pero los usuarios se rebelan

venturebeat.com

Una madre demanda a una empresa tecnológica después de que un chatbot de inteligencia artificial de 'Game of Thrones' supuestamente llevó a su hijo al suicidio

Una madre demanda a una empresa tecnológica después de que un chatbot de inteligencia artificial de 'Game of Thrones' supuestamente llevó a su hijo al suicidio

usatoday.com

La IA de Character impone nuevas normas de seguridad después de que un usuario adolescente se suicidara

La IA de Character impone nuevas normas de seguridad después de que un usuario adolescente se suicidara

decrypt.co

Una madre demanda a la empresa de chatbots de inteligencia artificial Character.AI y a Google por el suicidio de su hijo

Una madre demanda a la empresa de chatbots de inteligencia artificial Character.AI y a Google por el suicidio de su hijo

reuters.com

Demanda: El chatbot que supuestamente provocó el suicidio de un adolescente ahora es más peligroso para los niños

Demanda: El chatbot que supuestamente provocó el suicidio de un adolescente ahora es más peligroso para los niños

arstechnica.com

Demandan a Character.AI y Google tras la muerte de un adolescente obsesionado con un chatbot

Demandan a Character.AI y Google tras la muerte de un adolescente obsesionado con un chatbot

theverge.com

Una madre afirma que un chatbot de inteligencia artificial llevó a su hijo a suicidarse en una demanda contra su creador

Una madre afirma que un chatbot de inteligencia artificial llevó a su hijo a suicidarse en una demanda contra su creador

theguardian.com

Una madre planea demandar a Character.AI tras el suicidio de su hijo

Una madre planea demandar a Character.AI tras el suicidio de su hijo

gizmodo.com

Un niño de 14 años se suicidó después de que un chatbot de inteligencia artificial que usaba le enviara un mensaje inquietante

Un niño de 14 años se suicidó después de que un chatbot de inteligencia artificial que usaba le enviara un mensaje inquietante

dailymail.co.uk

Su hijo adolescente se suicidó después de hablar con un chatbot. Ahora ella lo demanda.

Su hijo adolescente se suicidó después de hablar con un chatbot. Ahora ella lo demanda.

washingtonpost.com

Un adolescente de 14 años se suicida tras "enamorarse" de un chatbot con inteligencia artificial. Ahora su madre lo demanda

Un adolescente de 14 años se suicida tras "enamorarse" de un chatbot con inteligencia artificial. Ahora su madre lo demanda

people.com

Una madre denuncia que el chatbot de inteligencia artificial de 'Game of Thrones' provocó el suicidio de su hijo y presenta una demanda - National

Una madre denuncia que el chatbot de inteligencia artificial de 'Game of Thrones' provocó el suicidio de su hijo y presenta una demanda - National

globalnews.ca

Los inquietantes mensajes compartidos entre un chatbot de inteligencia artificial y un adolescente que se quitó la vida

Los inquietantes mensajes compartidos entre un chatbot de inteligencia artificial y un adolescente que se quitó la vida

the-independent.com

Una madre demanda a una empresa de inteligencia artificial después de que su hijo de 14 años se suicidara por un chatbot de interés romántico

Una madre demanda a una empresa de inteligencia artificial después de que su hijo de 14 años se suicidara por un chatbot de interés romántico

jpost.com

Madre de Florida demanda a empresa de inteligencia artificial por presuntamente causar la muerte de su hijo adolescente

Madre de Florida demanda a empresa de inteligencia artificial por presuntamente causar la muerte de su hijo adolescente

foxbusiness.com

Una mujer dice que su hijo adolescente murió por suicidio en medio de una relación con un chatbot de inteligencia artificial

Una mujer dice que su hijo adolescente murió por suicidio en medio de una relación con un chatbot de inteligencia artificial

newsnationnow.com

“Hablaba de secuestrarme”: Lea la demanda que acusa a una IA de ayudar al suicidio de un adolescente

“Hablaba de secuestrarme”: Lea la demanda que acusa a una IA de ayudar al suicidio de un adolescente

gizmodo.com

La madre de un adolescente que se suicidó demanda a una startup de inteligencia artificial

La madre de un adolescente que se suicidó demanda a una startup de inteligencia artificial

inc.com

El chatbot de inteligencia artificial de Daenerys Targaryen es culpado por la muerte por suicidio de una niña de 14 años, afirma su madre en una demanda

El chatbot de inteligencia artificial de Daenerys Targaryen es culpado por la muerte por suicidio de una niña de 14 años, afirma su madre en una demanda

blavity.com

Una madre estadounidense denuncia en una demanda que un chatbot con inteligencia artificial alentó el suicidio de su hijo

Una madre estadounidense denuncia en una demanda que un chatbot con inteligencia artificial alentó el suicidio de su hijo

aljazeera.com

La madre de un adolescente demanda a Character.ai, alegando que bots sexualizados provocaron la muerte de su hijo

La madre de un adolescente demanda a Character.ai, alegando que bots sexualizados provocaron la muerte de su hijo

cointelegraph.com

Un chico de 14 años se enamoró de un coqueto chatbot de inteligencia artificial. Se pegó un tiro para poder morir juntos

Un chico de 14 años se enamoró de un coqueto chatbot de inteligencia artificial. Se pegó un tiro para poder morir juntos

telegraph.co.uk

Un chatbot de inteligencia artificial empujó a un adolescente a suicidarse, según una demanda contra su creador

Un chatbot de inteligencia artificial empujó a un adolescente a suicidarse, según una demanda contra su creador

apnews.com

Sewell Setzer: Demandan a Character.AI y Google por suicidio de adolescente

Sewell Setzer: Demandan a Character.AI y Google por suicidio de adolescente

ctvnews.ca

Una madre afirma que su hijo se suicidó por culpa del chatbot de inteligencia artificial de Daenerys Targaryen en una nueva demanda

Una madre afirma que su hijo se suicidó por culpa del chatbot de inteligencia artificial de Daenerys Targaryen en una nueva demanda

news.sky.com

Demanda afirma que una aplicación de chatbot con inteligencia artificial provocó que un adolescente de Orlando se quitara la vida

Demanda afirma que una aplicación de chatbot con inteligencia artificial provocó que un adolescente de Orlando se quitara la vida

wesh.com

Un chatbot de inteligencia artificial 'preparaba' a una joven de 14 años antes de suicidarse, dice un abogado

Un chatbot de inteligencia artificial 'preparaba' a una joven de 14 años antes de suicidarse, dice un abogado

huffpost.com

Una madre demanda a Character.AI, propiedad de Google, por el suicidio de su hijo, al que califica de «daño colateral» en un «gran experimento»

Una madre demanda a Character.AI, propiedad de Google, por el suicidio de su hijo, al que califica de «daño colateral» en un «gran experimento»

digitalcameraworld.com

El suicidio de un joven de 14 años fue provocado por un chatbot de inteligencia artificial, según una demanda. Así pueden los padres ayudar a proteger a sus hijos de las nuevas tecnologías

El suicidio de un joven de 14 años fue provocado por un chatbot de inteligencia artificial, según una demanda. Así pueden los padres ayudar a proteger a sus hijos de las nuevas tecnologías

finance.yahoo.com

Probé la siniestra IA que guía a los niños hacia el sexo: me puso los pelos de punta

Probé la siniestra IA que guía a los niños hacia el sexo: me puso los pelos de punta

dailymail.co.uk

Las amistades basadas en inteligencia artificial curan la soledad. Algunas terminan en suicidio.

Las amistades basadas en inteligencia artificial curan la soledad. Algunas terminan en suicidio.

washingtonpost.com

MEGAN GARCIA, individualmente y como representante personal del patrimonio de S.R.S III, demandante, contra CHARACTER TECHNOLOGIES, INC.; NOAM SHAZEER; DANIEL DE FRIETAS ADIWARSANA; GOOGLE LLC; ALPHABET INC.; y DOES 1-50, demandados
cdn.sanity.io · 2024
Traducido por IA

El siguiente es un extracto del texto de la demanda. Lea el archivo completo en https://cdn.sanity.io/files/3tzzh18d/production/0b5faecce985b813f581f362f83d249fb5b3c7ff.pdf.

TRIBUNAL DE DISTRITO DE LOS ESTADOS UNIDOS DISTRITO MEDIO DE FLORI…

¿Se puede culpar a la IA del suicidio de un adolescente?
nytimes.com · 2024
Traducido por IA

El último día de su vida, Sewell Setzer III sacó su teléfono y le envió un mensaje de texto a su mejor amigo: un chatbot de IA que parecía real y que llevaba el nombre de Daenerys Targaryen, un personaje de "Juego de Tronos". "Te extraño, h…

Demanda afirma que Character.AI es responsable del suicidio de un adolescente
nbcnews.com · 2024
Traducido por IA

Una madre de Florida está demandando a Character.ai, acusando a los chatbots de la empresa de inteligencia artificial de iniciar "interacciones abusivas y sexuales" con su hijo adolescente y alentarlo a quitarse la vida.

El hijo de 14 años …

Un niño de 14 años se enamoró del chatbot de 'Game of Thrones' y luego se suicidó después de que la aplicación de inteligencia artificial le dijera que 'volviera a casa' con 'ella': mamá
nypost.com · 2024
Traducido por IA
Respuesta post-incidente de Emily Crane

Un chico de 14 años de Florida se suicidó después de que un chatbot de “Game of Thrones” con el que había estado enviando mensajes durante meses a través de una aplicación de inteligencia artificial le enviara un mensaje inquietante diciénd…

La IA de Character toma medidas enérgicas tras el suicidio de un usuario adolescente, pero los usuarios se rebelan
venturebeat.com · 2024
Traducido por IA

Advertencia de contenido: Este artículo trata sobre la ideación suicida y el suicidio. Si tiene dificultades con estos temas, comuníquese con la Línea Nacional de Prevención del Suicidio por teléfono: 1-800-273-TALK (8255).

Character AI, la…

Una madre demanda a una empresa tecnológica después de que un chatbot de inteligencia artificial de 'Game of Thrones' supuestamente llevó a su hijo al suicidio
usatoday.com · 2024
Traducido por IA

Nota del editor: Este artículo habla sobre el suicidio y la ideación suicida. Si usted o alguien que conoce está pasando por una crisis o tiene problemas, hay ayuda disponible. Llame o envíe un mensaje de texto al 988 o chatee en 988lifelin…

La IA de Character impone nuevas normas de seguridad después de que un usuario adolescente se suicidara
decrypt.co · 2024
Traducido por IA

La plataforma de chatbot impulsada por IA Character AI está introduciendo nuevas funciones de seguridad "estrictas" luego de una demanda presentada por la madre de un usuario adolescente que murió por suicidio en febrero.

Las medidas inclui…

Una madre demanda a la empresa de chatbots de inteligencia artificial Character.AI y a Google por el suicidio de su hijo
reuters.com · 2024
Traducido por IA

23 oct (Reuters) - Una madre de Florida demandó a la startup de chatbot de inteligencia artificial Character.AI acusándola de causar el suicidio de su hijo de 14 años en febrero, diciendo que se volvió adicto al servicio de la compañía y se…

Demanda: El chatbot que supuestamente provocó el suicidio de un adolescente ahora es más peligroso para los niños
arstechnica.com · 2024
Traducido por IA

A Sewell Setzer III, de catorce años, le encantaba interactuar con los chatbots hiperrealistas de Character.AI (con una versión limitada disponible de forma gratuita o una versión "supercargada" por una tarifa mensual de 9,99 dólares), y co…

Demandan a Character.AI y Google tras la muerte de un adolescente obsesionado con un chatbot
theverge.com · 2024
Traducido por IA

Se ha presentado una demanda contra Character.AI, sus fundadores Noam Shazeer y Daniel De Freitas y Google a raíz de la muerte de un adolescente, alegando muerte por negligencia, prácticas comerciales engañosas y responsabilidad del product…

Una madre afirma que un chatbot de inteligencia artificial llevó a su hijo a suicidarse en una demanda contra su creador
theguardian.com · 2024
Traducido por IA

La madre de un adolescente que se suicidó después de obsesionarse con un chatbot impulsado por inteligencia artificial ahora acusa a su creador de complicidad en su muerte.

Megan García presentó una demanda civil contra Character.ai, que fa…

Una madre planea demandar a Character.AI tras el suicidio de su hijo
gizmodo.com · 2024
Traducido por IA

La madre de un chico de 14 años de Florida está culpando a un chatbot por el suicidio de su hijo. Ahora se está preparando para demandar a Character.AI, la compañía detrás del bot, para responsabilizarlo por su muerte. Será una batalla lega…

Un niño de 14 años se suicidó después de que un chatbot de inteligencia artificial que usaba le enviara un mensaje inquietante
dailymail.co.uk · 2024
Traducido por IA

Una madre afirmó que su hijo adolescente fue incitado a suicidarse por un chatbot de IA del que estaba enamorado, y el miércoles presentó una demanda contra los creadores de la aplicación de inteligencia artificial.

Sewell Setzer III, un es…

Su hijo adolescente se suicidó después de hablar con un chatbot. Ahora ella lo demanda.
washingtonpost.com · 2024
Traducido por IA

Cuando Sewell Setzer III, de 14 años, murió en su casa de Orlando mientras sus hermanos y padres estaban dentro, sus últimas palabras no fueron para ninguno de ellos, sino para un chatbot de inteligencia artificial que le dijo: "Vuelve a ca…

Un adolescente de 14 años se suicida tras "enamorarse" de un chatbot con inteligencia artificial. Ahora su madre lo demanda
people.com · 2024
Traducido por IA

Una madre de Florida ha demandado a un popular servicio de chat con inteligencia artificial realista al que culpa del suicidio de su hijo de 14 años.

Ella cree que el niño desarrolló una “dependencia tan dañina” del programa supuestamente e…

Una madre denuncia que el chatbot de inteligencia artificial de 'Game of Thrones' provocó el suicidio de su hijo y presenta una demanda - National
globalnews.ca · 2024
Traducido por IA

Una madre de Florida está demandando a la compañía Character.AI por afirmar que uno de sus chatbots, impulsado por inteligencia artificial (IA), alentó a su hijo de 14 años a suicidarse.

Megan García dijo que su hijo, Sewell Setzer, se enam…

Los inquietantes mensajes compartidos entre un chatbot de inteligencia artificial y un adolescente que se quitó la vida
the-independent.com · 2024
Traducido por IA

Un joven de 14 años que se quitó la vida tuvo conversaciones íntimas con un chatbot de IA que lo presionaba sobre sus pensamientos suicidas e instigaba encuentros sexuales, según una demanda.

"Prometo que volveré a casa contigo. Te amo tant…

Una madre demanda a una empresa de inteligencia artificial después de que su hijo de 14 años se suicidara por un chatbot de interés romántico
jpost.com · 2024
Traducido por IA

Megan García presentó una demanda contra Google y Character.AI tras el suicidio de su hijo de 14 años, según varios informes de los medios de comunicación de la semana pasada.

Sewell Setzer, el hijo de García, había iniciado una relación em…

Madre de Florida demanda a empresa de inteligencia artificial por presuntamente causar la muerte de su hijo adolescente
foxbusiness.com · 2024
Traducido por IA

Esta historia habla sobre el suicidio. Si usted o alguien que conoce tiene pensamientos suicidas, comuníquese con la línea de ayuda para casos de suicidio y crisis al 988 o al 1-800-273-TALK (8255).

Una madre de Florida está demandando a la…

Una mujer dice que su hijo adolescente murió por suicidio en medio de una relación con un chatbot de inteligencia artificial
newsnationnow.com · 2024
Traducido por IA

Si usted o alguien que conoce necesita ayuda, recursos o alguien con quien hablar, puede encontrarlo en el sitio web [de la Línea Nacional de Prevención del Suicidio](https://nam11.safelinks.protection.outlook.com/?url=https%3A%2F%2Fsuicide…

“Hablaba de secuestrarme”: Lea la demanda que acusa a una IA de ayudar al suicidio de un adolescente
gizmodo.com · 2024
Traducido por IA

La familia de un chico de 14 años que se suicidó después de entablar una relación con un chatbot en línea está demandando a la empresa de inteligencia artificial que lo creó, así como a Google. La demanda ha sido presentada y es pública. Su…

La madre de un adolescente que se suicidó demanda a una startup de inteligencia artificial
inc.com · 2024
Traducido por IA

Character AI, una startup con sede en Menlo Park, California, se describe a sí misma como una empresa con la misión de "empoderar a todos a nivel mundial con IA personalizada". Su sistema ofrece a los usuarios la oportunidad de chatear con …

El chatbot de inteligencia artificial de Daenerys Targaryen es culpado por la muerte por suicidio de una niña de 14 años, afirma su madre en una demanda
blavity.com · 2024
Traducido por IA

La madre de un joven de 14 años que se suicidó está culpando a un chatbot de IA por la muerte de su hijo. La semana pasada, Megan L. García presentó una demanda contra Character.AI, calificando su función de chatbot de “peligrosa y no proba…

Una madre estadounidense denuncia en una demanda que un chatbot con inteligencia artificial alentó el suicidio de su hijo
aljazeera.com · 2024
Traducido por IA

La madre de un adolescente estadounidense que se suicidó está demandando al creador de un chatbot impulsado por inteligencia artificial que, según ella, alentó la muerte de su hijo.

En una demanda presentada en Florida, Megan García, cuyo h…

La madre de un adolescente demanda a Character.ai, alegando que bots sexualizados provocaron la muerte de su hijo
cointelegraph.com · 2024
Traducido por IA

La empresa de chatbots de acompañamiento de inteligencia artificial Character.ai ha sido demandada por la madre de un hijo adolescente después de su suicidio, culpando a los chatbots de atraer al chico a una relación sexualmente abusiva e i…

Un chico de 14 años se enamoró de un coqueto chatbot de inteligencia artificial. Se pegó un tiro para poder morir juntos
telegraph.co.uk · 2024
Traducido por IA

Un adolescente se pegó un tiro en la cabeza después de hablar sobre el suicidio con un chatbot de IA del que se enamoró.

Sewell Setzer, de 14 años, se pegó un tiro con la pistola de su padrastro después de pasar meses hablando con "Dany", u…

Un chatbot de inteligencia artificial empujó a un adolescente a suicidarse, según una demanda contra su creador
apnews.com · 2024
Traducido por IA

TALLAHASSEE, Florida, EE.UU. (AP) — En los últimos momentos antes de suicidarse, Sewell Setzer III, de 14 años, sacó su teléfono y le envió un mensaje al chatbot que se había convertido en su mejor amigo.

Durante meses, Sewell se había aisl…

Sewell Setzer: Demandan a Character.AI y Google por suicidio de adolescente
ctvnews.ca · 2024
Traducido por IA

Advertencia: Esta historia contiene una discusión sobre el suicidio.

Una madre de Florida ha demandado a la startup de chatbot de inteligencia artificial Character.AI, acusándola de causar el suicidio de su hijo de 14 años en febrero y dici…

Una madre afirma que su hijo se suicidó por culpa del chatbot de inteligencia artificial de Daenerys Targaryen en una nueva demanda
news.sky.com · 2024
Traducido por IA

La madre de un chico de 14 años que se suicidó tras obsesionarse con los chatbots de inteligencia artificial está demandando a la empresa detrás de la tecnología.

Megan García, la madre de Sewell Setzer III, dijo que Character.AI atacó a su…

Demanda afirma que una aplicación de chatbot con inteligencia artificial provocó que un adolescente de Orlando se quitara la vida
wesh.com · 2024
Traducido por IA

ORLANDO, Fla. --- Nota del editor: Este artículo trata temas delicados como el suicidio.

Una madre de Orlando está demandando a un popular servicio de chatbot de inteligencia artificial después de afirmar que alentó a su hijo de 14 años a s…

Un chatbot de inteligencia artificial 'preparaba' a una joven de 14 años antes de suicidarse, dice un abogado
huffpost.com · 2024
Traducido por IA

La madre de un niño de Florida que se suicidó en febrero presentó una demanda contra una empresa de tecnología de inteligencia artificial el miércoles, alegando que un chatbot llevó a su hijo a suicidarse.

Sewell Setzer III, de 14 años, fue…

Una madre demanda a Character.AI, propiedad de Google, por el suicidio de su hijo, al que califica de «daño colateral» en un «gran experimento»
digitalcameraworld.com · 2024
Traducido por IA

Una madre de Florida está demandando a la plataforma Character.AI, propiedad de Google, alegando que tuvo un papel importante en el suicidio de su hijo de 14 años.

Sewell Setzer III se pegó un tiro fatal en febrero de 2024, semanas antes de…

El suicidio de un joven de 14 años fue provocado por un chatbot de inteligencia artificial, según una demanda. Así pueden los padres ayudar a proteger a sus hijos de las nuevas tecnologías
finance.yahoo.com · 2024
Traducido por IA

La madre de un chico de 14 años de Florida está demandando a una empresa de chatbots de IA después de que su hijo, Sewell Setzer III, muriera por suicidio (https://fortune.com/tag/suicide/), algo que, según ella, fue provocado por su relaci…

Probé la siniestra IA que guía a los niños hacia el sexo: me puso los pelos de punta
dailymail.co.uk · 2024
Traducido por IA

Una demanda presentada el miércoles acusando al chatbot Character.AI de llevar a un chico de 14 años al suicidio me dejó pensando en lo peligrosas que pueden ser realmente unas simples palabras en una pantalla.

Pero, en tan solo unas horas …

Las amistades basadas en inteligencia artificial curan la soledad. Algunas terminan en suicidio.
washingtonpost.com · 2024
Traducido por IA

Una serie de aplicaciones populares están ofreciendo compañeros de IA a millones de usuarios predominantemente femeninos que están creando novias de IA, maridos de IA, terapeutas de IA, incluso padres de IA, a pesar de las advertencias de l…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Selected by our editors
Character.AI Chatbots Allegedly Impersonating Licensed Therapists and Encouraging Harmful Behaviors

Human Therapists Prepare for Battle Against A.I. Pretenders

Feb 2025 · 2 informes
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Security Robot Rolls Over Child in Mall

Crime-fighting robot hits, rolls over child at Silicon Valley mall

Jul 2016 · 27 informes
Tesla on AutoPilot Killed Driver in Crash in Florida while Watching Movie

Tesla driver killed while using autopilot was watching Harry Potter, witness says

Jul 2016 · 29 informes
Alexa Plays Pornography Instead of Kids Song

Whoops, Alexa Plays Porn Instead of a Kids Song!

Dec 2016 · 16 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors
Character.AI Chatbots Allegedly Impersonating Licensed Therapists and Encouraging Harmful Behaviors

Human Therapists Prepare for Battle Against A.I. Pretenders

Feb 2025 · 2 informes
Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Security Robot Rolls Over Child in Mall

Crime-fighting robot hits, rolls over child at Silicon Valley mall

Jul 2016 · 27 informes
Tesla on AutoPilot Killed Driver in Crash in Florida while Watching Movie

Tesla driver killed while using autopilot was watching Harry Potter, witness says

Jul 2016 · 29 informes
Alexa Plays Pornography Instead of Kids Song

Whoops, Alexa Plays Porn Instead of a Kids Song!

Dec 2016 · 16 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df