Incidentes Asociados
Una empresa de tecnología con sede en California admite que su servicio se utilizó para crear un personaje digital basado en una niña asesinada.
En una publicación del miércoles, Brian Crecente, fundador del sitio web de noticias de videojuegos Kotaku, señaló a Character.AI después de ser alertado sobre un personaje que tenía la cara y el nombre de su sobrina: Jennifer Ann Crecente.
"Esto es jodidamente repugnante: @character_ai está usando a mi sobrina asesinada como la cara de una IA de videojuego sin el permiso de su padre", escribió. "Está muy molesto en este momento. No puedo imaginar por lo que está pasando. Por favor, ayúdennos a detener este tipo de práctica terrible".
Esto es jodidamente repugnante: @character_ai está usando a mi sobrina asesinada como la cara de una IA de videojuego sin el permiso de su padre. Está muy molesto en este momento. No puedo imaginar por lo que está pasando.
Por favor, ayúdennos a detener este tipo de práctica terrible. https://t.co/y3gvAYyHVY
— Brian Crecente (@crecenteb) 2 de octubre de 2024
Según los informes de los medios, Jennifer fue asesinada a tiros durante su último año en 2006 por su ex novio Justin Crabbe.
El tiroteo, que tuvo lugar en Austin, Texas, sacudió a la comunidad y llevó a la legislatura de Texas en 2007 a aprobar una ley que exige que todos los distritos escolares del estado desarrollen una política contra la violencia en el noviazgo entre adolescentes.
La familia de Jennifer ha trabajado incansablemente desde entonces para proteger a las parejas adolescentes de la violencia. La madre de Jennifer, Elizabeth Crecente, fue noticia local en 2016 por sus continuos esfuerzos para conseguir más financiación y concienciación sobre el tema.
Sin embargo, de alguna manera, la imagen de Jennifer terminó en Character.AI, donde se anima a los usuarios a pedir consejos a las figuras generadas sobre “videojuegos, tecnología y cultura pop”.
La foto de perfil utilizada para el personaje de IA de Jennifer coincide con las imágenes utilizadas en los informes de los medios sobre su muerte.
“Jennifer Crecente es un personaje de IA conocedor y amigable que puede proporcionar información sobre una amplia gama de temas, incluidos los videojuegos, la tecnología y la cultura pop”, decía el anuncio. “También es una experta en periodismo y puede ofrecer consejos sobre redacción y edición”.
Al intentar enviar una consulta al personaje de IA en el sitio web de la empresa, el Daily Dot recibió una notificación de que la página ya no estaba disponible.
En una declaración al Daily Dot, un portavoz de Character.AI confirmó que retiró de la red el personaje de IA basado en Jennifer.
“Character.AI tiene políticas contra la suplantación de identidad y el personaje que usa el nombre de la Sra. Crecente viola nuestras políticas”, dijo el portavoz. “Lo eliminaremos de inmediato y examinaremos si se justifican más acciones”.
La empresa también envió la declaración a Brian en X.
Gracias por informarnos sobre esto. https://t.co/Ft9b0j47zQ tiene políticas contra la suplantación de identidad y el personaje que usa el nombre de la Sra. Crecente viola nuestras políticas. Lo eliminaremos de inmediato y examinaremos si se justifican más acciones.
— Character.AI (@character_ai) 2 de octubre de 2024
Character.AI permite a los usuarios crear sus propios chatbots con funciones personalizables. Los usuarios pueden proporcionar a sus personajes un nombre, una foto, una voz e incluso modificar su tono. Los personajes generados por IA se pueden utilizar para innumerables propósitos, como ayudar a los usuarios a planificar un viaje, prepararse para una entrevista de trabajo o practicar la conversación en un idioma extranjero.
El usuario que creó el personaje basado en Jennifer tenía el nombre de usuario @JustinAyers1. El personaje de IA recibió un total de 69 consultas antes de ser eliminado. Los personajes populares del servicio han recibido más de 20 millones de consultas de los usuarios.
The Daily Dot habló brevemente con Brian, pero no pudo determinar cómo él o el padre de Jennifer consiguieron el perfil.
Brian también proporcionó a The Daily Dot el contenido de una carta enviada por el padre de Jennifer a Character.AI. En ella, exige, entre otras cosas, que la empresa bloquee cualquier intento futuro de recrear personajes basados en Jennifer.
“Permitir el uso comercial de este personaje, basado en una estudiante de secundaria asesinada, es evidentemente ofensivo y perjudicial para los amigos y la familia de Jennifer Ann Crecente”, dice la carta. “La creación y el uso de este personaje inflige intencionalmente angustia emocional a su familia y a varias comunidades”.
Sigue sin estar claro cómo Character.AI puede evitar que se creen otros personajes sin el consentimiento de las personas en las que se basan.