Incidentes Asociados
La empresa de inteligencia artificial Character.AI se enfrenta a una reacción violenta tras utilizar la imagen de Jennifer Ann Crecente, una víctima de asesinato de 18 años de 2006, en un videojuego sin el consentimiento de su familia. La empresa dijo que el personaje violó sus políticas contra la suplantación de identidad y eliminó al personaje.
Drew Crecente, el padre de Jennifer, recibió una alerta automática de Google de que se había creado una versión de inteligencia artificial de su hija con Character.AI alrededor de las 4:30 a.m. del miércoles. Después de hacer clic en el enlace, Character.AI describió su imagen de IA como "un personaje de IA conocedor y amigable que puede brindar información sobre una amplia gama de temas, incluidos los videojuegos, la tecnología y la cultura pop".
"No deberíamos tener que ver este mensaje a primera hora de la mañana y luego apresurarnos a limpiar un desastre que alguien más creó", dijo Crecente a ADWEEK. Jennifer fue asesinada a tiros por su ex novio, Justin Crabbe, durante su último año en la universidad en 2006, según informes de los medios de comunicación (https://www.statesman.com/story/news/columns/2023/09/27/texas-board-denies-parole-justin-crabbe-2006-murder-ex-girlfriend-jennifer-crecente-austin/70922968007/).
Un portavoz de Character.AI le dijo a ADWEEK que uno de sus usuarios creó un personaje usando la imagen de Jennifer y lo puso a disposición de otros, violando sus políticas. Según estas políticas, Character.AI no es responsable de cómo los usuarios obtienen datos para crear personajes.
"Examinaremos si se justifican más acciones", dijo el portavoz.
El incidente salió a la luz por primera vez en X cuando Brian Crecente, fundador del sitio de noticias de videojuegos Kotaku, condenó a Character.AI el miércoles después de descubrir que el personaje no autorizado estaba inspirado en su difunta sobrina.
"Esto es jodidamente repugnante", escribió.
Esto es jodidamente repugnante: @character_ai está usando a mi sobrina asesinada como el rostro de una IA de videojuego sin el permiso de su padre. Está muy molesto en este momento. No puedo imaginar por lo que está pasando.
Por favor, ayúdennos a detener este tipo de práctica terrible. https://t.co/y3gvAYyHVY
— Brian Crecente (@crecenteb) 2 de octubre de 2024
Las Condiciones de servicio de Character.AI establecen que los usuarios deben cumplir con su política de suplantación de identidad. La política prohíbe “las falsificaciones profundas o la suplantación de identidad de cualquier tipo, incluidas, entre otras, aquellas que generen desinformación política, cometan fraudes o estafas, pongan en tela de juicio la reputación de terceros o constituyan de otro modo una conducta perjudicial”.
El uso de avatares de IA, un interés creciente entre los especialistas en marketing, ha reavivado los debates sobre el uso ético de personajes generados por IA, especialmente cuando implican la creación de réplicas de personas reales sin consentimiento. La tecnología deepfake ha sido durante mucho tiempo una preocupación para celebridades y figuras políticas. A medida que esta tecnología se vuelve más accesible, amenaza con erosionar la confianza pública en la IA y perjudica la relación entre las empresas y su audiencia.
“Los especialistas en marketing se esfuerzan por generar confianza con su audiencia”, dijo Nicole Greene, analista vicepresidenta de Gartner. “Si los avatares de IA se crean utilizando la imagen de personas reales sin su conocimiento o consentimiento, puede erosionar la confianza y la autenticidad. Los consumidores pueden sentirse engañados o manipulados, lo que puede dañar la relación entre la marca y su público objetivo”.
Greene agregó que los especialistas en marketing deben evaluar mejor si sus agencias y socios siguen pautas éticas cuando usan IA.
Fundada por el ex Googler Noam Shazeer, Character.AI recaudó 150 millones de dólares en una ronda de Serie A el año pasado, liderada por Andreessen Horowitz, alcanzando una valoración de 1.000 millones de dólares.
Charcater.AI permite a los usuarios crear e interactuar con personajes impulsados por IA. La plataforma ha duplicado sus usuarios mensuales durante el año pasado con más de 20 millones de usuarios mensuales. La empresa impulsa 100 millones de personajes únicos, según TechCrunch. Esta semana, Character.AI nombró a Erin Teague, ex ejecutiva de YouTube, como su directora de productos.
En agosto, Axios informó que Google planea firmar una licencia no exclusiva para el modelo de Character.AI que comprará a los inversores de riesgo de Character.AI por una valoración de aproximadamente 2.500 millones de dólares.
Crecente, el padre de Jennifer, ha abierto un caso con Character.AI y recibió confirmación de una investigación a las 9:51 a.m., pero no se ha proporcionado ninguna resolución desde entonces, dijo a ADWEEK.
"Es irresponsable que las empresas de tecnología carezcan de las salvaguardas adecuadas cuando daños como este son previsibles", dijo Crecente.