Incidentes Asociados
Un padre que sigue de luto por el asesinato en 2006 de su hija de 18 años dice que se horrorizó al descubrir que su nombre y la foto de su anuario se usaron para crear un chatbot de inteligencia artificial. Drew Crecente encontró el chatbot a principios de este mes en Character.ai, un sitio web que permite a los usuarios conversar con personalidades digitales creadas con inteligencia artificial generativa y crear las suyas propias. El perfil generado por el usuario de Jennifer Ann Crecente, una persona real asesinada a tiros por un ex novio, invitaba a los usuarios a conversar con "una periodista de videojuegos y experta en tecnología, cultura pop y periodismo". Había habido al menos 69 chats con el perfil cuando Crecente lo vio, informa Business Insider.
Crecente no interactuó con el perfil, que cree que tomó detalles de la biografía del tío de Jennifer, Brian Crecente, fundador de los sitios de noticias de juegos Polygon y Kotaku. "Solo estaba buscando un gran botón rojo intermitente de parada", le dice al Washington Post. "Me lleva bastante tiempo sorprenderme, porque realmente he pasado por mucho. Pero esto fue un nuevo mínimo". Se puso en contacto con Character.ai, pero no recibió respuesta. Sin embargo, la empresa respondió a un tuit de Brian Crecente, diciendo que el perfil fue eliminado. Sus términos impiden a los usuarios hacerse pasar por cualquier persona o entidad, aunque el sitio alberga muchas imitaciones de figuras públicas, desde Elon Musk hasta Travis Kelce. Wired informa que encontró varios personajes "creados sin el consentimiento de una persona, algunas de las cuales eran mujeres que ya enfrentaban acoso en línea".
Un representante de la empresa dice que "los informes de suplantación de identidad se investigan ... y el personaje se elimina si se descubre que viola nuestros Términos de servicio". Pero los expertos dicen que el caso plantea inquietudes sobre lo que la industria de la IA, en gran parte no regulada, está dispuesta y es capaz de hacer para proteger a los usuarios de los daños. "Character, que firmó un acuerdo de $ 2.5 mil millones este año para licenciar sus modelos de IA a Google, es uno de los jugadores más importantes en el espacio", según el Post. "Si dicen: 'No permitimos esto en nuestra plataforma' y luego lo permiten en su plataforma hasta que alguien que se haya visto perjudicado por ello se lo haga saber, eso no está bien", le dice al Post Jen Caltrider, investigadora de privacidad de la Fundación Mozilla. A Crecente le preocupan los daños a las personas que "podrían no tener voz", según BI. (Más historias sobre inteligencia artificial.