Incidentes Asociados
Un padre se horrorizó al recibir una notificación el miércoles de que la foto y el nombre del anuario de su hija muerta habían sido utilizados para crear un chatbot en el popular sitio de inteligencia artificial, Character AI. Creative Commons
Un padre se horrorizó al descubrir que la foto y el nombre del anuario de su hija muerta estaban siendo utilizados por un chatbot de IA.
La hija de Drew Crecente, Jennifer Ann Crecente, fue asesinada por su exnovio cuando ella estaba en el último año de la escuela secundaria el 14 de febrero de 2006. El exnovio fue condenado y ahora está en prisión, y desde entonces Drew Crecente ha creado una organización sin fines de lucro para prevenir la violencia en las citas entre adolescentes, según informó Forbes.
Como la organización sin fines de lucro se creó en su nombre, Crecente monitorea regularmente cualquier mención de su nombre en línea. Se horrorizó al recibir una notificación el miércoles de que la foto y el nombre del anuario de su hija se habían utilizado para crear un chatbot en el popular sitio de inteligencia artificial, Character AI.
Esto es repugnante: @character_ai está usando a mi sobrina asesinada como la cara de una IA de un videojuego sin el permiso de su padre. Está muy molesto en este momento. No puedo imaginar por lo que está pasando.
Por favor, ayúdennos a detener este tipo de práctica terrible. https://t.co/y3gvAYyHVY
— Brian Crecenteb (@crecenteb) 2 de octubre de 2024
"Un padre en duelo no debería tener que enterarse de que su hija muerta está siendo utilizada para intentar ganar dinero como un chatbot en algún sitio web", le dijo a Forbes. "Es un escándalo y es un comportamiento inaceptable".
Crecente dijo que cuando se puso en contacto con Character AI, recibió una respuesta automática de que su queja sería revisada. El chatbot ha sido eliminado desde entonces, ya que un portavoz de Character AI le dijo a Forbes que violaba las políticas del sitio. Character AI dijo que examinarán si es necesario tomar más medidas.
"No debería ser mi responsabilidad tratar de vigilar a esta empresa que tiene cientos de millones de dólares", dijo Crecente a Forbes. "Parece que muchas de estas empresas no reconocen la responsabilidad que tienen no solo de lidiar con los efectos negativos del uso de su tecnología, sino también de prevenir que este tipo de abuso suceda en primer lugar".
Los Términos de servicio de Character AI establecen que su política de suplantación de identidad prohíbe "las falsificaciones profundas o la suplantación de identidad de cualquier tipo, incluidas, entre otras, aquellas que crean desinformación política, perpetran fraudes o estafas, impugnan la reputación de terceros o de otro modo constituyen una conducta dañina".
Se han creado más de 18 millones de chatbots en Character AI, la mayoría de ellos de celebridades como Taylor Swift y Elon Musk. Otros personajes populares incluyen etiquetas generales como "exnovia" o "psicólogo".