Problema 4334

El 1 de agosto entró en vigor el nuevo marco jurídico europeo sobre inteligencia artificial, la Ley de IA de la UE (https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai)**, cuyo objetivo es prevenir las violaciones de derechos mediante el uso de esta tecnología. La legislación clasifica la IA según el nivel de riesgo que puede suponer para las personas y la sociedad, y prohíbe las tecnologías que suponen un "riesgo inaceptable", como las que manipulan y explotan las vulnerabilidades de las personas.

Una tecnología que podría entrar en esta categoría son los deadbots, que algunas empresas ya están desarrollando y planean comercializar en un futuro próximo. Se trata de chatbots basados en la identidad digital de una persona fallecida (mensajes de WhatsApp, redes sociales, correos electrónicos, etc.) y que son capaces de mantener conversaciones con familiares y amigos de la persona fallecida, emulando su personalidad. Aunque pueda parecer ciencia ficción, no lo es, y servicios de este tipo están más cerca de lo que imaginamos.

Belén Jiménez, doctora en Psicología y miembro de la Facultad de Psicología y Ciencias de la Educación e investigadora del IN3 CareNet de la Universitat Oberta de Catalunya (UOC), es especialista en la mediación tecnológica del duelo. Parte de su investigación se centra en los deadbots, área en la que ha publicado varios estudios (https://revistas.javerianacali.edu.co/index.php/pensamientopsicologico/article/view/1492).

"Hay que tener ciertas precauciones con el uso de los deadbots y es imprescindible regular su uso, ya que el ánimo de lucro de las empresas que los comercializan puede no estar alineado con el potencial uso terapéutico"

Un debate complejo sin respuestas claras

"Aunque los deadbots aún no se han comercializado, es necesario reflexionar sobre los aspectos bioéticos de esta tecnología. Es posible que su uso se normalice pronto, como ha ocurrido con otras aplicaciones que en un principio nos sorprendieron, pero que ahora son muy utilizadas, como las apps de citas. Cada vez surgen más empresas en lo que se conoce como industria del más allá digital, y están mejorando la tecnología", explicó Jiménez. Considera fundamental "estudiar cómo los deadbots median en el duelo y pueden transformarlo. Es un campo en el que apenas hay estudios científicos y no hay respuestas claras, ya que su uso y efectos dependen de diversos factores, entre ellos, de cómo están diseñadas estas tecnologías".

Entre otras cosas, la nueva legislación europea estipula que los chatbots deben informar al usuario de que se están comunicando con un programa informático y no con una persona. Aunque clasifica esta tecnología como de "riesgo limitado", en contextos sensibles como el de la salud, que sería el caso de los deadbots, hay que analizar con cuidado las implicaciones de estos programas.

La investigación de Belén Jiménez, también miembro del grupo de investigación CERPOP de la Universidad de Toulouse, ha demostrado que los dolientes muestran actitudes ambivalentes ante esta nueva tecnología: al deseo de mantener vínculos afectivos con sus seres queridos se une el malestar que supone interactuar con un programa basado en la identidad digital de la persona fallecida.

Los deadbots se basan en los llamados «vínculos continuos» entre dolientes y fallecidos, un término muy utilizado en la psicología del duelo. La investigadora de la UOC explica que «estas tecnologías se aprovechan de la necesidad de las personas de establecer vínculos afectivos». De hecho, podrían ser una versión avanzada y tecnológica de mantener una conversación imaginaria con nuestro ser querido delante de su tumba o de preservar su memoria a través de fotografías y vídeos. "Esta necesidad de mantener vínculos no tiene por qué ser necesariamente patológica", explica Jiménez, "y es algo normal en muchas personas. Sin embargo, hay que tener ciertas precauciones a la hora de utilizar deadbots y es imprescindible regular su uso, ya que el ánimo de lucro de las empresas que los comercializan puede no estar alineado con el potencial uso terapéutico de esta tecnología".

A falta de estudios, Jiménez apunta que los efectos psicológicos de estas tecnologías dependerán de los propios usuarios, de la relación que tenían con el fallecido y de la relación que establezcan con el chatbot. "Uno de los peligros es que pueda derivar en efectos negativos, como la creación de una relación de dependencia, e incluso el sufrimiento provocado por una segunda pérdida, si el deadbot desaparece, por ejemplo, por problemas técnicos".

Regulación de la industria del más allá digital

Nuestro deseo de inmortalidad y el progreso tecnológico están estimulando la industria del más allá digital, un sector que explota la presencia digital de las personas fallecidas para perpetuar su memoria e incluso extender su actividad digital. Esto tiene muchas implicaciones éticas y sociales. Las empresas persiguen fines comerciales y económicos que pueden entrar en conflicto con los potenciales objetivos terapéuticos de estas herramientas. Estrategias como que los deadbots envíen notificaciones y otras acciones para mantener a los dolientes "enganchados" pueden ser éticamente cuestionables, según Jiménez.

"Estamos ante un nuevo desarrollo tecnológico basado en la inteligencia artificial, que entraña grandes riesgos, y que debe ser regulado para anticipar sus posibles efectos negativos, al tiempo que hay que tener en cuenta su dimensión ética", afirma la investigadora. "La nueva normativa europea se centra en fomentar la transparencia de estas tecnologías, algo esencial en ámbitos tan sensibles como el duelo. Además, las empresas que desarrollen estos servicios deberán cumplir con estándares rigurosos e invertir en programas de auditoría, transparencia y documentación", explica. La Ley de Inteligencia Artificial prevé multas de hasta 30 millones de euros o el 6 % de la facturación de una empresa si no cumple la ley.

A falta de una normativa específica para los deadbots, Jiménez propone que la normativa "debería garantizar especialmente el respeto y la dignidad de la persona fallecida, así como promover el bienestar psicológico del usuario, especialmente si está de duelo".

Esta investigación apoya el Objetivo de Desarrollo Sostenible (ODS) 3, Salud y bienestar.

Artículos de referencia:

Jiménez-Alonso, B., y Brescó de Luna, I. (2024). IA y duelo: un estudio prospectivo sobre las implicaciones éticas y psicológicas de los deathbots .. En S. Caballé, J. Casas-Roma, & J. Conesa (Eds.), Ética en los sistemas online basados en IA (págs. 175-191). Prensa académica. doi: https://doi.org/10.1016/B978-0-443-18851-0.00011-1

Jiménez-Alonso, B., & Brescó de Luna, I. (2022). Mediación tecnológica en el duelo: un análisis de los duelobots desde la psicología cultural. Pensamiento Psicológico, 20. https://doi.org/10.11144/Javerianacali.PPSI20.mdpc