Incidentes Asociados
[La semana pasada](https://www.vice.com/en/article/4ax9yw/startup-usa-ai-chatbot-para-brindar-consejería-de-salud-mental-y-luego-se-da cuenta-de-que-se-siente-raro ), Koko, una startup de salud mental, recibió importantes críticas públicas por supuestamente usar un chatbot de inteligencia artificial para brindar asesoramiento sobre salud mental sin obtener el consentimiento informado de los participantes.
La controversia comenzó cuando el cofundador de Koko, Rob Morris, tuiteó que el GPT-3 de OpenAI se usaba para brindar apoyo de salud mental a unas 4000 personas. En el hilo del tuit, Morris dijo que los mensajes generados por IA tenían una calificación más alta que los escritos exclusivamente por humanos pero, una vez que los usuarios supieron que los mensajes fueron escritos por IA, el apoyo de salud mental "no funcionó" porque "la empatía simulada se siente rara". .” Los especialistas en ética y los usuarios de IA reaccionaron negativamente al tuit, tanto por la aparente falta de consentimiento de los usuarios de Koko como por el uso de un modelo de lenguaje en un contexto sensible.
Morris expresó su creencia de que el experimento está exento de los requisitos de consentimiento informado, pero los expertos en inteligencia artificial sintieron que la naturaleza delicada del apoyo a la salud mental requiere consideraciones sobre la responsabilidad y las revisiones éticas.
Este es otro ejemplo más del área gris en torno al cumplimiento legal y el uso ético de la IA. Las empresas que tengan la intención de utilizar IA deben evaluar cuidadosamente sus obligaciones legales e, incluso cuando la ley no requiera técnicamente el consentimiento, pensar en lo que esperaría un consumidor razonable.