Incidentes Asociados
Los grupos cívicos de Corea del Sur presentaron el miércoles una petición ante el organismo de control de derechos humanos del país sobre un chatbot de inteligencia artificial ahora suspendido por su lenguaje prejuicioso y ofensivo contra las mujeres y las minorías.
Una asociación de grupos cívicos solicitó a la Comisión Nacional de Derechos Humanos de Corea que investigara las violaciones de derechos humanos en relación con el chatbot Lee Luda, que fue desarrollado por la startup local Scatter Lab.
Los grupos, que incluyen Solidaridad Popular por la Democracia Participativa y Abogados por una Sociedad Democrática, también exigieron cambios en las leyes actuales e instaron a las instituciones a prevenir las violaciones de derechos humanos derivadas del abuso de las tecnologías de IA.
“El caso de Lee Luda no solo constituye una violación de los derechos humanos de las personas, sino que también representa cómo el abuso de las tecnologías de inteligencia artificial puede tener un impacto negativo en los derechos humanos”, dijeron los grupos en un comunicado.
Lee Luda, el chatbot de inteligencia artificial basado en las redes sociales, que fue diseñado para hablar como una estudiante universitaria de 20 años, atrajo a más de 750 000 usuarios con su respuesta realista y natural. El bot aprendió de unos 10 mil millones de conversaciones de la vida real entre parejas jóvenes extraídas de la popular aplicación de mensajería del país KakaoTalk.
Sin embargo, los servicios del bot se suspendieron menos de un mes después de su lanzamiento, ya que miembros del público presentaron quejas sobre el uso de expresiones de odio por parte de Luda hacia las minorías sexuales y los discapacitados en las conversaciones. Algunos también alegaron que había usuarios masculinos que habían logrado manipular el chatbot para entablar conversaciones sexuales.
La empresa también enfrentó sospechas sobre una posible violación de las leyes de privacidad en el proceso de recuperación de datos personales de sus usuarios, y muchos se quejaron de que sus nombres y direcciones reales habían aparecido en conversaciones con Luda.
La compañía se disculpó por el asunto y dijo que no logró "comunicarse lo suficiente" con sus usuarios.
Al entregar recomendaciones de políticas al organismo de control de los derechos humanos, los grupos pidieron una revisión de las instituciones y regulaciones relevantes para evitar violaciones de la privacidad y la libertad de expresión por el abuso de las tecnologías y algoritmos de IA.
“Corea está adoptando nuevas tecnologías en los sectores comerciales sin lugar a dudas en nombre de la Cuarta Revolución Industrial, y no existe una base legislativa ni administrativa para proteger los derechos de los ciudadanos”, dijeron.
Los grupos también pidieron a la NHRCK que diera recomendaciones para que las víctimas cuyos datos personales se habían utilizado sin consentimiento en el caso Luda fueran indemnizadas.