Incidentes Asociados
El chatbot basado en inteligencia artificial Lee Luda, que terminó este mes en una controversia ética y de recopilación de datos, enfrenta demandas por cargos de violación de información personal.
El viernes, alrededor de 400 personas presentaron una demanda colectiva contra el creador del chatbot, la startup Scatter Lab con sede en Seúl, alegando que su información personal se filtró en el proceso de desarrollo y prestación del servicio.
Lanzado el 23 de diciembre, Lee Luda, un servicio de chatbot de IA diseñado para imitar a un estudiante universitario de 20 años, atrajo instantáneamente a más de 400 000 usuarios con su capacidad de comunicarse de manera humana. Pero el servicio terminó solo una semana después, luego de que se plantearan numerosos problemas con el bot, como expresiones discriminatorias, protección de información personal y ética de inteligencia artificial.
“Cerraremos las solicitudes (hoy) y revisaremos más tarde si recolectar víctimas adicionales”, dijo el viernes Taerim, el bufete de abogados que representa a las víctimas.
Los acusados presentaron una solicitud de conservación de pruebas contra Scatterlab ante el Tribunal del Distrito Este de Seúl el día anterior. Le pidieron a la corte que se asegurara de que Scatter Lab preservara la base de datos construida usando las conversaciones de KakaoTalk de los usuarios como evidencia para su caso.
Scatter Lab recopiló conversaciones de usuarios de KakaoTalk a través de sus aplicaciones de análisis de relaciones Science of Love y Text At para crear a Lee Luda. Después de recopilar alrededor de 10 mil millones de conversaciones de KakaoTalk, se cree que 100 millones de ellas se recopilaron y utilizaron en la base de datos de Lee Luda.
Las organizaciones gubernamentales, el Comité de Protección de Información Personal y la Agencia de Seguridad e Internet de Corea, también están investigando por separado si el servicio violó la ley de protección de información personal.
Un día antes, grupos cívicos, People's Solidarity for Participatory Democracy, Korean Progressive Network Center y Lawyers for Democratic Society, presentaron una queja ante el Comité de Protección de Información Personal, solicitando una investigación exhaustiva de Scatter Lab.
Dijeron que sospechaban que la puesta en marcha no pasó por los procedimientos legales apropiados para los usuarios del servicio y utilizó los datos recopilados en una medida más allá de lo que los usuarios acordaron.
Los grupos cívicos culparon al gobierno actual, diciendo que solo "enfatizó el fomento de la 'industria de big data' y presionó para que se revisara la ley".
Agregaron que “en el proceso, los derechos de los sujetos de la información fueron tratados exhaustivamente como ‘daño incidental’”.
“Incluso ahora, necesitamos revisar la legislación pertinente para evitar más daños”.