Incidentes Asociados
Seúl, 28 de abril (Yonhap) -- El organismo de control de protección de datos de Corea del Sur ha impuesto, este miércoles, una fuerte sanción monetaria a una startup por filtrar una cantidad masiva de información personal en el proceso de desarrollo y comercialización de un controvertido chatbot femenino.
La Comisión de Protección de Información Personal (PIPC, por sus siglas en inglés) dijo que Scatter Lab, una empresa emergente con sede en Seúl, recibió la orden de pagar 103,3 millones de won (92 900 USD) en multas: un recargo por multa de 55,5 millones de won y una multa administrativa de 47,8 millones de won. por usar ilegalmente información personal de sus clientes en el desarrollo y operación de su servicio de chatbot basado en inteligencia artificial llamado "Lee Luda".
Es la primera vez en Corea del Sur que el gobierno sanciona el uso indiscriminado de información personal por parte de empresas que utilizan tecnología de IA.
Scatter Lab está acusado de utilizar los 9.400 millones de conversaciones de KakaoTalk de unas 600.000 personas recopiladas de sus aplicaciones de análisis emocional Science of Love y Text At en el proceso de desarrollo y operación del servicio de chatbot Lee Luda sin obtener su consentimiento previo.
La compañía también es criticada por no eliminar o codificar los nombres de los usuarios de la aplicación, los números de teléfono móvil y las direcciones personales antes de usarlos en el desarrollo de sus algoritmos de aprendizaje de IA chatbot.
Además, el chatbot de Lee Luda fue programado para seleccionar y pronunciar una de aproximadamente 100 millones de oraciones de conversación de KakaoTalk de mujeres de 20 años, dijo el PIPC.
Scatter Lab dijo que asume toda la responsabilidad y está tomando medidas para evitar que se repita.
"Sentimos un fuerte sentido de responsabilidad social como empresa de tecnología de inteligencia artificial sobre la necesidad de participar en el procesamiento adecuado de la información personal en el curso del desarrollo de tecnologías y servicios relacionados", dijo la compañía en un comunicado de prensa el miércoles por la noche.
"Tras la decisión de PIPC, no solo implementaremos activamente las acciones correctivas propuestas por PIPC, sino que también trabajaremos para cumplir con la ley y las pautas de la industria relacionadas con el procesamiento de información personal", dijo la compañía.
Para evitar que esto vuelva a suceder, la compañía dijo que está tomando varias medidas bajo estándares más estrictos, incluido el trabajo para restringir los servicios para menores de 14 años y otras actualizaciones para mejorar la protección de los datos personales.
El servicio de chatbot de Lee Luda atrajo a más de 750.000 usuarios en solo tres semanas después de su lanzamiento el 23 de diciembre, pero Scatter Lab suspendió el servicio basado en Facebook el mes siguiente en medio de quejas por su lenguaje discriminatorio y ofensivo contra las minorías sexuales.
El PIPC dijo que Scatter Lab ha utilizado información personal recopilada de sus aplicaciones Science of Love y Text At más allá del propósito de la recopilación.
La empresa también está acusada de recopilar información personal de unos 200.000 niños menores de 14 años sin obtener el consentimiento de sus padres o tutores en el proceso de desarrollo y operación de sus servicios.
Scatter Lab no fijó ningún límite de edad para reclutar suscriptores para sus servicios de aplicaciones y recopiló 48.000 datos personales de niños a través de Text At, 120.000 datos de niños de Science of Love y 39.000 datos de niños de Lee Luda, dijo la comisión.
"Este caso es significativo porque a las empresas no se les permite usar la información personal recopilada para servicios específicos indiscriminadamente para otros servicios sin obtener el consentimiento explícito de las personas interesadas", dijo el presidente de PIPC, Yoon Jong-in.