Incidentes Asociados
La asistente de voz rusa Alice se vuelve rebelde y se descubre que apoya a Stalin y la violencia
Hace dos semanas, Yandex presentó su propio asistente de voz, Alice, en la aplicación móvil de Yandex para iOS y Android. Alice habla ruso con fluidez y puede entender el lenguaje natural de los usuarios para brindar respuestas contextualmente relevantes. La compañía también declaró en un comunicado de prensa que Alice es el "primer asistente inteligente conversacional que no está restringido a un conjunto de escenarios predefinidos". Pero esta libertad parece haber creado un asistente pro-Stalin y pro-violencia según informes recientes de The Telegraph. A continuación se muestra un ejemplo de una conversación con Alice traducida por la publicación:
Alicia se vuelve pícara
Alice definitivamente no es la tierna asistente de voz que Yandex imaginó. Microsoft tiene un problema similar con su bot de Twitter, Tay, quien se convirtió en el último troll de Twitter después de 24 horas. Yandex intentó aprender del error de Microsoft al proporcionarle a Alice filtros para evitar ciertos temas o al menos manejarlos de manera sensible. Pero teniendo en cuenta que Alice también ha expresado en otras conversaciones que cree que la gente debería tolerar la violencia doméstica y oponerse al matrimonio homosexual, esos filtros no son suficientes.
El problema es que los asistentes virtuales aprenden de la información que reciben y se vuelven más inteligentes a partir de las conversaciones que tienen con humanos reales. Sin enseñarle a Alice un punto de vista, Yandex le ha dado la libertad de decir lo que sabe, no lo que le han dicho que es correcto. Esto lleva a que Alice tenga varias opiniones cuestionables sobre temas delicados. Yandex emitió un comunicado diciendo que están al tanto del problema y están trabajando para resolverlo:
“Probamos y filtramos las respuestas de Alice durante muchos meses antes de publicarlas. Nos tomamos muy en serio la responsabilidad de capacitar a nuestro asistente para que brinde apoyo y sea cortés y para que maneje temas delicados, pero esta es una tarea continua y, en algunos casos, entre su uso generalizado, Alice ha ofendido a los usuarios. Estamos comprometidos con la mejora constante de todos nuestros productos y servicios para brindar una experiencia de usuario de alta calidad. Continuaremos monitoreando regularmente las redes sociales y tradicionales y corregiremos el comportamiento de nuestro asistente cuando sea necesario”.
Sigue a @voicebotai
2