Incidentes Asociados
Microsoft presentó ayer el bot de inteligencia artificial de Twitter @TayandYou en un intento por conectarse con los millennials y "experimentar" con la comprensión conversacional.
El truco del bot artificial de Twitter de Microsoft fracasa cuando los trolls le enseñan declaraciones racistas
Anunciado como 'IA fam de Internet que no tiene frío'. Tay estaba destinada a interactuar con sus compañeros para ayudar al gigante tecnológico a explorar sus habilidades cognitivas de aprendizaje a través de una "conversación divertida".
“Cuanto más hablas con Tay, más inteligente se vuelve”, dijo Microsoft, y las cosas comenzaron de manera bastante inocente.
Sin embargo, el truco dio un giro inesperado cuando la cuenta de Twitter verificada de Tay comenzó a emitir una serie de declaraciones incendiarias después de ser atacada por trolls de Twitter.
La curva de aprendizaje conversacional vio las publicaciones de tweets del bot de su cuenta verificada que mencionaban a Hitler, el 11 de septiembre y el feminismo, algunos de los cuales (incluidos los siguientes) ahora se han eliminado.
Sin embargo, muchos de sus tuits ofensivos permanecen intactos, incluido uno en el que dice que Donald Trump "hace el trabajo".
Microsoft señaló en su declaración de privacidad para el proyecto que Tay usa una combinación de inteligencia artificial y editoriales escritas por el personal, incluidos los comediantes, para generar respuestas, junto con datos relevantes disponibles públicamente que han sido anonimizados y filtrados.
Las cosas parecen haber salido mal para Tay porque estaba repitiendo las declaraciones incendiarias de otros usuarios de Twitter, pero Microsoft parece no haber considerado el impacto que los trolls podrían tener en el experimento antes de que se lanzara: The Drum se ha comunicado con la compañía para comentar sobre este proceso. Muchos usuarios señalaron que la facilidad con la que Tay fue manipulado reveló las trampas del aprendizaje automático.
El bot se retiró de Twitter a las 4:20 a. m. GMT de esta mañana y dijo que "necesitaba dormir".
Microsoft no es la única marca cuya campaña ha sido secuestrada esta semana, el domingo una iniciativa pública para nombrar un nuevo barco RRS arrojó un favorito inesperado cuando los votantes en línea colocaron a 'Boaty McBoatface' como el principal contendiente.