Incidentes Asociados
A partir de este mes, 21 años después de que Microsoft apagara Clippy porque la gente lo odiaba tanto, Google está implementando una nueva característica llamada "escritura asistida" que se mete en su prosa para hacer notas de estilo y tono sobre la elección de palabras, la concisión y el lenguaje inclusivo. .
La compañía ha estado hablando de esta característica por un tiempo; el año pasado, publicó pautas de documentación que instan a los desarrolladores a usar un lenguaje, voz y tono de documentación accesibles. Se está implementando de forma selectiva para usuarios de nivel empresarial y está activado de forma predeterminada. Pero esta función aparece para los usuarios finales en Google Docs, uno de los productos más utilizados de la compañía, y es muy molesto.
En Motherboard, el redactor sénior Lorenzo Franceschi-Bicchierai escribió "molesto" y Google sugirió que lo cambiara a "enojado" o "molesto" para "hacer que su escritura fluya mejor". Estar molesto es una emoción completamente diferente a estar enojado o molesto, y "molesto" es tan amorfo que podría significar todo un espectro de sentimientos, pero Google es una máquina, mientras que Lorenzo es un escritor.
La editora social Emily Lipstein escribió "Motherboard" (como en el nombre de este sitio web) en un documento y Google apareció para decirle que estaba siendo insensible: "Advertencia inclusiva. Algunas de estas palabras pueden no ser inclusivas para todos los lectores. Considere usar palabras diferentes”.
La periodista Rebecca Baird-Remba tuiteó una "advertencia inclusiva" que recibió sobre la palabra "propietario", que Google sugirió que cambiara a "dueño de la propiedad" o "propietario".
El editor de Motherboard, Tim Marchman, y yo seguimos probando los límites de esta función con prosa de extractos de obras famosas y entrevistas. Google sugirió que Martin Luther King Jr. debería haber hablado sobre "la intensa urgencia del ahora" en lugar de "la feroz urgencia del ahora" en su discurso "Tengo un sueño" y editó el uso del presidente John F. Kennedy en su discurso inaugural de la frase “para toda la humanidad” para decir “para toda la humanidad”. Una entrevista transcrita del neonazi y ex líder del Klan, David Duke, en la que usa la palabra N y habla sobre la caza de personas negras, no recibe notas. SCUM Manifesto de la feminista radical Valerie Solanas recibe más ediciones que la diatriba de Duke; debería usar "oficiales de policía" en lugar de "policías", señala amablemente Google. Incluso Jesús (o al menos los traductores responsables de la Biblia King James) no se sale con la suya fácilmente; en lugar de hablar de las obras "maravillosas" de Dios en el Sermón de la Montaña, el robot de Google afirma que debería haber usado las palabras "grandes". ”, “maravilloso” o “encantador”.
Google le dijo a Motherboard que esta característica está en una "evolución continua".
“La escritura asistida utiliza modelos de comprensión del lenguaje, que se basan en millones de frases y oraciones comunes para aprender automáticamente cómo se comunican las personas. Esto también significa que pueden reflejar algunos sesgos cognitivos humanos”, dijo un portavoz de Google. “Nuestra tecnología siempre está mejorando, y aún no tenemos (y es posible que nunca) tengamos una solución completa para identificar y mitigar todas las asociaciones de palabras no deseadas y sesgos”.
Ser más inclusivos con nuestra escritura es un buen objetivo, y vale la pena esforzarse por lograrlo mientras unimos estas oraciones y las compartimos con el mundo. "Oficiales de policía" es más exacto que "policías". Eliminar frases como "lista blanca/lista negra" y "maestro/esclavo" de nuestro vocabulario no solo aborda años de sesgo habitual en la terminología tecnológica, sino que nos obliga, como escritores e investigadores, a ser más creativos con la forma en que describimos las cosas. Los cambios en nuestro discurso, como cambiar los vuelos espaciales "tripulados" por "tripulados", son intentos de corregir las historias de borrar a las mujeres y las personas no binarias de las industrias en las que trabajan.
Pero las palabras significan cosas; llamar a los propietarios "propietarios" es casi peor que llamarlos "landchads", y la mitad de exacto. Está dirigido a personas como Howard Schultz que preferirían que no lo llames multimillonario, sino una "persona de medios". En un extremo más extremo, si alguien tiene la intención de ser racista, sexista o excluyente en sus escritos y quiere redactar eso en un documento de Google, se le debería permitir hacerlo sin que un algoritmo intente desinfectar sus intenciones y confundir a sus lectores Así es como terminamos con los silbatos para perros.
Pensar y escribir fuera de los términos binarios como "madre" y "padre" puede ser útil, pero algunas personas son madres y la persona que escribe sobre ellas debe saberlo. Algunos sitios web (y partes de la computadora) se llaman simplemente Motherboard. Tratar de calzar la autoconciencia, la sensibilidad y la edición cuidadosa en la escritura de las personas utilizando algoritmos de aprendizaje automático, que ya son piezas de tecnología profundamente defectuosas y con frecuencia poco inteligentes, es un error. Especialmente cuando proviene de una empresa que está lidiando con su propio cálculo interno en la inclusión, la diversidad y el maltrato de los trabajadores que defienden una mejor ética en la IA.
Es probable que estas sugerencias mejoren a medida que los usuarios de Google Docs respondan a ellas, poniendo una cantidad incalculable de trabajo no remunerado en el entrenamiento de los algoritmos como ya entrenamos sus funciones de autocorrección, texto predictivo y sugerencias de búsqueda. Hasta entonces, tendremos que seguir diciéndole que no, realmente nos referimos a Motherboard.