Incidents associés
Google a été critiqué pour une fonctionnalité de "langage inclusif" qui recommandera des substitutions de mots pour les personnes écrivant dans Google Docs.
L'outil offrira des conseils aux personnes qui écrivent d'une manière qui "peut ne pas être inclusive pour tous les lecteurs" de la même manière que les systèmes de vérification orthographique et grammaticale.
Bien que les suggestions ne soient que des suggestions - elles ne sont pas imposées aux écrivains et l'outil peut être désactivé - les critiques l'ont décrit comme "une police de la parole" et "profondément maladroite, effrayante et fausse".
La nouvelle fonctionnalité est officiellement appelée écriture assistée et sera activée par défaut pour les utilisateurs d'entreprise, les clients professionnels qui pourraient vouloir pousser des styles d'écriture particuliers parmi leur personnel.
Le langage privilégié par le système reflète des décennies de campagne en faveur de termes non sexistes ("équipage" au lieu de "personnel") et contre des expressions qui reflètent des préjugés raciaux ("liste de refus" au lieu de "liste noire"), ainsi que des préoccupations plus modernes concernant l'impact de notre vocabulaire sur la façon dont nous identifions les gens.
Mais malgré les énormes développements dans la façon dont les ordinateurs comprennent le langage naturel, la technologie en est encore à ses balbutiements.
Parmi les mots que le système a signalés lors des tests figurent "humanité", "femme au foyer", "propriétaire" et même une "carte mère" d'ordinateur - ce qui ne peut pas offenser.
Google déclare : "Un langage potentiellement discriminatoire ou inapproprié sera signalé, ainsi que des suggestions sur la manière de rendre votre écriture plus inclusive et appropriée pour votre public."
L'outil rappelle l'assistant tristement ennuyeux de Microsoft, Clippy, qui a interrompu les propres styles de prose des écrivains avec des suggestions souvent malvenues.
Vice News a testé la fonctionnalité en soumettant plusieurs discours et passages littéraires célèbres, dont le Sermon sur la montagne dans la Bible, et a trouvé la plupart des mauvaises recommandations reçues.
Notamment, il a également découvert qu'une interview de l'ancien chef du Ku Klux Klan, David Duke – dans laquelle il parlait de la chasse aux Noirs – n'a suscité aucune alerte ou avertissement d'inclusivité.
Silkie Carlo, directrice de Big Brother Watch, qui milite pour la protection des libertés civiles, a déclaré au Telegraph : "Les nouveaux avertissements de mots de Google ne sont pas d'assistance, ils sont profondément intrusifs. Avec le nouvel outil d'écriture assistée de Google, l'entreprise n'est pas lire seulement chaque mot que vous tapez mais vous dire quoi taper.
"Cette surveillance de la parole est profondément maladroite, effrayante et erronée, renforçant souvent les préjugés. Une technologie invasive comme celle-ci porte atteinte à la vie privée, à la liberté d'expression et de plus en plus à la liberté de pensée."
Lazar Radic du Centre international de droit et d'économie a déclaré au journal : "Non seulement c'est incroyablement vaniteux et condescendant, mais cela peut aussi servir à étouffer l'individualité, l'expression de soi, l'expérimentation et - d'un point de vue purement utilitaire - le progrès."
Google a déclaré : « L'écriture assistée utilise des modèles de compréhension du langage, qui s'appuient sur des millions d'expressions et de phrases courantes pour apprendre automatiquement comment les gens communiquent. Cela signifie également qu'ils peuvent refléter certains biais cognitifs humains.
"Notre technologie s'améliore constamment, et nous n'avons pas encore (et peut-être jamais) de solution complète pour identifier et atténuer toutes les associations de mots indésirables et les biais."