Incidents associés
Des logiciels peu fiables installés pour se conformer aux règles visant à aider les personnes handicapées à naviguer en ligne ont donné lieu à des milliers de poursuites judiciaires.
Jakob Rosin, un membre éminent de la communauté des aveugles d’Estonie, se souvient avoir parcouru le site Web d’un club de sport à l’aide d’un logiciel audio qui lit une description du texte et des images affichés sur un écran.
Rosin a écouté le lecteur d’écran, un outil qui l’aide à parcourir une liste en ligne des événements à venir du club. Cependant, il a été confus lorsque l’audio a décrit des toilettes pendant qu’il parcourait le programme. Il a découvert plus tard que l’image des puces utilisée pour la liste avait provoqué l’erreur.
Il a informé le club, qui avait installé un logiciel piloté par l’IA sur son site Web qui crée automatiquement des descriptions d’images pour les lecteurs d’écran, de l’erreur. Le club n’avait « aucune idée » que le logiciel, installé sans intervention manuelle, était aussi peu fiable, a déclaré Rosin.
Cependant, cette lecture trompeuse n’est pas inhabituelle et expose les faiblesses du logiciel généré par l’IA qui, selon beaucoup, doivent encore être peaufinées.
En fait, ces erreurs ont déclenché une réaction plus forte dans le monde entier, avec une augmentation du nombre de poursuites judiciaires pour manque d’accessibilité des sites Web pour les personnes handicapées.
Aux États-Unis, par exemple, les poursuites contre le non-respect des réglementations en matière d’accessibilité par les entreprises ont augmenté chaque année pour atteindre plus de 4 500 cas en 2023, selon les données d’UsableNet. Cela représente une augmentation de 13 % par rapport à 2022.
L’année dernière, plus de 900 entreprises, dont le grand magasin américain JCPenney et la marque de mode de luxe Prabal Gurung, ont fait l’objet d’actions en justice de la part de particuliers pour manquement présumé à fournir un accès numérique égal aux personnes handicapées, en violation de l’Americans with Disabilities Act.
Ces actions surviennent alors que des centaines de milliers d’entreprises dans le monde – jusqu’à 360 000, selon une analyse du Financial Times des données de sites Web de la société de recherche Internet BuiltWith – se sont tournées vers des outils basés sur l’intelligence artificielle pour se conformer aux règles destinées à garantir que les personnes handicapées, comme la cécité, puissent naviguer facilement sur Internet.
Au moins 45 pays ont mis en place une politique gouvernementale visant à rendre Internet accessible. Cela peut consister à fournir des descriptions d’images aux utilisateurs aveugles, à supprimer les animations qui déclenchent l’épilepsie et à fournir du contenu d’une manière que les technologies d’assistance, telles que les lecteurs d’écran, peuvent comprendre.
Cependant, les entreprises qui s’appuient sur des assistants de code d’accessibilité et des « overlays » (logiciels qui transforment un site Web pour qu’il puisse être compris par les technologies d’assistance) semblent s’être exposées à davantage de responsabilités, car ces outils doivent encore être améliorés.
Les éditeurs de logiciels ont commencé à pousser les produits basés sur l’IA à se conformer à la législation européenne qui entrera en vigueur en juin 2025, affirment plusieurs entreprises qui fournissent à leurs clients un service sur mesure, plutôt qu’automatisé, pour créer des sites Web plus conformes.
Beaucoup de ces éditeurs de logiciels qui font la promotion de l’IA affirment qu’une seule ligne de code suffira à garantir la conformité. Ces overlays sont affichés sur des sites aussi variés que la compagnie pétrolière publique mexicaine Pemex, LVMH et le groupe d’externalisation coté à Londres Capita.
Mais cette affirmation suscite des doutes, l’UE ayant par exemple prévenu l’année dernière que les entreprises ne pouvaient pas compter uniquement sur l’IA pour se conformer.
« Les affirmations selon lesquelles un site Web peut être rendu entièrement conforme sans intervention manuelle ne sont pas réalistes », a déclaré Bruxelles dans un guide destiné aux développeurs européens.
Certaines fonctionnalités des superpositions peuvent aider ceux qui souhaitent personnaliser leurs expériences numériques. Cependant, les défenseurs des personnes handicapées affirment que ces sociétés de logiciels font des promesses qu’elles ne peuvent pas tenir.
Lorsqu’elles disent « qu’elles vont vous épargner des poursuites judiciaires ou qu’elles vont corriger l’accessibilité à 100 %, c’est là que tout s’effondre », a déclaré Léonie Watson, qui est aveugle et a cofondé TetraLogical, un cabinet de conseil qui crée des solutions d’accessibilité sur mesure pour ses clients.
Les utilisateurs aveugles disent souvent que les superpositions peuvent rendre les sites Web plus difficiles à naviguer ou qu’elles interfèrent avec les technologies d’assistance.
Une superposition EqualWeb pour le détaillant de mode Zara appartenant à Inditex ralentissait l'expérience en ligne pour un utilisateur de lecteur d'écran, par exemple, lorsqu'il traitait des liens vers les médias sociaux, a déclaré Rosin.
Un extrait audio d'un lecteur d'écran pour les liens vers les médias sociaux sur le site Web de Zara. La superposition est désactivée puis activée. EqualWeb, qui produit la superposition utilisée sur le site Web du détaillant de mode, a déclaré que les liens avec la superposition activée sont conformes aux normes d'accessibilité. Vidéo avec l'aimable autorisation du Financial Times.
"Le produit n'est pas prêt", a ajouté Rosin, qui a fondé son propre cabinet de conseil en accessibilité et préside l'Union estonienne des aveugles, une organisation basée dans l'État balte qui défend les personnes malvoyantes et aveugles.
Anat Cohen, vice-présidente du développement commercial chez EqualWeb, a déclaré que le problème sur le site Web de Zara n'était pas lié à la technologie d'accessibilité mais "découle de la conception structurelle du site Web".
"EqualWeb ne gère pas la structure du site Web, mais garantir l'accessibilité est notre responsabilité", a-t-elle ajouté.
Mark Riccobono, président de la Fédération nationale des aveugles aux États-Unis, a déclaré que, même si des poursuites judiciaires sont nécessaires pour protéger les droits des personnes handicapées, son association essaie de travailler avec les entreprises pour améliorer leurs produits numériques en premier.
Des progrès sont probables à mesure que les technologies d’IA s’améliorent. En attendant, de nombreuses entreprises considérées comme réputées par les défenseurs des personnes handicapées souhaitent être plus transparentes sur les limites de l’IA.
Level Access, un fournisseur d’accessibilité, vient d’acheter UserWay, un fabricant de superpositions. Son fondateur et directeur général, Timothy Springer, a répondu à certaines des critiques concernant la technologie d’UserWay et a promis précision et transparence dans le marketing de Level Access.
« Nous ne nous attendons pas à ce que l’IA résolve tous les problèmes d’accessibilité dans un avenir proche », a déclaré Springer, ajoutant qu’il reconnaissait ses limites. « Cependant, nous sommes optimistes quant au potentiel de l’IA » pour améliorer « l’accessibilité du contenu numérique dans le cadre d’une approche plus large et intégrée ».
« Nous avons encore tellement d’inconvénients », a ajouté Rosin. « Peut-être qu’un jour nous aurons une IA qui pourra nous aider et qui pourra résoudre de nombreux problèmes, mais certainement pas aujourd’hui. »
Entre-temps, Rosin a aidé le club sportif estonien à résoudre le problème de logiciel sur son site Web qui l'avait tant perturbé. Il a choisi de ne pas utiliser l'IA.