Description: AI-powered accessibility overlays on websites frequently mislabel or misinterpret content, in turn complicating navigation for blind users and others with disabilities. Users report that the AI tools interfere with screen readers and mislead them with inaccurate descriptions. The reported unreliability in these tools have prompted legal action, as the companies behind them seek compliance with accessibility laws.
Editor Notes: This incident ID is a collective incident ID. Reconstructing the timeline of events: (1) 2019-2023 saw a significant increase in the use of AI-powered accessibility tools. (2) In 2023, in the U.S. over 4,500 lawsuits were filed against companies’ weak compliance with accessibility regulations. (3) The Financial Times published their investigation on April 7, 2024.
Entités
Voir toutes les entitésAlleged: EqualWeb , UserWay et Developers of AI-based accessibility tools developed an AI system deployed by Zara , Pemex , LVMH , Capita et Companies using AI-based accessibility tools, which harmed Blind people , Visually impaired people et Jakob Rosin.
Statistiques d'incidents
ID
830
Nombre de rapports
1
Date de l'incident
2024-04-07
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
ft.com · 2024
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Des logiciels peu fiables installés pour se conformer aux règles visant à aider les personnes handicapées à naviguer en ligne ont donné lieu à des milliers de poursuites judiciaires.
Jakob Rosin, un membre éminent de la communauté des aveug…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
The man who was fired by a machine
· 20 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
The man who was fired by a machine
· 20 rapports