Incidentes Asociados
El software poco fiable instalado para cumplir con las normas que ayudan a las personas discapacitadas a navegar por Internet ha dado lugar a miles de demandas judiciales.
Jakob Rosin, un miembro destacado de la comunidad ciega de Estonia, recordó haber navegado por el sitio web de un club deportivo con la ayuda de un software de audio que lee en voz alta una descripción del texto y las imágenes que se muestran en una pantalla.
Rosin escuchó el lector de pantalla, una herramienta que le ayuda a recorrer una lista en línea de los próximos eventos del club. Sin embargo, se quedó confundido cuando el audio describió un baño mientras recorría el programa. Descubrió más tarde que la imagen de viñetas utilizada para la lista había provocado el error.
Le dijo al club, que había instalado un software impulsado por IA en su sitio web que crea automáticamente descripciones de imágenes para lectores de pantalla, sobre el error. El club "no tenía idea" de que el software, configurado sin intervención manual, fuera tan poco fiable, dijo Rosin.
Sin embargo, la lectura engañosa no es inusual y expone debilidades en el software generado por IA que muchos creen que aún necesitan ser ajustadas.
De hecho, estos errores han provocado una reacción más fuerte en todo el mundo, con un aumento del número de demandas por la mala accesibilidad a los sitios web para personas discapacitadas.
En Estados Unidos, por ejemplo, las demandas contra empresas que no cumplen con las normas de accesibilidad han aumentado cada año hasta más de 4.500 casos en 2023, según muestran los datos de UsableNet. Esto supone un aumento del 13 por ciento con respecto a 2022.
El año pasado, más de 900 empresas, entre ellas los grandes almacenes estadounidenses JCPenney y la marca de moda de lujo Prabal Gurung, se enfrentaron a acciones legales de particulares por reclamaciones de una supuesta falta de igualdad de acceso digital para personas discapacitadas, en violación de la Ley de Estadounidenses con Discapacidades.
Las acciones se han producido mientras cientos de miles de empresas de todo el mundo (hasta 360.000, según un análisis del Financial Times de los datos de los sitios web de la empresa de investigación de Internet BuiltWith) han recurrido a herramientas impulsadas por inteligencia artificial para cumplir con las normas destinadas a garantizar que las personas con discapacidades, como la ceguera, puedan navegar por Internet fácilmente.
Al menos 45 países tienen alguna política gubernamental en marcha relacionada con hacer accesible Internet. Esto puede significar proporcionar descripciones de imágenes para usuarios ciegos, eliminar animaciones que provoquen epilepsia y entregar contenido de una manera que las tecnologías de asistencia, como los lectores de pantalla, puedan entender.
Sin embargo, las empresas que dependen de asistentes de código de accesibilidad y "superposiciones" (software que transforma un sitio web para que pueda ser entendido por tecnologías de asistencia) parecen haberse expuesto a más responsabilidades, ya que las herramientas aún necesitan mejorar.
Las empresas de software han comenzado a impulsar productos impulsados por IA para cumplir con la legislación europea que entra en vigencia en junio de 2025, dicen varias empresas que brindan a sus clientes un servicio a medida, en lugar de automatizado, para crear sitios web más compatibles.
Muchas de estas empresas de software que promueven la IA dicen que una línea de código será suficiente para garantizar el cumplimiento. Estas superposiciones se muestran en sitios tan variados como la petrolera estatal mexicana Pemex, LVMH y el grupo de subcontratación que cotiza en la bolsa de Londres Capita.
Pero esta afirmación genera dudas, ya que la UE, por ejemplo, advirtió el año pasado que las empresas no pueden confiar únicamente en la IA para cumplir con las normativas.
“Las afirmaciones de que un sitio web puede cumplir plenamente con las normativas sin intervención manual no son realistas”, afirmó Bruselas en una guía para desarrolladores europeos.
Algunas características de las superposiciones pueden ayudar a quienes desean personalizar sus experiencias digitales. Sin embargo, los defensores de las personas con discapacidad afirman que estas empresas de software hacen promesas que no pueden cumplir.
Cuando dicen “van a salvarte de ser procesado o [que van a] solucionar la accesibilidad al 100 por ciento, es cuando todo se desmorona”, dijo Léonie Watson, ciega y cofundadora de TetraLogical, una consultora que crea soluciones de accesibilidad a medida para sus clientes.
Los usuarios ciegos a menudo dicen que las superposiciones pueden dificultar la navegación en los sitios web o que interfieren con las tecnologías de asistencia.
Por ejemplo, una superposición de EqualWeb para el minorista de moda Zara, propiedad de Inditex, ralentizó la experiencia en línea para un usuario de lector de pantalla al tratar con enlaces de redes sociales, dijo Rosin.
Un clip de audio de un lector de pantalla para enlaces de redes sociales en el sitio web de Zara. La superposición se desactiva y luego se activa. EqualWeb, que produce la superposición utilizada en el sitio web del minorista de moda, dijo que los enlaces con la superposición activada cumplen con los estándares de accesibilidad. Video cortesía de Financial Times. “El producto no está listo”, agregó Rosin, quien fundó su propia consultoría de accesibilidad y preside la Unión de Ciegos de Estonia, una organización con sede en el estado báltico que defiende a las personas ciegas y con visión parcial.
Anat Cohen, vicepresidenta de desarrollo comercial en EqualWeb, dijo que el problema en el sitio web de Zara no estaba relacionado con la tecnología de accesibilidad, sino que “se origina en el diseño estructural del sitio web”.
“EqualWeb no administra la estructura del sitio web, pero garantizar la accesibilidad es nuestra responsabilidad”, agregó.
Mark Riccobono, presidente de la Federación Nacional de Ciegos de Estados Unidos, dijo que, aunque se necesitan demandas para proteger los derechos de las personas con discapacidad, su asociación intenta trabajar con las empresas para mejorar primero sus productos digitales.
Es probable que se produzcan avances a medida que las tecnologías de IA mejoren. Mientras tanto, muchas empresas consideradas de confianza entre los defensores de las personas con discapacidad apuntan a ser más transparentes sobre las limitaciones de la IA.
Level Access, un proveedor de accesibilidad, acaba de comprar UserWay, un fabricante de superposiciones. Su fundador y director ejecutivo, Timothy Springer, ha abordado algunas de las críticas a la tecnología de UserWay y ha prometido precisión y transparencia en el marketing de Level Access.
"No esperamos que la IA solucione todos los problemas de accesibilidad en el futuro previsible", dijo Springer, añadiendo que reconoce sus limitaciones. "Sin embargo, somos optimistas sobre el potencial de la IA" para mejorar "la accesibilidad del contenido digital como parte de un enfoque más amplio e integrado".
"Aún tenemos muchos inconvenientes", añadió Rosin. "Quizás algún día tengamos una IA que pueda ayudarnos y que pueda solucionar muchos problemas, pero definitivamente no hoy".
Mientras tanto, Rosin ayudó al club deportivo estonio a solucionar el problema de software en su sitio web que tanto lo desconcertó. El club optó por no utilizar inteligencia artificial.