Incidentes Asociados
Lloyd's of London ha presentado un producto de seguros para empresas que se enfrentan a fallos relacionados con la inteligencia artificial (IA).
Como informó el Financial Times (FT) el domingo 11 de mayo, este lanzamiento se produce en un momento en que la industria aseguradora intenta capitalizar la preocupación por el riesgo de pérdidas derivadas de errores o alucinaciones de chatbots de IA.
Las pólizas se ofrecen a través de una startup llamada Armilla y cubrirán el coste de las demandas judiciales contra una empresa si esta es demandada por un cliente u otro tercero perjudicado por un producto de IA de bajo rendimiento, según el informe.
Como señaló el Financial Times, si bien las empresas han adoptado la IA para aumentar la eficiencia, algunas herramientas, como los bots de atención al cliente, han generado errores vergonzosos y costosos debido a alucinaciones, o cuando un modelo de IA inventa información, pero la entrega con seguridad.
Como ha escrito PYMNTS, las consecuencias de actuar basándose en información alucinada pueden ser graves, dando lugar a decisiones erróneas, pérdidas financieras y daños a la reputación de la empresa. También existen cuestiones complejas en torno a la rendición de cuentas cuando se utilizan sistemas de IA.
"Si se elimina a un humano de un proceso o si este atribuye su responsabilidad a la IA, ¿quién será responsable de los errores?" Preguntó Kelwin Fernandes, director ejecutivo de NILG.AI, empresa especializada en soluciones de IA, en una entrevista con PYMNTS la semana pasada.
En muchos casos, la culpa recae en la empresa que está detrás del chatbot. Por ejemplo, Virgin Money se disculpó a principios de este año cuando su chatbot reprendió a un cliente por usar la palabra "virgin". Y Air Canada acabó en los tribunales el año pasado cuando su chatbot inventó un descuento en una conversación con un cliente.
Según el informe del Financial Times, Armilla afirmó que la pérdida por la venta de los billetes a precio reducido habría sido cubierta por su póliza si se hubiera comprobado que el chatbot de Air Canada tuvo un rendimiento inferior al esperado.
Mientras tanto, PYMNTS exploró los esfuerzos internos de Lloyds Bank para adoptar IA en medio de la preocupación por las alucinaciones, según un informe publicado a principios de este año.
"Eso nos preocupó bastante, probablemente durante los primeros 12 o 18 meses", declaró Ranil Boteju, director de datos y análisis de Lloyds Bank, durante una mesa redonda de Google sobre IA.
La empresa decidió que «hasta que no tengamos confianza en las medidas de seguridad, no expondremos ninguna de las capacidades de IA generativa directamente a los clientes».
Al principio, Lloyds se centró en la eficiencia administrativa como los primeros casos de uso, o bien contaba con un trabajador humano disponible para supervisar las actividades.