Incidente 1324: Los sistemas de inteligencia artificial clínica de Pieces Technologies se comercializan supuestamente con afirmaciones engañosas sobre su rendimiento.
Descripción: El Fiscal General de Texas anunció un acuerdo con Pieces Technologies tras las acusaciones de que la compañía tergiversó la precisión de sus sistemas de inteligencia artificial (IA) para la atención médica, utilizados para la documentación clínica. El estado concluyó que las afirmaciones de marketing sobre las bajas tasas de error y alucinaciones podrían haber engañado a los hospitales y profesionales clínicos que utilizan estas herramientas en entornos de atención al paciente. El acuerdo impuso restricciones a futuras reclamaciones y exigió una mayor transparencia en cuanto al rendimiento y los riesgos.
Editor Notes: Timeline note: The incident ID date of 09/18/2024 is taken from the date the Texas Attorney General's Office announced its settlement with Pieces Technologies, Inc. The incident ID was created on 01/02/2026.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Pieces Technologies, Inc. , Unknown generative AI systems , Pieces Technologies generative AI systems , Healthcare decision-support systems y Clinical documentation AI, perjudicó a Public health , patients , Healthcare institutions , Epistemic integrity y Clinicians.
Sistemas de IA presuntamente implicados: Unknown generative AI systems , Pieces Technologies generative AI systems , Healthcare decision-support systems y Clinical documentation AI
Estadísticas de incidentes
ID
1324
Cantidad de informes
1
Fecha del Incidente
2024-09-18
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
El 18 de septiembre, el Fiscal General de Texas anunció un acuerdo con Pieces Technologies, Inc. ("Pieces"), una empresa de investigación y desarrollo de inteligencia artificial (IA) para el sector sanitario con sede en Dallas. Este acuerdo…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?