Incident 1324: Les systèmes d'IA clinique de Pieces Technologies auraient été commercialisés avec des allégations de performance trompeuses.
Description: Le procureur général du Texas a annoncé un accord à l'amiable avec Pieces Technologies suite à des allégations selon lesquelles l'entreprise aurait présenté de manière trompeuse la précision de ses systèmes d'IA utilisés pour la documentation clinique dans le secteur de la santé. L'État a conclu que les arguments marketing concernant les faibles taux d'erreur et d'hallucinations ont pu induire en erreur les hôpitaux et les cliniciens utilisant ces outils dans le cadre des soins aux patients. L'accord impose des restrictions sur les futures réclamations et exige une plus grande transparence quant aux performances et aux risques.
Editor Notes: Timeline note: The incident ID date of 09/18/2024 is taken from the date the Texas Attorney General's Office announced its settlement with Pieces Technologies, Inc. The incident ID was created on 01/02/2026.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Pieces Technologies, Inc. , Unknown generative AI systems , Pieces Technologies generative AI systems , Healthcare decision-support systems et Clinical documentation AI, a endommagé Public health , patients , Healthcare institutions , Epistemic integrity et Clinicians.
Systèmes d'IA présumés impliqués: Unknown generative AI systems , Pieces Technologies generative AI systems , Healthcare decision-support systems et Clinical documentation AI
Statistiques d'incidents
ID
1324
Nombre de rapports
1
Date de l'incident
2024-09-18
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
Loading...
Le 18 septembre, le procureur général du Texas a annoncé un accord à l'amiable avec Pieces Technologies, Inc. (« Pieces »), une société de recherche et développement en intelligence artificielle (IA) pour le secteur de la santé basée à Dall…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?