Incident 1324: Les systèmes d'IA clinique de Pieces Technologies auraient été commercialisés avec des allégations de performance trompeuses.
Répondu
Description: Le procureur général du Texas a annoncé un accord à l'amiable avec Pieces Technologies suite à des allégations selon lesquelles l'entreprise aurait présenté de manière trompeuse la précision de ses systèmes d'IA utilisés pour la documentation clinique dans le secteur de la santé. L'État a conclu que les arguments marketing concernant les faibles taux d'erreur et d'hallucinations ont pu induire en erreur les hôpitaux et les cliniciens utilisant ces outils dans le cadre des soins aux patients. L'accord impose des restrictions sur les futures réclamations et exige une plus grande transparence quant aux performances et aux risques.
Editor Notes: Timeline note: The incident ID date of 09/18/2024 is taken from the date the Texas Attorney General's Office announced its settlement with Pieces Technologies, Inc. The incident ID was created on 01/02/2026.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Pieces Technologies , Unknown generative AI systems , Pieces Technologies generative AI systems , Healthcare decision-support systems et Clinical documentation AI, a endommagé Public health , Patients , Healthcare institutions , Epistemic integrity et Clinicians.
Systèmes d'IA présumés impliqués: Unknown generative AI systems , Pieces Technologies generative AI systems , Healthcare decision-support systems et Clinical documentation AI
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Rapports d'incidents
Chronologie du rapport
Loading...
