Incident 535: Les modèles de détection et de pronostic de la COVID-19 seraient signalés pour des défauts méthodologiques et des biais sous-jacents
Description: L'examen par les pairs des articles sur les algorithmes de détection et de pronostic de la COVID-19 de 2020, y compris les modèles déployés, a révélé qu'aucun n'était prêt pour une utilisation clinique, en raison de défauts méthodologiques et de biais sous-jacents tels que l'absence de validation externe ou la non-spécification des sources de données et des détails de formation du modèle.
Entités
Voir toutes les entitésAlleged: unknown et Icahn School of Medicine researchers developed an AI system deployed by Mount Sinai Hospital et unknown, which harmed COVID-19 patients et COVID-19 healthcare providers.
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Pre-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Rapports d'incidents
Chronologie du rapport
Abstrait
Les méthodes d'apprentissage automatique sont très prometteuses pour une détection et un pronostic rapides et précis de la maladie à coronavirus 2019 (COVID-19) à partir de radiographies thoraciques standard (CXR) et d'images de to…
La course folle s'est accélérée aussi vite que la pandémie. Les chercheurs se sont précipités pour voir si l'intelligence artificielle pouvait percer les nombreux secrets de Covid-19 - et pour une bonne raison. Il y avait une pénurie de tes…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?