Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 2572

Incidents associés

Incident 4633 Rapports
Apple Devices Mistook Skiing Activities, Dialed False Distress Emergency Calls

Loading...
"Ma montre pense que je suis mort"
nytimes.com · 2023

FRISCO, Colorado - Par un récent dimanche matin ensoleillé, après une nuit de chutes de neige pelucheuses, des dizaines de milliers de skieurs ont afflué vers les stations du comté de Summit. Quelques minutes seulement après l'ouverture des remontées mécaniques, des sirènes ont commencé à retentir dans le centre de service d'urgence 911, où quatre membres du personnel prenaient des appels et envoyaient de l'aide.

Chaque alerte discordante était un nouvel appel entrant, annonçant un éventuel accident de voiture, une crise cardiaque ou une autre situation potentiellement mortelle. Souvent, les opérateurs téléphoniques entendaient un bruit effrayant à l'autre bout de la ligne : le silence, peut-être d'un appelant trop incapable de répondre.

À 9 h 07, un répartiteur, Eric Betts, a répondu à un tel appel. D'après la carte sur l'un des sept moniteurs sur son bureau, il pouvait voir que l'appel de détresse provenait d'une pente du domaine skiable du bassin d'Arapahoe. M. Betts a essayé de rappeler. Un homme a décroché.

« Avez-vous une urgence ? a demandé M. Betts. Non, dit l'homme, il skiait - en toute sécurité, heureux, indemne. Légèrement agacé, il ajouta : « Depuis trois jours, ma montre compose le 911. »

L'hiver a apporté une quantité décente de chutes de neige dans les stations de ski de la région, et avec elle une avalanche de faux appels d'urgence. La quasi-totalité d'entre eux ont été placés par les montres Apple ou les iPhone 14 sous l'impression erronée que leurs propriétaires ont été affaiblis lors de collisions.

Depuis septembre, ces appareils sont équipés d'une technologie destinée à détecter les accidents de voiture et à alerter les répartiteurs du 911. Il s'agit d'une mise à niveau plus sensible du logiciel sur les appareils Apple, qui date maintenant de plusieurs années, qui peut détecter lorsqu'un utilisateur tombe, puis appeler pour obtenir de l'aide. Mais la dernière innovation semble mettre l'appareil en surmultiplication : il continue de confondre les skieurs et d'autres amateurs de fitness avec des victimes d'accidents de voiture.

Dernièrement, les centres d'appels d'urgence de certaines régions de ski ont été inondés d'appels automatisés involontaires, des dizaines ou plus par semaine. Les opérateurs téléphoniques doivent souvent mettre d'autres appels, y compris de véritables urgences, en attente pour clarifier si la dernière sirène a été déclenchée par un humain à risque ou un appareil trop zélé.

"Ma journée entière consiste à gérer les notifications d'accident", a déclaré Trina Dummer, directrice par intérim des services d'urgence du comté de Summit, qui a reçu 185 appels de ce type dans la semaine du 13 janvier au 22 janvier. (Au cours des hivers passés, le volume d'appels typique sur un journée chargée était environ la moitié.) Mme Dummer a déclaré que l'assaut menaçait de désensibiliser les répartiteurs et de détourner des ressources limitées des véritables urgences.

"Apple doit mettre en place son propre centre d'appels si c'est une fonctionnalité qu'il souhaite", a-t-elle déclaré.

Son centre d'appels et d'autres ont alerté Apple du problème. À la mi-janvier, la société a envoyé quatre représentants pour observer Mme Dummer et son équipe pendant une journée ; elle a dit qu'ils avaient beaucoup d'exemples à montrer.

Dans une déclaration écrite, Alex Kirschner, un porte-parole d'Apple, a déclaré : "Nous sommes conscients que dans certains scénarios spécifiques, ces fonctionnalités ont déclenché des services d'urgence lorsqu'un utilisateur n'a pas subi d'accident de voiture grave ou de chute brutale." La société a noté que lorsqu'un accident est détecté, la montre bourdonne et envoie un avertissement sonore avertissant l'utilisateur qu'un appel est passé au 911, et il fournit 10 secondes pour annuler l'appel.

Apple a également déclaré que les mises à jour du logiciel à la fin de l'année dernière avaient pour but "d'optimiser" la technologie et de réduire le nombre de faux appels. M. Kirschner a ajouté : « La détection des collisions et la détection des chutes sont conçues pour aider les utilisateurs lorsqu'ils en ont le plus besoin, et cela a déjà contribué à sauver plusieurs vies.

Apple entretient une collection d'incidents dans lesquels les deux technologies sont venues à la rescousse. Dans un cas, une Apple Watch a alerté les autorités après qu'un chauffeur d'Indianapolis se soit écrasé contre un [poteau téléphonique](https://bgr.com/tech/man-says-apple-watch-saved-his-life-in- brutal-car-crash-and-photos-show-the-aftermath/) et l'appareil a appelé pour obtenir de l'aide. Dans un autre, une montre a appelé à l'aide après qu'un homme du New Jersey est tombé une falaise abrupte lors d'une randonnée.

Au Colorado, les répartiteurs d'appels ont eu du mal à se souvenir d'un cas où une montre avait sauvé un skieur en détresse. (Mme Dummer a ajouté que son équipe avait "très rarement" reçu de faux appels au 911 provenant d'appareils d'autres entreprises, tels que des téléphones Android.)

Le problème s'étend au-delà des skieurs. "Ma montre pense régulièrement que j'ai eu un accident", a déclaré Stacey Torman, qui travaille pour Salesforce à Londres et y donne des cours de spin. Elle peut être en sécurité sur le vélo, exhortant sa classe à augmenter son énergie ou agitant les bras pour les féliciter, lorsque son Apple Watch détecte un danger.

"Je veux célébrer, mais ma montre ne veut vraiment pas que je fête", a-t-elle déclaré. Oh super, pense-t-elle, "maintenant ma montre pense que je suis morte."

Récemment, elle est tombée alors qu'elle courait pour attraper un bus sous la pluie. "Je suis descendue durement, vraiment durement", a-t-elle déclaré. Sa montre n'a pas appelé le 911, cependant. "Quand est-ce que je suis vraiment tombé en courant pour le bus ?" dit-elle. « Grillons.

Jon Baron, qui travaille dans l'immobilier à Golden, Colorado, possède une Apple Watch qui a appelé les autorités à deux reprises. Une fois, il était dans un parc d'attractions jouant au jeu de l'homme fort, dans lequel le but est de frapper un levier avec un marteau assez fermement pour faire sonner une cloche. M. Baron a basculé, la cloche a sonné, sa femme et ses enfants semblaient dûment impressionnés – jusqu'à ce que "ma montre commence à faire ce bruit comme une sirène anti-aérienne", a-t-il déclaré.

"J'essayais de montrer que j'étais physiquement capable, ce que je pensais avoir assez bien démontré, mais ma montre pensait différemment", a-t-il ajouté.

Une autre fois, M. Baron se trouvait à l'aéroport de Tampa lorsque l'interphone l'a convoqué sur un téléphone blanc. Un opérateur des services d'urgence à l'autre bout du fil lui a dit que son appareil avait composé le 911 pour obtenir de l'aide. Était-il bien ? "Je vais bien", a-t-il dit avoir dit à l'opérateur. "Mais j'ai un avion à prendre."

Apple a introduit la technologie de détection de chute en 2018 après avoir développé un algorithme basé sur la trajectoire d'un poignet portant une montre et l'accélération au moment de l'impact. Sa technologie de détection de collision, introduite en septembre, a été testée dans des tests de collision et des laboratoires sur des iPhones et des montres Apple.

Mais quelque chose dans la façon dont les skieurs accélèrent et s'arrêtent, ou se bousculent, semble mettre la technologie à l'épreuve. Et les skieurs, portant des casques et des couches de vêtements, ne détectent souvent pas l'avertissement, ils peuvent donc ne pas annuler l'appel ou répondre au répartiteur du 911.

"Beaucoup de gens ne le sentent pas ou ne l'entendent pas", a déclaré Brett Loeb, directeur des communications des services d'urgence du comté de Pitkin, dans le Colorado, qui abrite Aspen Mountain. Ou, a-t-il proposé, même lorsqu'ils ressentent la vibration, "ils pensent:" Je ne veux pas répondre à mon téléphone pour le moment - je passe un bon moment; mon téléphone tue mon buzz. "

Il a noté qu'Aspen Mountain avait récemment affiché des panneaux sur les lignes de remontées mécaniques et les billetteries alertant les utilisateurs d'Apple Watch et d'iPhone 14 du problème et les encourageant à passer à la dernière version du logiciel ou à désactiver le service, pour "empêcher les déplacements inutiles sur les pistes" en Ambulances envoyées au 911.

Dimanche matin, au centre d'appels du comté de Summit, Mme Dummer formait un superviseur de répartition recrue, Jeff Fitch, pour répondre aux appels au 911, tandis que M. Betts et un autre répartiteur, David Benson, géraient le débordement et communiquaient avec les ambulances et la police.

La sirène s'est déclenchée et M. Fitch a pris l'appel. "911", dit-il dans son casque. "Bonjour?" Un moniteur affichait l'emplacement de l'appelant sur la piste de ski ; un autre affichait le numéro de l'appelant. M. Fitch se pencha en avant dans le silence : "Bonjour ?"

Les appels de quart continuaient d'arriver; la sirène continuait de retentir. Au milieu de tout cela, Mme Dummer et M. Fitch ont répondu à un véritable appel de détresse d'un conducteur de 78 ans qui avait du mal à respirer. La circulation était mauvaise, entravant l'accès des ambulances, et l'équipe de répartition appelait à l'aide deux comtés voisins.

Juste avant midi, Mark Watson, un sergent du bureau du shérif, est entré dans la salle de répartition, l'air maussade. "Ce n'est pas une bonne journée", a-t-il déclaré.

Habituellement, il avait d'autres tâches, y compris patrouiller dans l'arrière-pays en motoneige, mais les appels fantômes l'avaient retenu à son bureau. Chaque fois que les opérateurs du 911 étaient incapables de joindre le propriétaire de la montre ou du téléphone, l'affaire était renvoyée au sergent Watson, qui essayait d'appeler et d'envoyer un SMS; s'il n'a pas eu de réponse, il a transmis le problème à la patrouille de ski.

Jusqu'à présent ce jour-là, le sergent Watson avait reçu sept références du 911, dont quatre qu'il a transmises à la patrouille de ski. Il se tourna vers Mme Dummer : Combien d'appels de détection de collision étaient arrivés au total ? Onze, dit-elle, sur 30 appels au total.

"Je voulais vérifier les chiffres", a-t-il déclaré. "J'écrivais une lettre à Apple." Il a décrit son message de base à l'entreprise : « J'ai du mal à faire mon travail quotidien. Je n'ai pas toute la journée pour faire des produits Apple.

Dans le comté de Grand, qui abrite une montagne très fréquentée appelée Winter Park, le shérif Brett Schroetlin a décidé fin décembre de consacrer moins d'attention aux appels de détection de collision. Maintenant, si un opérateur du 911 en reçoit un depuis les pistes et que personne n'est à l'autre bout de la ligne, il sait qu'il doit ignorer l'appel ; plus de renvois ou de suivis. Jusqu'à présent, aucun des appels fantômes n'a été une véritable urgence, a expliqué le shérif Schroetlin, et il ne pouvait pas se permettre de gaspiller des ressources limitées. De plus, dit-il, il y avait une meilleure technologie : les êtres humains.

"Il est rare que quelqu'un tombe sur la montagne et qu'il n'y ait pas un passant", a-t-il déclaré. "Nous espérons recevoir un véritable appel au 911 de la personne ou de quelqu'un sur les lieux."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd