Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 959

Incidents associés

Incident 5127 Rapports
Security Robot Rolls Over Child in Mall

Loading...
Un robot de sécurité dans un centre commercial a renversé et écrasé un tout-petit dans la Silicon Valley
sciencealert.com · 2016

Un robot de sécurité du centre commercial appelé Knightscope K5 a récemment renversé un tout-petit de 16 mois lors d'une patrouille au centre commercial de Stanford dans la Silicon Valley.

Alors que le garçon, Harwin Cheng, n'a pas subi de blessure majeure à la suite de l'épreuve, l'incident est probablement le premier d'une longue série si les robots vont faire partie de notre vie quotidienne, obligeant à la fois le public et les créateurs du robot à réfléchir à la façon de gérer ces situations.

Selon un reportage local de Lilian Kim d'ABC7 News, l'incident s'est produit le week-end du 10 juillet alors que la famille Cheng marchait dans un couloir du centre commercial. Puis, sorti de nulle part, l'un des robots de sécurité - qui ont été introduits dans le centre commercial l'année dernière - a frappé le tout-petit Harwin Cheng par derrière, le faisant tomber la tête la première sur le sol.

Au lieu de s'arrêter ou de réaliser ce qui s'est passé, le robot - mesurant 1,5 mètre (5 pieds) de haut et pesant 136 kilogrammes (300 livres) - a couru sur l'enfant, lui égratignant la jambe et faisant gonfler son pied.

"Le robot a frappé la tête de mon fils et il est tombé face contre terre sur le sol et le robot ne s'est pas arrêté et il a continué d'avancer", a déclaré la mère de Harwin, Tiffany Teng, à ABC7. "Il pleurait comme un fou et il ne pleure jamais. Il pleure rarement."

Knightscope Incorporated – la société derrière le bot – a également publié une déclaration sur ce qui s'est passé :

"Une machine de données autonome K5 (numéro d'identification de machine 13) patrouillait dans un centre commercial local lorsque, vers 14h39 HAP, un enfant a quitté le voisinage de ses tuteurs et a commencé à courir vers la machine. La machine a viré vers la gauche pour éviter l'enfant, mais l'enfant a couru à reculons directement dans le quart avant de la machine, à quel point la machine s'est arrêtée et l'enfant est tombé sur le sol."

La bonne nouvelle est que Cheng n'a subi aucune blessure de longue durée. La mauvaise nouvelle est que ce genre de chose se reproduira probablement à l'avenir, car les bots commenceront à interagir de plus en plus avec le public. En fait, la famille Cheng dit qu'un agent de sécurité - qui est venu aider Harwin - leur a parlé d'un incident similaire qui s'est produit quelques jours auparavant, bien qu'il n'ait pas été communiqué à la presse.

Pour l'instant, le centre commercial a suspendu son personnel robotique jusqu'à nouvel ordre.

Le bot Knigthscope K5 est destiné à patrouiller dans les centres commerciaux et autres zones très peuplées, alertant les agents de sécurité humains de tout changement soudain ou de tout bruit fort. Pourquoi frapper Harwin n'a pas déclenché ces capteurs est toujours un mystère.

"Les capteurs de la machine n'ont enregistré aucune alerte de vibration et les moteurs de la machine n'ont pas échoué comme ils le feraient en cas de rencontre avec un obstacle", a déclaré l'équipe de Knightscope. "Une fois que les gardiens ont récupéré l'enfant et que le chemin était libre, la machine a repris ses patrouilles."

Selon James Vincent de The Verge, la société qualifie le dysfonctionnement d '"accident bizarre", affirmant que le bot a parcouru plus de 40 000 kilomètres (25 000 miles) sans incident. L'équipe K5 a également tendu la main à la famille, leur offrant un voyage au siège de l'entreprise afin qu'ils puissent s'excuser en personne.

"Nos premières pensées vont à la famille et nous sommes reconnaissants qu'il n'y ait pas eu de blessés graves", a déclaré le directeur général de Knightscope, William Santana Li, à The Verge. "Notre mission principale est de servir la sécurité globale du public, et nous prenons très au sérieux toute circonstance qui compromettrait cette mission."

Jusqu'à présent, on ne sait pas ce qu'il adviendra des robots K5 qui habitent le centre commercial à long terme, bien que ce ne soit pas la seule fois qu'un robot se soit mal comporté récemment. Le mois dernier, un robot connu sous le nom de Promobot IR77 s'est échappé d'un laboratoire à Perm, en Russie, où il s'est arrêté au milieu d'une rue locale, provoquant un embouteillage. Puis, même après avoir été reprogrammé deux fois, il a continué à essayer de s'enfuir d'une manière ou d'une autre.

Bien qu'il faille s'attendre à des accidents avec toute nouvelle technologie, la récente blessure lancera, espérons-le, une discussion sur ce qu'il faut faire quand ils se produisent et qui est à blâmer.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd