Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 932

Incidents associés

Incident 5127 Rapports
Security Robot Rolls Over Child in Mall

Loading...
Un robot de sécurité du centre commercial renverse un tout-petit et enfreint la première loi de la robotique d'Asimov
theverge.com · 2016

Les robots sont peut-être moins chers à employer que les humains, mais il semble qu'ils doivent encore travailler sur leurs compétences relationnelles. La semaine dernière, un agent de sécurité robotisé du centre commercial de Stanford dans la Silicon Valley a renversé un tout-petit alors qu'il était en service, puis a apparemment continué à conduire. Un reportage de la chaîne d'information locale ABC7 indique que le bot a frappé Harwin Cheng, 16 mois, le jetant au sol.

Cheng n'a pas été gravement blessé par l'incident, mais nous allons tout de même considérer cela comme une violation de la première loi de la robotique d'Isaac Asimov : "Un robot ne peut pas blesser un être humain ni, par inaction, permettre à un être humain de venir blesser." Voici l'histoire d'ABC7 :

Cela amuse les acheteurs de tous âges, mais jeudi dernier, Harwin Cheng, 16 mois, a eu une collision effrayante avec le robot. "Le robot a frappé la tête de mon fils et il est tombé face contre terre sur le sol et le robot ne s'est pas arrêté et il a continué d'avancer", a déclaré la mère de Harwin, Tiffany Teng. Les parents de Harwin disent que le robot a couru sur son pied droit, le faisant gonfler, mais heureusement, l'enfant n'a subi aucune fracture. Harwin a également eu une égratignure à la jambe à cause de l'incident. "Il pleurait comme un fou et il ne pleure jamais. Il pleure rarement", a déclaré Teng.

16 mois a des blessures à la jambe, au pied après que le robot de sécurité @StanfordShop l'a renversé et l'a renversé. #paloalto pic.twitter.com/tJdDNeFJq1 — Lilian Kim (@liliankim7) 12 juillet 2016

Le robot en question était le Knightscope K5, une machine de cinq pieds et 300 livres qui a commencé les essais dans le centre commercial l'année dernière. Le robot se promène sur roues et utilise un ensemble de capteurs et de caméras pour surveiller son environnement. Les gardes de sécurité humains peuvent le diriger vers certains endroits pour voir ce qui se passe, et le bot est censé signaler toute activité inhabituelle à un poste de garde central. Les créateurs du robot le décrivent comme possédant une "présence physique imposante" combinée à une "technologie de pointe".

Le k5 ne coûte que 6,25 $ de l'heure, soit moins que le salaire minimum

On ne sait pas exactement ce qui s'est passé avec Harwin Cheng, et Knightscope n'a pas encore publié de déclaration à ce sujet ni répondu aux demandes de commentaires de The Verge. Et même s'il semble que l'incident avec Cheng était mineur, Knightscope ne voudrait évidemment pas que quelque chose comme ça se reproduise. Même si le K5 ne coûte que 6,25 $ de l'heure (c'est moins que le salaire minimum), personne n'embauchera un robot qui se heurte à des enfants.

Mise à jour du 14 juillet à 03h40 HE : Knightscope a publié une déclaration sur l'incident, le décrivant comme un "accident bizarre" et soulignant que le K5 a parcouru plus de 25 000 miles sans événements similaires. La société a également déclaré qu'elle avait contacté les Cheng à plusieurs reprises sans réponse et avait invité la famille au siège de Knightscope afin que les membres de l'équipe puissent "s'excuser respectueusement en personne et apprendre de cet incident".

La société a également fourni une description de l'événement tel qu'enregistré par ses capteurs :

Une machine de données autonome K5 (numéro d'identification de machine 13) patrouillait dans un centre commercial local lorsque, vers 14 h 39 HAP, un enfant a quitté le voisinage de ses tuteurs et a commencé à courir vers la machine. La machine a viré vers la gauche pour éviter l'enfant, mais l'enfant a couru en arrière directement dans le quart avant de la machine, à quel point la machine s'est arrêtée et l'enfant est tombé au sol. Les capteurs de la machine n'ont enregistré aucune alerte de vibration et les moteurs de la machine ne sont pas tombés en panne comme ils le feraient en cas d'obstacle. Une fois que les gardiens ont récupéré l'enfant et que le chemin a été dégagé, la machine a repris ses patrouilles. Tout l'incident a duré quelques secondes et une égratignure sur la jambe de l'enfant et une ecchymose avec un léger gonflement ont été signalées.

"Nos premières pensées vont à la famille et nous sommes reconnaissants qu'il n'y ait pas eu de blessés graves", a déclaré le directeur général de Knightscope, William Santana Li. "Notre mission principale est de servir la sécurité globale du public, et nous prenons très au sérieux toute circonstance qui compromettrait cette mission."

Pouvons-nous construire un ordinateur conscient ?

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd