Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 420

Incidents associés

Incident 293 Rapports
Image Classification of Battle Tanks

Loading...
Tales from the Trenches: AI Disaster Stories (conférence GDC)
lobste.rs · 2016

Son équipe travaillait sur l'exécution de simulations de vols spatiaux habités longue distance. En particulier, l'objectif de leurs simulations était de déterminer un algorithme qui allouerait de manière optimale la nourriture, l'eau et l'électricité à 3 membres d'équipage. Ils ont décidé d'essayer d'exécuter un algorithme génétique avec comme critère de réussite qu'un ou plusieurs membres d'équipage survivent autant de jours que possible avant que les ressources ne soient épuisées.

Tout a commencé de manière assez prévisible – 300 jours, 350 jours, 375 jours de survie. Puis assez brusquement, l'algorithme a atteint environ 900 jours de survie. L'équipe n'y croyait pas ! Ils étaient assez satisfaits des résultats de survie à 375 jours tels qu'ils étaient.

Alors qu'ils commençaient à creuser le fonctionnement de ce nouvel algorithme, ils ont découvert un petit problème. L'algorithme était arrivé à une solution dans laquelle il retiendrait immédiatement la nourriture et l'eau de deux des coéquipiers, les faisant mourir de faim et de déshydratation. À partir de là, il fournirait simplement les ressources excédentaires restantes au membre d'équipage survivant.

L'équipe s'est rendu compte que le critère de succès "un ou plusieurs membres d'équipage survivraient aussi longtemps que possible" n'était pas vraiment le critère qu'ils voulaient vraiment, et l'algorithme s'est à nouveau installé à 350 jours de ressources une fois qu'ils ont ajusté l'algorithme. pour garder tout l'équipage en vie.

Ce sont souvent les simples hypothèses sous-jacentes qui distinguent les vaisseaux spatiaux meurtriers des vaisseaux spatiaux qui maintiennent leur équipage en vie un peu plus longtemps dans des conditions extrêmes.

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd