Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 420

Incidentes Asociados

Incidente 293 Reportes
Image Classification of Battle Tanks

Loading...
Tales from the Trenches: AI Disaster Stories (charla GDC)
lobste.rs · 2016

Su equipo estaba trabajando en la ejecución de simulaciones de vuelos espaciales tripulados de larga distancia. En particular, el objetivo de sus simulaciones era determinar un algoritmo que asignaría de manera óptima alimentos, agua y electricidad a 3 miembros de la tripulación. Decidieron que intentarían ejecutar un algoritmo genético con el criterio de éxito de que uno o más miembros de la tripulación sobrevivieran tantos días como fuera posible antes de que se agotaran los recursos.

Comenzó de manera bastante predecible: 300 días, 350 días, 375 días de supervivencia. Luego, de manera bastante abrupta, el algoritmo se disparó a alrededor de 900 días de supervivencia. ¡El equipo no podía creerlo! Estaban bastante complacidos con los resultados de supervivencia de 375 días.

Cuando comenzaron a investigar cómo funcionaba este nuevo algoritmo, descubrieron un pequeño problema. El algoritmo había llegado a una solución en la que inmediatamente retendría la comida y el agua de dos de los compañeros de tripulación, causando que murieran de hambre y deshidratación. A partir de ahí, simplemente proporcionaría los recursos excedentes restantes al miembro de la tripulación sobreviviente.

El equipo se dio cuenta de que el criterio de éxito de "uno o más miembros de la tripulación sobrevivirían el mayor tiempo posible" no era en realidad el criterio que realmente querían, y el algoritmo se estableció en 350 días de recursos una vez que ajustaron el algoritmo. para mantener viva a toda la tripulación.

A menudo son las simples suposiciones subyacentes las que distinguen a las naves espaciales asesinas de las naves espaciales que mantienen viva a su tripulación un poco más en condiciones extremas.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd