Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 741

Incidentes Asociados

Incidente 4127 Reportes
All Image Captions Produced are Violent

Loading...
Norman Bates, una IA 'psicópata' creada por el MIT, fue entrenada estudiando publicaciones de reddit de "muertes espantosas".
reddit.com · 2018

Aprecio lo que el MIT ha hecho aquí. Sin embargo, el trabajo descrito en el artículo es inútil, engañoso o ambos. Todos los métodos de entrenamiento que he encontrado en la literatura no mantienen ningún tipo de medida de la información mutua entre las imágenes de prueba y las imágenes de entrenamiento. En resumen, el NN entrenado escupe ciegamente clasificaciones con la misma confianza para imágenes de prueba que son muy similares a aquellas en las que ha sido entrenada e imágenes de prueba que son muy diferentes de aquellas en las que ha sido entrenada. Alimentar una mancha de Rorschach a un NN entrenado en un subreddit gore no es diferente a alimentar estática en las entradas que, a su vez, es solo una forma indirecta de ensamblar un conjunto de subcadenas del subreddit y llamar a la opción (1) en ese conjunto.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd