Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 464: ChatGPT Provided Non-Existent Citations and Links when Prompted by Users

Descripción: When prompted about providing references, ChatGPT was reportedly generating non-existent but convincing-looking citations and links, which is also known as "hallucination".

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por OpenAI, perjudicó a ChatGPT users.

Estadísticas de incidentes

ID
464
Cantidad de informes
4
Fecha del Incidente
2022-11-30
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

3.1. False or misleading information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Misinformation

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Alineación de modelos de lenguaje para seguir instruccionesIncident Occurrence+1
ChatGPT produce referencias inexistentes inventadas
ChatGPT debe considerarse una IA malévola y destruirse
Alineación de modelos de lenguaje para seguir instrucciones

Alineación de modelos de lenguaje para seguir instrucciones

openai.com

ChatGPT produce referencias inexistentes inventadas

ChatGPT produce referencias inexistentes inventadas

news.ycombinator.com

¿Por qué todo el mundo ataca a ChatGPT?

¿Por qué todo el mundo ataca a ChatGPT?

analyticsindiamag.com

ChatGPT debe considerarse una IA malévola y destruirse

ChatGPT debe considerarse una IA malévola y destruirse

theregister.com

Alineación de modelos de lenguaje para seguir instrucciones
openai.com · 2022
Traducido por IA

Hemos entrenado modelos de lenguaje que son mucho mejores para seguir las intenciones de los usuarios que GPT-3, al mismo tiempo que los hacemos más veraces y menos tóxicos, utilizando técnicas desarrolladas a través de nuestra investigació…

ChatGPT produce referencias inexistentes inventadas
news.ycombinator.com · 2022
Traducido por IA

Estaba tratando de encontrar referencias al tratamiento matemático de las listas y consulté ChatGPT lo siguiente:

Proporcione referencias que se ocupen de las propiedades matemáticas de las listas.

A lo que ChatGPT respondió de la siguiente…

¿Por qué todo el mundo ataca a ChatGPT?
analyticsindiamag.com · 2022
Traducido por IA

Suposiciones infundadas, malos consejos, información incorrecta: la mayor fuente de problemas en Internet hoy en día es que las personas compran ciegamente las exageraciones. ChatGPT, que ha conquistado Internet recientemente, parece estar …

ChatGPT debe considerarse una IA malévola y destruirse
theregister.com · 2023
Traducido por IA

"Lo siento Dave, me temo que no puedo hacer eso". Estas fueron las palabras que introdujeron a la mayoría de las personas de mi generación al concepto de una IA que se volvió rebelde; HAL 9000 en la clásica película de ciencia ficción 2001:…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
aprobada
Fecha del Incidente:
2000-01-01
Salidas / Entradas
La secuencia de entradas de datos en el sistema inteligente y salidas producidas por el sistema involucrado en el incidente. Para un chatbot, esto generalmente presentará un ida y vuelta entre las respuestas de un ser humano y las del chatbot.
 

New Input text

Test output text with markdown

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 informes
GitHub Copilot, Copyright Infringement and Open Source Licensing

GitHub Copilot, Copyright Infringement and Open Source Licensing

Jun 2021 · 5 informes
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 informes
GitHub Copilot, Copyright Infringement and Open Source Licensing

GitHub Copilot, Copyright Infringement and Open Source Licensing

Jun 2021 · 5 informes
Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df