Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 464: ChatGPT proporcionó citas y enlaces inexistentes cuando los usuarios lo solicitaron

Traducido por IA
Descripción:
Traducido por IA
Cuando se le solicitó proporcionar referencias, ChatGPT supuestamente generaba citas y enlaces inexistentes pero de apariencia convincente, lo que también se conoce como "alucinación".

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por OpenAI, perjudicó a ChatGPT users.

Estadísticas de incidentes

ID
464
Cantidad de informes
4
Fecha del Incidente
2022-11-30
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

3.1. False or misleading information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Misinformation

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Alineación de modelos de lenguaje para seguir instruccionesIncident Occurrence+1
ChatGPT produce referencias inexistentes inventadas
ChatGPT debe considerarse una IA malévola y destruirse
Alineación de modelos de lenguaje para seguir instrucciones

Alineación de modelos de lenguaje para seguir instrucciones

openai.com

ChatGPT produce referencias inexistentes inventadas

ChatGPT produce referencias inexistentes inventadas

news.ycombinator.com

¿Por qué todo el mundo ataca a ChatGPT?

¿Por qué todo el mundo ataca a ChatGPT?

analyticsindiamag.com

ChatGPT debe considerarse una IA malévola y destruirse

ChatGPT debe considerarse una IA malévola y destruirse

theregister.com

Alineación de modelos de lenguaje para seguir instrucciones
openai.com · 2022
Traducido por IA

Hemos entrenado modelos de lenguaje que son mucho mejores para seguir las intenciones de los usuarios que GPT-3, al mismo tiempo que los hacemos más veraces y menos tóxicos, utilizando técnicas desarrolladas a través de nuestra investigació…

ChatGPT produce referencias inexistentes inventadas
news.ycombinator.com · 2022
Traducido por IA

Estaba tratando de encontrar referencias al tratamiento matemático de las listas y consulté ChatGPT lo siguiente:

Proporcione referencias que se ocupen de las propiedades matemáticas de las listas.

A lo que ChatGPT respondió de la siguiente…

¿Por qué todo el mundo ataca a ChatGPT?
analyticsindiamag.com · 2022
Traducido por IA

Suposiciones infundadas, malos consejos, información incorrecta: la mayor fuente de problemas en Internet hoy en día es que las personas compran ciegamente las exageraciones. ChatGPT, que ha conquistado Internet recientemente, parece estar …

ChatGPT debe considerarse una IA malévola y destruirse
theregister.com · 2023
Traducido por IA

"Lo siento Dave, me temo que no puedo hacer eso". Estas fueron las palabras que introdujeron a la mayoría de las personas de mi generación al concepto de una IA que se volvió rebelde; HAL 9000 en la clásica película de ciencia ficción 2001:…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
aprobada
Fecha del Incidente:
2000-01-01
Salidas / Entradas
La secuencia de entradas de datos en el sistema inteligente y salidas producidas por el sistema involucrado en el incidente. Para un chatbot, esto generalmente presentará un ida y vuelta entre las respuestas de un ser humano y las del chatbot.
 

New Input text

Test output text with markdown

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Jun 2022 · 4 informes
GitHub Copilot, Copyright Infringement and Open Source Licensing

GitHub Copilot, Copyright Infringement and Open Source Licensing

Jun 2021 · 5 informes
Biased Google Image Results

Biased Google Image Results

Mar 2016 · 18 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Jun 2022 · 4 informes
GitHub Copilot, Copyright Infringement and Open Source Licensing

GitHub Copilot, Copyright Infringement and Open Source Licensing

Jun 2021 · 5 informes
Biased Google Image Results

Biased Google Image Results

Mar 2016 · 18 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178