Registro de citas para el Incidente 464

Description: When prompted about providing references, ChatGPT was reportedly generating non-existent but convincing-looking citations and links, which is also known as "hallucination".

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por OpenAI, perjudicó a ChatGPT users.

Estadísticas de incidentes

ID
464
Cantidad de informes
4
Fecha del Incidente
2022-11-30
Editores
Khoa Lam
Alineación de modelos de lenguaje para seguir instrucciones
openai.com · 2022

Hemos entrenado modelos de lenguaje que son mucho mejores para seguir las intenciones de los usuarios que GPT-3, al mismo tiempo que los hacemos más veraces y menos tóxicos, utilizando técnicas desarrolladas a través de nuestra investigació…

ChatGPT produce referencias inexistentes inventadas
news.ycombinator.com · 2022

Estaba tratando de encontrar referencias al tratamiento matemático de las listas y consulté ChatGPT lo siguiente:

Proporcione referencias que se ocupen de las propiedades matemáticas de las listas.

A lo que ChatGPT respondió de la siguiente…

¿Por qué todo el mundo ataca a ChatGPT?
analyticsindiamag.com · 2022

Suposiciones infundadas, malos consejos, información incorrecta: la mayor fuente de problemas en Internet hoy en día es que las personas compran ciegamente las exageraciones. ChatGPT, que ha conquistado Internet recientemente, parece estar …

ChatGPT debe considerarse una IA malévola y destruirse
theregister.com · 2023

"Lo siento Dave, me temo que no puedo hacer eso". Estas fueron las palabras que introdujeron a la mayoría de las personas de mi generación al concepto de una IA que se volvió rebelde; HAL 9000 en la clásica película de ciencia ficción 2001:…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
aprobada
Fecha del Incidente:
2023-02-08
Salidas / Entradas

New Input text

Test output text with markdown