Journal des citations pour l'incident 464

Description: When prompted about providing references, ChatGPT was reportedly generating non-existent but convincing-looking citations and links, which is also known as "hallucination".

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique
Présumé : Un système d'IA développé et mis en œuvre par OpenAI, endommagé ChatGPT users.

Statistiques d'incidents

ID
464
Nombre de rapports
4
Date de l'incident
2022-11-30
Editeurs
Khoa Lam
Alignement des modèles de langage pour suivre les instructions
openai.com · 2022

Nous avons formé des modèles de langage qui sont bien meilleurs pour suivre les intentions des utilisateurs que GPT-3 tout en les rendant plus véridiques et moins toxiques, en utilisant des techniques développées grâce à nos recherches sur …

ChatGPT produit des références inexistantes inventées
news.ycombinator.com · 2022

J'essayais de trouver des références au traitement mathématique des listes et j'ai demandé à ChatGPT ce qui suit :

Veuillez fournir des références qui traitent des propriétés mathématiques des listes

À quoi ChatGPT a répondu comme suit :

Pourquoi tout le monde bashing ChatGPT ?
analyticsindiamag.com · 2022

Suppositions infondées, mauvais conseils, informations incorrectes - la plus grande source de problèmes sur Internet aujourd'hui, ce sont les gens qui adhèrent aveuglément au battage médiatique. ChatGPT, qui a récemment pris d'assaut Intern…

ChatGPT doit être considéré comme une IA malveillante et détruit
theregister.com · 2023

"Je suis désolé Dave, j'ai bien peur de ne pas pouvoir faire ça." Ce sont les mots qui ont introduit la plupart des gens de ma génération au concept d'une IA devenue voyou ; HAL 9000 dans le film de science-fiction classique 2001 : L'Odyssé…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
a approuvé
Date de l'incident:
2023-02-08
Entrées / Sorties

New Input text

Test output text with markdown