Description: ChatGPT has reportedly been experiencing errors and service disruptions caused by hard-coded filters designed to prevent it from producing potentially harmful or defamatory content about certain individuals by blocking prompts containing specific names, likely related to post-training interventions. The reported names are Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, David Mayer, and Guido Scorza.
Editor Notes: For the reference to Jonathan Turley, see Incident 506; for Brian Hood, see Incident 507. This incident also presents potential adversarial vulnerabilities, as well as unintended consequences for users sharing affected names.
Entités
Voir toutes les entitésPrésumé : un système d'IA développé par OpenAI and ChatGPT et mis en œuvre par OpenAI and ChatGPT users, endommagé ChatGPT users , Jonathan Zittrain , Jonathan Turley , Guido Scorza , David Mayer , David Faber and Brian Hood.
Statistiques d'incidents
ID
855
Nombre de rapports
2
Date de l'incident
2024-11-30
Editeurs
Daniel Atherton
Rapports d'incidents
Chronologie du rapport
arstechnica.com · 2024
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
ChatGPT d'OpenAI est bien plus qu'un simple modèle de langage d'IA avec une interface sophistiquée. Il s'agit d'un système composé d'une pile de modèles d'IA et de filtres de contenu qui garantissent que ses résultats n'embarrassent pas Ope…
nytimes.com · 2024
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
Au cours des dernières années de sa vie, David Mayer, professeur de théâtre vivant à Manchester, en Angleterre, a dû faire face aux conséquences en cascade d'une malheureuse coïncidence : un rebelle tchétchène décédé sur une liste de survei…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.