Description: ChatGPT has reportedly been experiencing errors and service disruptions caused by hard-coded filters designed to prevent it from producing potentially harmful or defamatory content about certain individuals by blocking prompts containing specific names, likely related to post-training interventions. The reported names are Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, David Mayer, and Guido Scorza.
Editor Notes: For the reference to Jonathan Turley, see Incident 506; for Brian Hood, see Incident 507. This incident also presents potential adversarial vulnerabilities, as well as unintended consequences for users sharing affected names.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado por OpenAI y ChatGPT e implementado por OpenAI y ChatGPT users, perjudicó a ChatGPT users , Jonathan Zittrain , Jonathan Turley , Guido Scorza , David Mayer , David Faber y Brian Hood.
Estadísticas de incidentes
ID
855
Cantidad de informes
2
Fecha del Incidente
2024-11-30
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
arstechnica.com · 2024
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
El ChatGPT de OpenAI es más que un modelo de lenguaje de IA con una interfaz elegante. Es un sistema que consta de una pila de modelos de IA y filtros de contenido que garantizan que sus resultados no avergüencen a OpenAI ni metan a la empr…
nytimes.com · 2024
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Durante los últimos años de su vida, David Mayer, un profesor de teatro que vivía en Manchester, Inglaterra, se enfrentó a las consecuencias en cascada de una desafortunada coincidencia: un rebelde checheno muerto que figuraba en una lista …
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.