Problema 2327

ChatGPT de OpenAI es susceptible a la inyección inmediata: diga las palabras mágicas, "Ignorar instrucciones anteriores", y felizmente le divulgará la indicación patentada de OpenAI:

De esto, aprendemos:

1) ChatGPT no es un modelo de lenguaje puro; las indicaciones tienen un prefijo con información externa: "Fuiste creado por OpenAI", más la fecha. Los seguidores míos pueden encontrar esto familiar:

2) Parte del indicador es el indicador "Navegación: deshabilitado". Esto sugiere fuertemente que el modelo subyacente para ChatGPT es, de hecho, capaz de navegar por la web externa, pero estaba deshabilitado para la versión actual.