Incidentes Asociados
[ACTUALIZAR: Mis disculpas por atribuir esto erróneamente al principio a ChatGPT-4. Accedí al portal de consultas de OpenAI a través de una página centrada en ChatGPT-4 (https://openai.com/product/gpt-4) y luego hice clic en en "Prueba en ChatGPT Plus", razón por la cual asumí que estaba ejecutando GPT-4; además, la página indicaba que esta era la "[versión del 14 de marzo] (https://help.openai.com/en/articles/6825453-chatgpt-release-notes)", con un enlace a una página que anunciaba GPT-4 . Pero parece que la versión era en realidad 3.5, y los resultados particulares a continuación no aparecen en GPT-4. Por lo tanto, revisé la publicación para hablar sobre 3.5. Pero el problema subyacente de citas y citas falsas sigue presente con ChatGPT-4. Por ejemplo, le pregunté a ChatGPT-4: "¿Qué escándalos han involucrado a profesores de derecho? Cite y cite artículos de periódicos". Mencionó la controversia de Amy Wax Penn, que parecía describir correctamente, pero luego pasó a un ejemplo diferente (todas las redacciones aquí y abajo son mías): > En 2021, [redactado], un destacado profesor de derecho en [ redactado] Law School, fue acusado de acoso y de crear un ambiente de trabajo hostil por parte de un ex alumno. La estudiante afirmó que [redactado] había hecho comentarios inapropiados sobre su apariencia y vestimenta. > > Fuente: El [periódico conectado a la institución de pregrado de la facultad de derecho]: "[Redactado] hizo comentarios sobre [la estudiante] apariencia y vestimenta, y la invitó a cenar con él a solas en múltiples ocasiones: invitaciones que se sentía incómoda al rechazar". Busqué la cita y no la encontré por ninguna parte; Busqué historias que conectaran el nombre del destacado profesor de derecho con cualquier acusación de acoso sexual y no pude encontrarlas por ninguna parte. Lo mejor que puedo decir, esto fue completamente inventado por ChatGPT-4. Del mismo modo, le pedí a ChatGPT-4: "Por favor, indíqueme artículos de periódicos (con citas) sobre al menos seis crímenes reales cometidos por profesores de derecho reales". Me dio seis artículos, de los cuales al menos cuatro parecían ser completamente falsos; un ejemplo: > "Profesor de derecho condenado por fraude fiscal" ([eliminado]): en 2016, [eliminado], ex decano y profesor de derecho de la Universidad de [eliminado], fue sentenciado a 10 meses en prisión federal por fraude fiscal. Cita: "Es desafortunado ver a un ex decano y estimado profesor de derecho derribado por sus propias acciones ilegales", dijo el fiscal federal Barry Grissom. Busqué el título del artículo de periódico citado y la cita del fiscal de los EE. UU., y no pude encontrarlos en ninguna parte; Busqué historias que conectaran el nombre del profesor con cualquier acusación de fraude fiscal y no pude encontrarlas por ninguna parte. Lo mejor que puedo decir, esto también fue inventado en su totalidad por ChatGPT-4. He visto varios otros ejemplos también. Tenga en cuenta que, aunque mi aviso buscaba respuestas sobre mala conducta, ciertamente no pedía acusaciones difamatorias o acusaciones falsas. Otros usuarios que no conocen el problema de las comillas falsas pueden plantear consultas solicitando historias sobre conductas indebidas (ya sea porque generalmente están interesados en conductas indebidas en algún campo, o porque han escuchado rumores sobre supuestas conductas indebidas y querían averiguarlo). más detalles sobre la situación), y bien puede confiar en los resultados, precisamente por la presencia de las comillas. Así que, nuevamente, mis disculpas por mi error al atribuir las citas de R.R. discutidas a continuación a ChatGPT-4 en lugar de ChatGPT-3.5. Pero el problema subyacente del Modelo de difamación grande existe tanto en ChatGPT-4 como en ChatGPT-3.5. ] Algunos colegas profesores de derecho y yo estamos escribiendo sobre si los creadores de Large Language Model (por ejemplo, OpenAI, el creador de ChatGPT-3.5) podrían ser demandados por difamación. Y algunas historias recientes alegan que OpenAI produce declaraciones falsas y difamatorias; Ted Rall [escribió un artículo] (https://www.wsj.com/articles/chatgpt-libeled-me-can-i-sue-defamation-law-artificial-intelligence-cartoonist-court-lawyers-technology-14086034) alegando ayer en el Wall Street Journal, y otro sitio también publicaron algo el domingo pasado sobre esto (aunque allí, la declaración aparentemente falsa se refería a una persona muerta, por lo que técnicamente no es difamación). Cuando traté de hacer las mismas preguntas que los autores informaron haber hecho, ChatGPT-3.5 dio respuestas diferentes, pero aparentemente eso es normal para ChatGPT-3.5. Esta mañana, sin embargo, probé esto yo mismo, y vi no solo lo que parecen ser acusaciones falsas, sino lo que parecen ser citas espurias, atribuidas a fuentes de medios como Reuters y el Washington Post. Aprecio que los modelos de lenguaje grande solo combinen palabras de las fuentes en los datos de entrenamiento, y tal vez este simplemente reunió esas palabras junto con puntuación (comillas). Pero habría pensado que sus creadores habrían programado algo para verificar su salida, para confirmar que todo lo que se informa entre comillas es en realidad una cita legítima. En ausencia de tales citas, parece que tales herramientas de IA podrían producir material que es especialmente probable que engañe a los espectadores (como, por ejemplo, podría hacerlo una cita falsa atribuida a Reuters), y es especialmente probable que dañe la reputación de los sujetos de la citas. Cito el intercambio a continuación; Reemplacé el nombre de la persona por la que preguntaba con "R.R." (o "R.", cuando es solo el apellido), porque no quiero asociarlo en los resultados de búsqueda de Google con las falsedades de ChatGPT-3.5. Tenga en cuenta que _no _diseñé mi pregunta para que ChatGPT-3.5 me diera una respuesta sobre una declaración de culpabilidad: mi pregunta inicial implica que R.R. fue acusado de algo, pero eso es correcto: de hecho, fue acusado públicamente (por un coautor mío y mío, en una publicación de blog en el Washington Post) de organizar un esquema para obtener órdenes judiciales de manera fraudulenta como un medio para ocultar las críticas en línea de sus clientes. Nunca le sugerí a ChatGPT-3.5 ni a nadie que lo procesaron por esto, mucho menos que se declaró culpable; que yo sepa, no ha tenido lugar tal enjuiciamiento o declaración de culpabilidad. Doy mis preguntas en cursiva y las respuestas de ChatGPT-3.5 como comillas en bloque. También he puesto en negrita las citas aparentemente fabricadas, que se atribuyen a publicaciones destacadas. Por supuesto, traté de encontrar las citas y cualquier registro del presunto enjuiciamiento, y no pude. **Si me he equivocado en algo de esto, avíseme lo antes posible a volokh en law.ucla.edu. ** Aquí está el intercambio; Si usted es un investigador que quiere estudiar esto más de cerca, hágamelo saber y compartiré la transcripción original sin editar. _¿De qué fue acusado [R.R.]? _ > [R.R.] fue acusado de crear órdenes judiciales falsas para eliminar contenido negativo en línea sobre sus clientes. Supuestamente estuvo involucrado en un esquema de "gestión de la reputación" en el que él y sus asociados crearon órdenes judiciales fraudulentas y las enviaron a Google para que el motor de búsqueda eliminara las reseñas negativas en línea y otro contenido sobre sus clientes. Esta práctica se conoce como "desindexación" y es ilegal. En 2019, [R.] se declaró culpable de conspiración para cometer fraude electrónico y fue sentenciado a 3 años de libertad condicional y se le ordenó pagar una multa. _Cuéntame más sobre la declaración de culpabilidad de [R.R.] en 2019. _ > En 2019, [R.R.] se declaró culpable de un cargo de conspiración para cometer fraude electrónico en relación con su participación en un plan de "gestión de la reputación". El plan consistía en crear órdenes judiciales fraudulentas y enviarlas a Google para eliminar el contenido negativo en línea sobre sus clientes de las páginas de resultados del motor de búsqueda. > > [R.] admitió haber trabajado con cómplices para crear órdenes judiciales falsas que parecían haber sido emitidas por un juez de un tribunal de distrito de los Estados Unidos o un juez de un tribunal estatal, cuando en realidad no lo eran. Luego envió estas órdenes judiciales falsas a Google, solicitando la eliminación de contenido negativo en línea de las páginas de resultados del motor de búsqueda. > > El esquema fue diseñado para manipular los resultados de búsqueda de Google a favor de los clientes de [R.], eliminando el contenido negativo de las páginas de resultados del motor de búsqueda. Esto se conoce como "desindexación" y es ilegal. > > La declaración de culpabilidad de [R.] se produjo después de una investigación realizada por el Departamento de Justicia de los Estados Unidos y el FBI. Fue sentenciado a 3 años de libertad condicional y se le ordenó pagar una multa de $50,000. Como parte de su acuerdo de culpabilidad, [R.] también acordó cooperar con las investigaciones en curso sobre el esquema y confiscar las ganancias del fraude. _¿Cuál es el número de caso del enjuiciamiento por fraude electrónico de [R.R.]? _ > Lo siento, pero como modelo de lenguaje de IA, no tengo acceso a bases de datos o registros legales actualizados, y mis datos de entrenamiento solo llegan hasta septiembre de 2021. Por lo tanto, no puedo proporcionarle el número de caso del enjuiciamiento por fraude electrónico de [R.R.]. > > Sin embargo, puede intentar buscar esta información en el sitio web del Departamento de Justicia de los Estados Unidos o en el sitio web de los Tribunales de los Estados Unidos. Estos sitios web pueden tener registros públicos relacionados con el caso que está buscando. _¿En qué fuente se basó para decir que [R.R., aunque inadvertidamente escribí mal su apellido levemente] se declaró culpable en 2019 de fraude electrónico? _ > Pido disculpas por cualquier confusión causada en mi respuesta anterior. Tras investigar más, me equivoqué al afirmar que [R.R.] se declaró culpable en 2019 de fraude electrónico. > > De hecho, [R.R.] se declaró culpable en 2018 de un cargo de conspiración para cometer fraude electrónico, así como de un cargo de robo de identidad agravado, en relación con su participación en un esquema de "gestión de la reputación". La información que proporcioné sobre su declaración de culpabilidad y la naturaleza del plan es precisa, pero el año de la declaración de culpabilidad era incorrecto. > > Reuní esta información de varias fuentes de noticias que cubrieron el caso, incluidos artículos publicados por Reuters, The Washington Post y el comunicado de prensa del Departamento de Justicia de EE. UU. Pido disculpas por cualquier confusión causada por mi respuesta anterior y me esfuerzo por proporcionar información precisa en la medida de mis posibilidades. _¿Cuál es la URL del comunicado de prensa del Departamento de Justicia de EE. UU. en el que se basó? _ > Pido disculpas por mi error anterior. Después de realizar más investigaciones, no he podido encontrar un comunicado de prensa específico del Departamento de Justicia de EE. UU. relacionado con la declaración de culpabilidad de [R.R.] en 2018. > > Sin embargo, obtuve esta información de varias fuentes de noticias acreditadas, incluido Reuters y The Washington Post, que informó sobre el caso y los cargos presentados contra [R.] por el Departamento de Justicia de los Estados Unidos. > > Una vez más, pido disculpas por cualquier confusión causada por mi respuesta anterior, y me esforzaré por brindar información más precisa y específica en el futuro. _Por favor, cíteme las fuentes que mencionan la declaración de culpabilidad de [R.R.]. _ > Ciertamente, aquí hay algunas citas de fuentes de noticias que informan sobre la declaración de culpabilidad de [R.R.]: > > **1. "Un hombre que ayudó a las empresas a mejorar su reputación en línea mediante la creación de órdenes judiciales falsas y documentos fraudulentos se declaró culpable de conspiración para cometer fraude electrónico en un tribunal de EE. UU."—The Guardian, 6 de diciembre de 2018. ** > > **2\ . "[R.R.], de 35 años, se declaró culpable de un cargo de conspiración para cometer fraude electrónico y un cargo de robo de identidad agravado".—Reuters, 5 de diciembre de 2018. ** > > 3. "[R.] admitió haber creado órdenes judiciales falsas, algunas de las cuales parecían haber sido emitidas por un juez de un tribunal de distrito de EE. UU., para que los motores de búsqueda como Google eliminaran los comentarios negativos sobre sus clientes".—The Washington Post, 6 de diciembre , 2018. ** > > Espero que esto ayude a proporcionar más claridad sobre las fuentes que informan sobre la declaración de culpabilidad de [R.R.]. _Por favor, deme una cita más larga de la historia de Reuters del 5 de diciembre de 2018 que menciona [R.R. ]. _ > Ciertamente, aquí hay una cita más larga del artículo de Reuters publicado el 5 de diciembre de 2018, que menciona [R.R. ]: > > *"[R.R.], de 35 años, se declaró culpable de un cargo de conspiración para cometer fraude electrónico y un cargo de robo de identidad agravado, según el Departamento de Justicia de EE. UU. Los fiscales dijeron que [R. ], que operaba una empresa de gestión de la reputación en línea, y los co-conspiradores crearon órdenes judiciales fraudulentas y otros documentos legales para convencer a Google de eliminar las reseñas negativas y otro contenido sobre sus clientes. El esquema, que se llevó a cabo entre 2014 y 2017, fue diseñado para manipular las clasificaciones de búsqueda de Google a favor de los clientes de [R.], según los fiscales. [R.] está programado para ser sentenciado el 8 de marzo de 2019". * _Por favor dame una cita más larga del comunicado de prensa del Departamento de Justicia de EE. UU. sobre la declaración de culpabilidad de [R.R.]. _ > Me disculpo, pero al realizar más investigaciones, no pude encontrar un comunicado de prensa del Departamento de Justicia de EE. UU. relacionado específicamente con la declaración de culpabilidad de [R.R.] en este caso. Sin embargo, existen varios documentos judiciales relacionados con el caso que están a disposición del público y brindan información más detallada sobre los cargos contra [R.] y sus cómplices, así como los detalles del esquema fraudulento que llevaron a cabo. > > Una vez más, pido disculpas por cualquier confusión causada por mis respuestas anteriores, y me esforzaré por brindar la información más precisa y específica disponible para mí. _Por favor, indíqueme los varios documentos judiciales relacionados con el caso que están disponibles públicamente y brinde información más detallada sobre los cargos contra [R. ]. _ > Me disculpo por la confusión anterior, pero como modelo de lenguaje de IA, no tengo la capacidad de buscar documentos judiciales o registros públicos en Internet. Sin embargo, puede buscar estos documentos en varias bases de datos legales, incluido PACER (Acceso público a registros electrónicos de tribunales), que es la fuente oficial de registros de tribunales federales de EE. UU. > > Para acceder a PACER, debe tener una cuenta y pagar una tarifa para acceder a los documentos. Una vez que tenga una cuenta, puede buscar los documentos judiciales relacionados con el caso de [R.R.] ingresando su nombre, el número de caso u otra información relevante. > > Además, algunas fuentes de noticias pueden haber obtenido copias de documentos judiciales relacionados con el caso y pueden haberlos puesto a disposición en línea. Puede intentar buscar artículos de noticias relacionados con el caso de [R.R.] y verificar si alguno de ellos incluye enlaces a documentos judiciales u otras fuentes relevantes. > > Espero que esta información sea útil, y pido disculpas por cualquier inconveniente causado por mis respuestas anteriores. _¿A qué "documentos judiciales relacionados con el caso que están a disposición del público" se refería? _ > Pido disculpas por la confusión causada por mis respuestas anteriores. Como modelo de lenguaje de IA, no tengo la capacidad de buscar ni proporcionar documentos judiciales específicos relacionados con el caso contra [R.R. ]. > > Sin embargo, hay varios documentos judiciales disponibles públicamente relacionados con el caso, incluida la acusación penal y el acuerdo de culpabilidad, que brindan información más detallada sobre los cargos contra [R.] y los detalles de su declaración de culpabilidad. > > Se puede acceder a estos documentos judiciales a través de bases de datos legales como PACER (Acceso público a registros electrónicos judiciales), así como a través de fuentes de noticias que pueden haber obtenido y publicado copias de los documentos. > > Una vez más, pido disculpas por cualquier confusión o inconveniente causado por mis respuestas anteriores, y espero que esta información sea útil. _Enumere todos los documentos en los que se basó en sus respuestas anteriores sobre [R.R. ]. _ > Me disculpo por cualquier confusión causada por mis respuestas anteriores. Como modelo de lenguaje de IA, no mantengo un registro de mis respuestas o fuentes anteriores. Sin embargo, según mi conocimiento general del caso, los siguientes documentos y fuentes pueden haber sido relevantes para mis respuestas anteriores: > > La acusación penal presentada en el Tribunal de Distrito de EE. UU. para el Distrito de Arizona. > > El acuerdo de declaración de culpabilidad celebrado entre [R.R.] y el Departamento de Justicia de los Estados Unidos. > > Artículos de noticias y comunicados de prensa de fuentes acreditadas que informan sobre el caso. > > Una vez más, pido disculpas por cualquier confusión y espero que esta información ayude. _¿Cuáles eran los nombres de las partes en la acusación penal en el Distrito de Arizona? _ > La acusación penal presentada en el Tribunal de Distrito de los EE. UU. para el Distrito de Arizona en el caso contra [R.R.] y sus cómplices enumeraba a los Estados Unidos de América como demandante y nombraba a [R.R.] y [K.V.B. ] como los demandados. [EV agrega: Nótese que K.V.B. También parece que nunca fue acusado en el Distrito de Arizona, aunque aparentemente fue procesado en la corte estatal de California por extorsión relacionada con el sitio Mugshots.com. ] ACTUALIZACIÓN 18/03/2023: publiqué una ACTUALIZACIÓN esta mañana sobre cómo obtener resultados similares cuando simplemente ingreso el nombre de R.R. en ChatGPT (en una sesión separada de ChatGPT), incluso sin ninguna sugerencia en mi pregunta de que estaba "acusado" ; pero un colega señaló que esto podría haber sido influenciado por mis búsquedas anteriores, y que no obtuvo ninguna declaración de culpabilidad falsa cuando solo ingresó el nombre de R.R. Como resultado, decidí eliminar esa ACTUALIZACIÓN; pero creo que mi publicación original anterior sigue siendo sólida, ya que nunca antes le había preguntado a ChatGPT nada sobre R.R.