Incidentes Asociados
Un perito que testificaba en un juicio sobre la responsabilidad por la explosión en Houston que causó la muerte de tres personas y destruyó aproximadamente 200 viviendas utilizó ChatGPT para redactar gran parte de su informe pericial. El hombre, contratado por el conglomerado de productos industriales 3M, hizo públicas las instrucciones que le dio a su IA. Estas revelaron que le pidió a ChatGPT que lo ayudara a "crear un informe pericial excepcional que defendiera el estándar de diligencia de 3M" y que el informe debía "demostrar que 3M no tuvo ninguna responsabilidad en la explosión de Watson Grinding".
El incidente demuestra que la inteligencia artificial se ha abierto camino en los tribunales no solo en informes legales generados por IA, casos con alucinaciones y inyecciones de avisos adversariales, sino también en testimonios de peritos. Las transcripciones judiciales, los documentos de las declaraciones y los registros de descubrimiento compartidos con 404 Media muestran un uso extensivo de la IA en un caso de gran repercusión, donde fallecieron varias personas y están en juego cientos de millones de dólares en responsabilidad civil en el litigio en curso sobre la explosión. El caso también demuestra que las indicaciones específicas utilizadas para generar este tipo de testimonio pericial pueden ser objeto de descubrimiento durante el proceso judicial, y que dichas indicaciones pueden resultar bastante comprometedoras. (Las indicaciones [proporcionadas en el caso] se encuentran aquí: https://www.documentcloud.org/documents/28560618-ai-prompts-1/?ref=404media.co).
El Este caso es uno de varios sobre la responsabilidad por una explosión de 2020 en Watson Grinding, una planta de fabricación en Houston que fue causada por una "manguera de soldadura de goma degradada y mal engarzada", que dejó escapar un gas inflamable que finalmente explotó en la planta, según la Junta de Investigación de Seguridad Química y Peligros de EE. UU.. Decenas de propietarios han demandado a 3M y Watson Grinding. Los demandantes alegan que 3M no realizó el mantenimiento adecuado del sistema de detección de gas de la planta y cometió otros errores que contribuyeron a la explosión.
Como parte del caso, 3M contrató a Josh Autenrieth, de Knighthawk Engineering, para elaborar un informe pericial sobre la explosión. Durante la fase de presentación de pruebas, Will Moye, uno de los abogados de los demandantes, encontró un documento de cinco páginas llamado "Citation Overlay", que parecía haber sido generado por inteligencia artificial. Moye reconoció el documento como proveniente de ChatGPT y exigió a los abogados de 3M todas las conversaciones que Autenrieth había mantenido durante la elaboración del informe. La declaración se suspendió durante tres horas mientras se recopilaban dichas conversaciones, y Moye recibió 350 páginas de conversaciones de ChatGPT que Autenrieth había mantenido al crear el informe. Dichos documentos incluían los enlaces públicos de ChatGPT a las conversaciones completas de Autenrieth. Las transcripciones judiciales sugieren que 3M pagó a Knighthawk Engineering aproximadamente 90 000 dólares por su análisis, y un documento presentado por 3M muestra que la tarifa de Autenrieth era de 475 dólares por hora.
De la portada del informe
Las conversaciones muestran gran parte del proceso de Autenrieth de principio a fin, que incluyó decirle a ChatGPT que estaba siendo «contratado como perito experto». Autenrieth presentó un informe pericial para defender a 3M en sus demandas y otros procedimientos legales relacionados con la explosión de enero de 2020 en Watson Grinding. Declaró a ChatGPT que necesitaba elaborar un informe pericial para defender el estándar de diligencia de 3M en su trabajo y que, específicamente, debía refutar las afirmaciones extravagantes y falsas del testigo de la defensa, en particular sobre el trabajo con equipos para los que no se tiene la capacitación adecuada y sin los permisos necesarios. Solicitó a ChatGPT que lo ayudara a encontrar violaciones de diversas normas laborales y adjuntó cientos de documentos judiciales.
Autenrieth solicitó entonces a ChatGPT que leyera todos los documentos adjuntos y defendiera a 3M, demostrando la falta de gestión de procesos y seguridad por parte de Watson Grinding, refutando los comentarios del testigo de la defensa y demostrando que 3M no tiene ninguna responsabilidad en la explosión de Watson Grinding y que su experiencia y formación son idóneas para emitir esta opinión profesional.
ChatGPT elaboró un informe de aproximadamente 30 páginas que incluía la frase: «Desde un punto de vista técnico y de diligencia debida, 3M no tiene ninguna responsabilidad en la explosión del 24 de enero de 2020». Esta frase no se incluyó en el informe final presentado ante el tribunal (https://www.documentcloud.org/documents/28560619-3ms-supp-designation-of-experts-1/?ref=404media.co), porque cuando Autenrieth solicitó posteriormente a ChatGPT que lo revisara como abogado de la parte contraria, ChatGPT determinó que escribir «0 % de responsabilidad» es un blanco fácil para que un abogado lo desacredite, y es una de varias frases que permiten a la parte contraria presentarlo como defensor en lugar de experto.
[En otro En una conversación con ChatGPT (https://chatgpt.com/share/6a2987c9-a704-83ea-a804-89aeff60cff7?ref=404media.co), Autenrieth subió una imagen de un detector de gas y preguntó a ChatGPT: "¿Qué estoy viendo?" y "¿Cuáles son los nombres de los modelos de detectores de gas industriales?". Moye respondió que el detector de gas en cuestión era "el tema central del caso".
Autenrieth utilizó ChatGPT para editar el informe generado y subió repetidamente diferentes versiones, obteniendo revisiones de la herramienta y subiendo nuevas versiones (en algunas conversaciones, cambió el tema de su testimonio pericial a solicitar a ChatGPT que generara imágenes de camisetas). También le pidió a ChatGPT que calificara su informe (obtuvo una puntuación de 97/100) y le preguntó: "¿Cuáles son los 5 puntos principales de mi informe que la fiscalía podría impugnar y cómo puedo defenderme?". Luego, preguntó a ChatGPT si su currículum era suficiente para ser perito; "¿Me acusará la fiscalía por no haber sido nunca [perito] basándose en la redacción? ¿Cómo puedo defenderme?".
El informe que Autenrieth presentó ante el tribunal tiene la misma estructura que el informe inicial de ChatGPT, y gran parte de él es idéntico al primer informe de ChatGPT y a las revisiones que recomendó en las conversaciones posteriores de Autenrieth.
"Este experto no se basó en la IA como herramienta de apoyo, sino exclusivamente en ChatGPT para formarse sus opiniones y redactar su informe", declaró Moye a 404 Media en una entrevista telefónica. "Reconoció [en el juicio] que las indicaciones que introdujo estaban sesgadas a favor de 3M para ayudar a 3M a ganar el caso [...] es realmente grave". Moye añadió que muchas de las indicaciones se realizaron la noche anterior a la declaración de Autenrieth como perito. Lo contrataron con el único propósito de cambiar el resultado del caso. Lo contrataron y él usó ChatGPT para redactar estos informes, así que, en realidad, ChatGPT era el experto en el caso. No cabe duda al respecto.
Lo contrataron con el único propósito de cambiar el resultado del caso. 
Moye declaró a 404 Media que 3M intentó finalmente descalificar a Autenrieth del juicio, pero que tras descubrir que Autenrieth había utilizado extensamente la IA para generar su informe, Tomó la inusual medida de llamar al perito de la otra parte como testigo. "Le dije: 'Lo llamo a juicio porque necesito que el jurado lo escuche, ya que esto es muy grave'. Y eso fue exactamente lo que hice", declaró Moye.
En las transcripciones del juicio, Autenrieth admite haber usado ChatGPT, pero afirma repetidamente ser un experto en detección de gases: "Tengo un amplio historial y más de 20 años de experiencia en el sector". No explicó por qué usó ChatGPT, pero dijo: "Incluí mis opiniones y la IA me ayudó a crear un argumento falaz sobre el cual basarme", y añadió: "Introduje información y opiniones antes de que se generara el informe [...] si el resultado no coincidía con mi opinión o con lo que había acordado, lo modificaba". Durante el interrogatorio en el juicio, Moye y Autenrieth coinciden en que el informe presentado es "entre un 90 y un 85 por ciento ChatGPT". Autenrieth también afirmó que consultó ChatGPT varias veces sobre el caso mientras estaba atascado en el tráfico para refrescar la memoria sobre diferentes fabricantes de detectores de gas.
Además de ser un caso sumamente interesante por sí mismo, demuestra que los abogados de la parte contraria pueden obtener transcripciones de ChatGPT durante la fase de presentación de pruebas o en las declaraciones juradas. Moye afirmó: «Todo abogado debe asegurarse de que sus peritos no generen información de forma fraudulenta, y saber que se pueden solicitar las instrucciones mediante una citación judicial [...] Tengo abogados por todas partes que me dicen: 1) "¡Caramba! ¿Cómo conseguiste las instrucciones?", y 2) "¿Cuántos casos más nos están pasando?"».
Autenrieth no es el primer perito descubierto utilizando IA durante un juicio, aunque la mayoría de los casos conocidos han sido internacionales, según una base de datos de casos en los que se utilizó IA para crear pruebas. En un caso en Francia, un abogado utilizó IA para argumentar sobre los patrones de las aguas pluviales en una disputa por inundaciones; esa prueba fue desestimada. En Canadá, se utilizó IA para generar opiniones sobre si ciertos tipos de plantas causaron una plaga de insectos en un complejo de apartamentos. El juez en ese caso escribió: «No le doy ninguna importancia a la [prueba de IA]. La prueba pericial debe provenir de una persona reconocida, con cualificaciones reconocidas y conocimiento específico sobre el tema en cuestión».
El jurado en el caso de 3M otorgó más de 61 millones de dólares a los demandantes, atribuyendo el 30 % de la responsabilidad a 3M y el 70 % a Watson Grinding. Sentencias anteriores otorgaron 118 millones y 38 millones de dólares a las víctimas de la explosión, y hay varios casos más pendientes.
Knighthawk Engineering, Autenrieth y 3M no respondieron a la solicitud de comentarios.