Problema 2500
Llámalo Defensa Cyber-ano de Bergerac.
Las nuevas y espeluznantes capacidades de la inteligencia artificial están a punto de aparecer en la sala de un tribunal, en la forma de un abogado de chatbot de IA que pronto presentará un caso en un tribunal de tránsito.
Eso es según Joshua Browder, el fundador de una startup de empoderamiento del consumidor que concibió el esquema.
En algún momento del próximo mes, Browder planea enviar a un acusado real a un tribunal real armado con un dispositivo de grabación y unos auriculares. La compañía de Browder transmitirá el audio de los procedimientos a una IA que, a su vez, escupirá argumentos legales; el acusado, dice, ha accedido a repetir palabra por palabra los resultados del chatbot a un juez involuntario.
Browder se negó a identificar al acusado o la jurisdicción para la fecha de la corte del próximo mes, citando temores de que el juez se enterara del truco planeado y lo bloqueara.
En los últimos meses, el lanzamiento público de herramientas de IA cada vez más avanzadas ha planteado preguntas sobre todo, desde el plagio en la escuela secundaria hasta la esencia misma de lo que es ser humano. Ahora la tecnología está a punto de chocar con los sistemas legales y las políticas públicas que nunca anticiparon un papel para los actores no humanos, especialmente en los tribunales.
Todo es parte de una "carrera armamentista" de política tecnológica, dijo Browder, en la que la IA está sacudiendo las herramientas y las reglas que determinan el equilibrio de poder entre los individuos, por un lado, y los gobiernos y las corporaciones, por el otro. otro. Él ve a AI como una forma para que los ciudadanos comunes tengan la oportunidad de nivelar el campo de juego en las peleas por multas y tarifas, que a menudo no pueden permitirse litigar ellos mismos.
La IA ya ha incursionado en la profesión legal estadounidense, donde las grandes firmas la utilizan de manera rutinaria para ayudar en la tarea de revisar tesoros de documentos que pueden sumar millones durante la fase de descubrimiento del litigio.
Pero Nicholas Saady, litigante de Pryor Cashman que asesora sobre el uso de IA en la práctica comercial y legal, dijo que esta última aplicación podría no funcionar. Señaló una serie de problemas prácticos y de procedimiento presentados al usar AIchatbots para la representación legal en tiempo real. "¿Es la práctica no autorizada de la ley?" preguntó, diciendo que el plan corría el riesgo de entrar en conflicto con las leyes estatales que requieren una licencia profesional para los abogados.
Browder dijo que ha considerado esto e identificó dos jurisdicciones donde su plan “no es totalmente ilegal”. En la segunda jurisdicción, dijo, había alineado a un acusado para usar la IA en una audiencia de Zoom en la corte de tránsito.
Para la audiencia de Zoom, Browder dijo que, en lugar de que el acusado hablara en voz alta por sí mismo, estaba considerando llevar la simulación un paso más allá mediante el uso de una herramienta de inteligencia artificial que puede imitar la voz de una persona después de grabar su discurso. “Aunque”, admitió, “eso podría meternos en muchos problemas”.
Esta no es la primera incursión de Browder en la resolución de disputas de alta tecnología. La compañía de Browder ofrece todo tipo de ayuda legal y de consumo de bricolaje, y ha estado utilizando IA para ayudar a los clientes a presentar sus reclamos ante gobiernos y corporaciones desde 2021, en gran parte mediante la generación de cartas modelo y guiones para chats de servicio al cliente en línea. Un problema que ha encontrado en el camino es que las IA a veces inventan cosas para impulsar su caso, dijo. Para evitar esto, dijo, su empresa tiene que formular instrucciones elaboradas que obliguen a los bots a ceñirse a afirmaciones fácticas.
Para su incursión en los tribunales, Browder dijo que está usando GPT-J, un modelo de IA de código abierto lanzado el año pasado. Para aplicaciones menos sensibles, Browder dijo que su compañía usa modelos de OpenAI, la compañía detrás de las nuevas herramientas de inteligencia artificial de más alto perfil, llamadas modelos de lenguaje grande.
Browder dijo que permanece en estrecho contacto con OpenAI para garantizar que su empresa, DoNotPay, no infrinja sus términos de uso. En la práctica, eso ha significado agregar funciones, como un retraso de dos segundos durante el cual un usuario puede rechazar la respuesta sugerida por una IA, que asegura que un humano mantenga el control de los resultados finales, dijo.
OpenAI no respondió a las solicitudes de comentarios.
El gambito de la sala de audiencias de Browder es solo una de las bolas curvas que la reciente serie de herramientas avanzadas de IA está lanzando a la profesión legal. Un [artículo de preimpresión] no revisado por pares (https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4314839) publicado hace una semana por dos profesores de derecho predice que un gran modelo de lenguaje pronto podrá pasar la sección de opción múltiple del examen de la barra multiestatal.
Pero incluso si una IA pudiera aprobar el Colegio de Abogados, e incluso si los tribunales permitieran litigantes de IA, Saady dijo que a los litigantes les iría mejor si contrataran abogados de carne y hueso.
Un buen litigio, dijo, se basa en intangibles que permanecen fuera del alcance de los bots: citó la capacidad de leer el lenguaje corporal y tomar decisiones estratégicas en una fracción de segundo en medio de los intercambios en la sala del tribunal. “No parece que AI esté lista para ponerse de pie en la corte”, dijo.
El abogado de Boston, Matt Henshon, por otro lado, dijo que la idea de un asesor legal impulsado por IA es prometedora. Henshon, quien preside el Comité de Inteligencia Artificial y Robótica de la Asociación Estadounidense de Abogados, dijo que podría brindar ayuda legal en escenarios de menor riesgo en los que, de lo contrario, una persona se quedaría sin representación.
En ese sentido, comparó el asesoramiento legal de AI con las demandas colectivas, que permiten que un gran número de demandantes obtengan representación al agrupar muchos reclamos menores que no valdría la pena litigar por sí solos.
“Hay muchos errores legales que no se corrigen porque no vale la pena que un abogado se involucre ”, dijo Henshon.
Browder, cuyo padre Bill Browder encabezó la aprobación de la Ley Global Magnitsky y otras leyes en todo el mundo que sancionan a los violadores de los derechos humanos, dijo que espera que su truco tecnolegal ayude a presentar ese caso ante las legislaturas estatales y otros organismos normativos para que que acomodarán el ascenso de los abogados de AI.
“Están todos estos guardianes, hay leyes, hay gobiernos con los que trabajar”, dijo. “No es realmente la tecnología la parte más difícil. Es estar en cumplimiento”.
¿Qué pasa si lo siguiente que podría reemplazar la IA generadora de texto es en realidad un renacimiento un poco más?
En una publicación de blog esta mañana, el economista de George Mason y bloguero prolífico Tyler Cowen postula que ChatGPT podría funcionar de la misma manera que una innovación particular de la web de la era de George W. Bush: el comentario de blog.
“Cada vez que planteo una consulta [a ChatGPT] es como publicar una publicación en un blog... y obtener una gran cantidad de respuestas de inmediato, y sin tener que obstruir [su blog] con todas mis docenas de preguntas todos los días”, escribe Cowen. “...Aprendo de las respuestas colectivamente y, además, algunas de ellas son muy buenas y también muy precisas”.
El encuadre refleja la astuta comprensión de Cowen de lo que realmente hace un producto como ChatGPT, es decir, absorber toda la información que existe en la web y regurgitarla de una manera que emula cómo fue escrita originalmente por un ser humano. Modelos como ChatGPT “son como darles a todos su propio blog abierto de comentarios, con súper-infovores alucinantes como lectores y respuesta inmediata y seguimiento cuando se desea”, agrega. (Tenga en cuenta que dice "seguimiento", sin embargo, no comunicación, el elemento crucial de persona a persona del blog que esencialmente presagiaba la existencia de Twitter). — Derek Robertson