Incidente 1499: Según informes, Claude Console generó citas legales ficticias en la presentación judicial sobre los despidos de Trump.
Respondido
Descripción: Según se informa, un abogado de Binnall Law Group utilizó la plataforma Claude Console de Anthropic para redactar una moción para anular una citación judicial en un litigio sobre despidos en la administración Trump, y posteriormente presentó una versión con citas "fantasma" que no aparecían en los casos citados. El abogado se disculpó ante la jueza federal Susan Illston, y la firma declaró que implementaría medidas de seguridad y capacitación adicionales tras calificar de inaceptables los errores generados por la IA.
Entidades
Ver todas las entidadesAlleged: Anthropic developed an AI system deployed by Binnall Law Group y Jason Greaves, which harmed Epistemic integrity , Judicial integrity , Joseph Guy , Parties in Trump administration layoffs y Parties in American Federation of Government Employees, AFL-CIO v. Trump.
Sistemas de IA presuntamente implicados: Claude Console y Large language models
Estadísticas de incidentes
ID
1499
Cantidad de informes
2
Fecha del Incidente
2026-05-06
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
Loading...
Respuesta post-incidente de Lindsay R. McKasson, Jason Greaves, Jesse R. Binnall
Nota del editor de AIID: Este es solo un extracto del inicio de la disculpa completa. Consulte la fuente original para obtener el PDF: https://fingfx.thomsonreuters.com/gfx/legaldocs/myvmylgokvr/Binnall%20AI%20apology.pdf.
Yo, Jason C. Grea…
Loading...
18 de mayo (Reuters) - Un abogado del bufete Binnall Law Group se disculpó ante un juez federal en San Francisco por incluir citas "fantasma" generadas por inteligencia artificial en un documento judicial relacionado con el despido de emple…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?