El bufete estadounidense de abogados especializado en lesiones personales Morgan & Morgan envió un correo electrónico urgente. Este mes, a sus más de 1.000 abogados: la inteligencia artificial puede inventar jurisprudencia falsa, y el uso de información inventada en una presentación judicial podría hacer que lo despidan.
Un juez federal de Wyoming acaba de amenazar con sancionar a dos abogados de la firma que incluyeron citas de casos ficticios en una demanda contra Walmart Uno de los abogados admitió en documentos judiciales la semana pasada que utilizó un programa de inteligencia artificial que «alucinaba» los casos y se disculpó por lo que llamó un error involuntario. La tendencia de la inteligencia artificial a generar ficción legal en los casos presentados ha llevado a tribunales de todo el país a interrogar o disciplinar a abogados en al menos siete casos durante los últimos dos años, y ha creado un nuevo dolor de cabeza de alta tecnología para litigantes y jueces, descubrió Reuters.
El caso de Walmart se destaca porque involucra a un conocido bufete de abogados y a una gran empresa demandada. Pero ejemplos como este han surgido en todo tipo de demandas desde que los chatbots como ChatGPT marcaron el comienzo de la era de la inteligencia artificial, lo que pone de relieve un nuevo riesgo de litigio. Un portavoz de Morgan & Morgan no respondió a una solicitud de comentarios. Walmart se negó a hacer comentarios. El juez aún no ha decidido si sancionará a los abogados en el caso de Walmart, que involucraba un juguete volador supuestamente defectuoso.
Los avances en la IA generativa están ayudando a reducir el tiempo que los abogados necesitan para investigar y redactar informes legales, lo que lleva a muchos bufetes de abogados a contratar proveedores de IA o desarrollar sus propias herramientas de IA. El sesenta y tres por ciento de los abogados. Los encuestados por la empresa matriz de Reuters, Thomson Reuters, el año pasado dijeron que han utilizado IA en el trabajo, y el 12% dijo que la usa regularmente. Sin embargo, se sabe que la IA generativa inventa hechos con seguridad, y los abogados que la utilizan deben tener cuidado, dijeron los expertos legales.
La IA a veces produce información falsa, conocida como «alucinaciones» en la industria, porque los modelos generan respuestas basadas en patrones estadísticos aprendidos de grandes conjuntos de datos en lugar de verificar los hechos en esos conjuntos de datos. Las normas de ética de los abogados exigen que estos examinen y respeten sus documentos presentados ante los tribunales o se arriesguen a ser sancionados. El año pasado, la Asociación Estadounidense de Abogados (American Bar Association) dijo a sus 400.000 miembros que esas obligaciones se extienden a «incluso una declaración errónea no intencional» producida mediante inteligencia artificial.
Las consecuencias no han cambiado sólo porque las herramientas de investigación legal hayan evolucionado, dijo Andrew Perlman, decano de la facultad de derecho de la Universidad de Suffolk y defensor del uso de IA para mejorar el trabajo legal. «Cuando se descubre que los abogados utilizan ChatGPT o cualquier herramienta de inteligencia artificial generativa para crear citaciones sin verificarlas, eso es incompetencia, pura y simple», dijo Perlman.
‘FALTA DE CONOCIMIENTOS EN IA’
En una de las primeras reprimendas judiciales al uso de IA por parte de los abogados, en junio de 2023 un juez federal de Manhattan multó a dos abogados de Nueva York con 5.000 dólares por citar casos inventados por IA en un caso de lesiones personales contra una aerolínea. El año pasado, otro juez federal de Nueva York consideró imponer sanciones en un caso que involucraba a Michael Cohen, el ex abogado y solucionador de problemas de Donald Trump, quien dijo que por error le dio a su propio abogado citas de casos falsos que el abogado presentó en el caso penal de impuestos y financiamiento de campañas de Cohen.
Cohen, que utilizó el chatbot de inteligencia artificial Bard de Google, y su abogado no fueron sancionados, pero el juez calificó el episodio de «vergonzoso». En noviembre, un juez federal de Texas ordenó a un abogado que citó casos y citas inexistentes en una demanda por despido injustificado que pagara una multa de 2.000 dólares y asistiera a un curso sobre IA generativa en el ámbito legal. Un juez federal de Minnesota dijo el mes pasado que un experto en desinformación había destruido su credibilidad ante el tribunal después de admitir haber citado involuntariamente citas falsas generadas por inteligencia artificial en un caso que involucraba una parodia «deepfake» de la vicepresidenta Kamala Harris.
Harry Surden, profesor de derecho en la facultad de derecho de la Universidad de Colorado que estudia la IA y el derecho, dijo que recomienda que los abogados dediquen tiempo a aprender «las fortalezas y debilidades de las herramientas». Dijo que los ejemplos cada vez más numerosos muestran una «falta de alfabetización en IA» en la profesión, pero la tecnología en sí no es el problema. «Los abogados siempre han cometido errores en sus presentaciones ante AI», afirmó. «Esto no es nuevo».
Reporte de Sara Merken en Nueva York; editado por David Bario y Aurora Ellis
Fuente: reuters
