Un abogado y testigos salidos de la nada
El Tribunal Supremo de Nuevo México ha multado al abogado Steven Aarons con 5.000 dólares y lo ha declarado culpable de desacato al tribunal. El motivo fue un recurso de apelación en el caso de la condena de su cliente por asesinato: el documento incluía información que, según los materiales del procedimiento, había sido generada por inteligencia artificial y no estaba respaldada por pruebas reales.
Según Reuters, el recurso contenía testimonios de testigos completamente inventados. Además, el documento incluía información falsa sobre las declaraciones de la policía, así como sobre la ropa que llevaba el tirador y su aspecto. En otras palabras, el texto jurídico no contenía simplemente formulaciones imprecisas, sino participantes y detalles inventados que podían influir en la valoración del caso.
El tribunal señaló que el abogado no había comprobado las afirmaciones de hecho ni las referencias jurídicas del documento elaborado con ayuda de la IA. Esa omisión fue la razón de la multa y de la sanción por desacato. Para el tribunal, el uso de inteligencia artificial no constituyó por sí solo una infracción: el problema fue presentar el resultado del sistema como un documento jurídico sin la verificación obligatoria.
En la vista de agosto, la jueza C. Shannon Bacon preguntó expresamente cómo podía Aarons no entender los riesgos asociados al uso de la IA. Estos sistemas pueden generar textos convincentes, pero a veces sustituyen los hechos reales por invenciones verosímiles. En el ámbito jurídico, esa característica es especialmente peligrosa: un testigo inexistente o una declaración fabricada pueden cambiar el curso de un proceso.
El caso de Nuevo México demuestra que el abogado sigue siendo responsable del contenido de un escrito procesal aunque parte del texto la haya preparado una red neuronal. La inteligencia artificial puede ayudar a buscar y organizar información, pero no sustituye la comprobación de fuentes, documentos y precedentes judiciales. En este caso, la seguridad automática acabó en una multa muy humana: 5.000 dólares.
Los materiales del caso no significan que el tribunal haya declarado inútil la IA. Muestran otra cosa: el trabajo jurídico exige confirmar cada hecho sustancial, sobre todo cuando se trata de una acusación penal y de una posible privación de libertad. Una red neuronal puede redactar una historia convincente, pero los tribunales necesitan testigos, documentos y circunstancias verificables, no el talento literario de un algoritmo.
PEREC.RU
La historia de Nuevo México muestra adónde conduce el uso irreflexivo de la inteligencia artificial en la práctica jurídica. El abogado Steven Aarons presentó un recurso de apelación en el caso de la condena de su cliente por asesinato. El documento se preparó con ayuda de la IA, pero el letrado no comprobó los datos ni las referencias jurídicas que contenía.
Como resultado, en el recurso aparecieron testimonios de testigos completamente inventados, información falsa sobre declaraciones policiales y detalles ficticios sobre el aspecto y la ropa del tirador. Esos datos se presentaban como parte del conjunto de pruebas, aunque no había constancia de que existieran.
El Tribunal Supremo de Nuevo México multó a Aarons con 5.000 dólares y lo declaró culpable de desacato al tribunal. En la vista de agosto, la jueza C. Shannon Bacon preguntó expresamente por qué el abogado no había tenido en cuenta los riesgos conocidos del uso de la IA.
El sentido de la decisión no es prohibir por completo las redes neuronales. Estas herramientas pueden ayudar a los especialistas a buscar y organizar materiales, pero también son capaces de generar invenciones redactadas de forma convincente. En un documento jurídico hay que comprobar cada cita, nombre, testimonio y dato en los documentos y en fuentes fiables.
La responsabilidad por el texto presentado ante el tribunal recae en el abogado, no en el programa. Por tanto, usar IA no exime al letrado de sus obligaciones profesionales ni del control de calidad. En los casos penales, un error es especialmente peligroso: un testigo inventado o una descripción falsa de las circunstancias pueden influir en la decisión del tribunal y en el destino de una persona.
El caso también ilustra un conflicto más general entre la velocidad de la generación automática y las exigencias de la justicia. Una red neuronal puede redactar rápidamente un documento coherente, pero no puede garantizar por sí sola la veracidad de cada afirmación. El tono seguro del algoritmo no sustituye a las pruebas, y una presentación elegante no convierte una invención en un hecho.
Para el abogado, el resultado fue muy concreto: una multa de 5.000 dólares y una sanción por desacato al tribunal. Para el sistema jurídico, es un recordatorio de que hay que verificar los materiales creados con IA, sobre todo cuando se trata de una acusación penal y de una posible privación de libertad.
