Queriendo sin querer

Leo una resolución, del Tribunal Superior de Justicia de Pamplona, que resuelve un caso, de momento singular (es el primero) relativo a si debe sancionarse a un abogado por utilizar, sin diligencia debida, tecnologías emergentes, el ChatGPT. Les cuento, el tema es que un ciudadano otorga confianza a un letrado para que este formalice escrito de querella en defensa de sus legítimos intereses. El hecho es que aquel ejercita dicha labor utilizando la inteligencia artificial. Aquella, en sus fundamentos jurídicos, le lleva a incorporar el texto del código Penal de la República de Colombia. El resultado, a pesar de los pesares, es la inadmisión de la misma, con las consecuencias que para su cliente proceda. Pero no acaba ahí la cosa, el Tribunal abre pieza separada a los efectos de la posible imposición de sanción al letrado, por abuso de derecho o mala fe procesal. Es en ese incidente, donde el Tribunal nos recuerda los riesgos de usar esa tecnología, citando estudios recientes de este mismo año, Matthew Dahl et. al, Large Legal Fiction. Elaboración de perfiles de alucinaciones jurídicas en modelos lingüísticos de gran tamaño (2024) indicando que son altamente prevalentes, ocurriendo en el 69% del tiempo en ChatGPT 3.5 y el 88% con Llama 2. Indicando, nuevas orientaciones publicadas por Law Society, que concluyen que son los abogados los responsables de los productos de trabajo generados por esta tecnología. Y es que incluso nos remite al propio Consejo de la Abogacía Europea (CCBE), que ya ha publicado un documento, Consideraciones de CCBE sobre aspectos legales de la inteligencia artificial que aconseja una supervisión humana efectiva en el uso de herramientas de inteligencia artificial. Llegados a este punto y a pesar de que nos recuerda que hay jurisprudencia comparada que impone sanción por su indebido uso (vid Caso Avianca, imposición de 5.300 dólares por uso indebido de ChatGP) y como quiera que aquel, el letrado, se excusó indicando algo así de que “lo hizo queriendo, pero sin querer”, se obtiene esa primera resolución que archiva la pieza, sin imposición de sanción. Saquen sus propias conclusiones. La mía, que debiera encaminarse a saber cómo hacemos para que en el futuro los fulleros no tengan más herramientas de copia y pega que validen lo que debiera ser el desempeño del ejercicio de nuestra profesión, y es que una herramienta en malas manos puede desvirtuar el sistema tal y como lo conocemos. No obstante lo anterior, me preocupa que lo actual se muestre en digital, pero en gran medida me ocupa lo que nos queda en lo analógico. Y es que sé que todo lo que no sea aplaudir la utilización de las medidas tecnológicas suena a viejuno, por no decir disruptivo, y que debo entender que todo se hace al servicio de la inteligencia humana, lo que pasa es que a medida que uno va cumpliendo años se da cuenta de que la inteligencia artificial cada vez es menos artificial y la inteligencia humana es eso, cada vez menos inteligente.