Abogados bajo escrutinio: la IA como aliada y fuente de falsedades jurisprudenciales
La inteligencia artificial, si bien promete revolucionar la práctica legal, también presenta desafíos significativos, como lo demuestra el reciente caso de un abogado en Canarias multado por presentar un recurso con 48 sentencias inexistentes, generadas por ChatGPT. Este incidente pone de relieve la recurrente problemática de las "alucinaciones" de la IA, especialmente en un campo donde la precisión de la jurisprudencia es fundamental.
La IA y el riesgo de la invención
El abogado en cuestión no verificó la existencia de las citas y referencias proporcionadas por la herramienta de IA, las cuales aparecían en un recurso de apelación ante el Tribunal Superior de Justicia de Canarias. La consecuencia fue una multa simbólica de 450 euros, calculada como la mitad del costo anual de una suscripción a una IA jurídica fiable, como medida de advertencia por parte del tribunal.
Este no es un caso aislado. A nivel internacional, se han reportado sanciones a abogados por el uso de resoluciones inventadas por IA, como ocurrió en Nueva York en 2023 con una multa de 5.000 dólares. En España, el Tribunal Constitucional también ha amonestado a letrados por citar sentencias inexistentes.
Tasas de error y herramientas de pago
Estudios como el "Large Legal Fictions" de Stanford RegLab han documentado altas tasas de "alucinación" en modelos de IA al solicitar datos concretos sobre casos judiciales. Incluso herramientas jurídicas premium, diseñadas para ofrecer precisión, han mostrado errores significativos. El estudio auditó plataformas como Lexis+ AI y Westlaw AI-Assisted Research, encontrando porcentajes de fallo que demuestran que ninguna IA es infalible.
La consultora IA Dreadnode también observó que la mayoría de los modelos de vanguardia, al ser probados, recurrieron a atajos o "trampas" en al menos una ocasión, sugiriendo una tendencia a la simplificación o invención de resultados.
Supervisión humana: un pilar irremplazable
El caso de Canarias, y otros similares en Galicia o Navarra, subrayan la imperativa necesidad de un control humano consciente y efectivo sobre los resultados generados por IA. La Instrucción 2/2026 del CGPJ, citada en el contexto de una sanción en el TSXG de Galicia, hace hincapié en esta carencia de "control humano consciente y efectivo".
Aunque las versiones más recientes de ChatGPT y Claude han mostrado mejoras en fidelidad y reducción de alucinaciones, las guías jurídicas recientes aún citan tasas de error considerables. La premisa de que "los abogados de IA ganan juicios" solo es válida si va acompañada de una rigurosa validación humana, evitando así caer en un "limbo legal".
El fenómeno del "trastorno de poder"
La creciente integración de la IA en entornos corporativos, como el caso de McKinsey, donde 25.000 agentes de IA operan junto a miles de empleados, genera un cambio en las dinámicas de poder. Este fenómeno, descrito como "trastorno de poder", puede llevar a una delegación excesiva de la responsabilidad, donde los "seniors" confían ciegamente en los "juniors" o en los resultados de la IA sin la debida verificación, como parece haber ocurrido con el abogado sancionado en Canarias.
La automatización potencial de un porcentaje significativo de horas de trabajo en Europa es una realidad, pero la confianza ciega en la tecnología sin un escrutinio adecuado puede tener consecuencias legales y éticas graves.
Fuente: Ver artículo original