Alucinaciones de la IA en abogados: cuando una sentencia inventada puede acabar en una sanción
La inteligencia artificial está transformando la forma de trabajar de los abogados. Buscar jurisprudencia, analizar normativa, preparar argumentos jurídicos o revisar grandes cantidades de documentación puede hacerse hoy mucho más rápido.
Pero esa velocidad introduce un riesgo que cualquier profesional jurídico que utilice inteligencia artificial debería conocer: las alucinaciones de la IA.
El problema deja de ser meramente teórico cuando una respuesta generada por inteligencia artificial termina incorporándose a un escrito judicial sin comprobar previamente sus fuentes.
Una reciente resolución de la Audiencia Provincial de Oviedo vuelve a poner esta cuestión sobre la mesa. El tribunal detectó en un recurso varias referencias jurisprudenciales que no respaldaban aquello que el escrito afirmaba y ha acordado abrir una pieza separada para determinar si la actuación del letrado puede ser sancionable.
La conclusión para la profesión jurídica es importante: utilizar inteligencia artificial no elimina la obligación del abogado de verificar las fuentes, la jurisprudencia y la normativa que incorpora a su trabajo.
¿Qué son las alucinaciones de la inteligencia artificial?
Se habla de alucinación de una IA cuando un modelo genera información incorrecta o inexistente presentándola con apariencia de ser verdadera.
En el ámbito jurídico, el problema puede ser especialmente grave porque la respuesta puede parecer perfectamente plausible.
Una inteligencia artificial podría, por ejemplo:
- atribuir una doctrina a una sentencia que realmente trata una cuestión diferente;
- proporcionar un número de resolución inexistente;
- confundir fechas, órganos judiciales o números de recurso;
- atribuir al Tribunal Supremo una conclusión jurídica que no aparece en la resolución citada;
- reproducir entre comillas un supuesto fragmento de una sentencia que nunca fue escrito;
- citar una norma derogada como si estuviera vigente;
- o mezclar elementos de diferentes resoluciones hasta construir una referencia aparentemente correcta.
El peligro está precisamente en su apariencia de veracidad.
Una cita puede tener tribunal, fecha, número de recurso y una argumentación jurídicamente razonable y, pese a todo, ser falsa.
Un abogado utiliza IA y aparecen citas jurisprudenciales incorrectas: ¿quién responde?
El profesional.
Este es probablemente el aprendizaje más importante que deja la resolución de la Audiencia Provincial de Oviedo.
La utilización de una herramienta de inteligencia artificial no desplaza la responsabilidad profesional sobre el escrito presentado.
El abogado continúa siendo quien revisa y firma.
Por eso existe una diferencia fundamental entre utilizar inteligencia artificial para trabajar y delegar en la inteligencia artificial el criterio jurídico y la comprobación de las fuentes.
La IA puede asistir al profesional en la preparación de un recurso, localizar argumentos, estructurar información o acelerar una investigación jurídica.
Pero antes de presentar el resultado deben comprobarse, especialmente, las referencias que sustentan jurídicamente la argumentación.
El caso de Oviedo: cuatro referencias jurisprudenciales que no respaldaban el recurso
La Sentencia 311/2026, de 17 de julio, de la Sección Tercera de la Audiencia Provincial de Oviedo, dictada en el recurso de apelación 1083/2026, contiene una advertencia especialmente relevante sobre esta cuestión.
Al examinar un recurso de apelación, el tribunal comprobó las cuatro resoluciones jurisprudenciales utilizadas para apoyar determinados argumentos.
El resultado fue especialmente problemático: ninguna respaldaba aquello para lo que había sido citada.
Según recoge la resolución, dos correspondían a asuntos relacionados con falso testimonio y resistencia, mientras que otras dos resoluciones del Tribunal Supremo se referían a hurto y a un delito contra la salud pública.
No guardaban, por tanto, la relación que el recurso les atribuía con la cuestión jurídica que se estaba defendiendo.
El tribunal plantea entre las posibles explicaciones que el contenido pudiera haberse generado mediante una herramienta de inteligencia artificial y posteriormente incorporado al recurso sin realizar una comprobación suficiente de las referencias.
Y es aquí donde el asunto adquiere especial importancia para todos los profesionales que utilizan IA jurídica.
El problema no es utilizar inteligencia artificial. El problema es no verificarla
La resolución no establece que un abogado no pueda utilizar inteligencia artificial.
La cuestión es diferente.
El reproche se centra en aceptar el contenido generado por un sistema automatizado y trasladarlo a un escrito profesional sin verificar la existencia y el contenido real de las fuentes utilizadas.
Esto marca una diferencia esencial.
IA jurídica + verificación profesional = herramienta de productividad.
IA generativa sin verificación + escrito judicial = riesgo profesional.
Por tanto, la pregunta relevante para un despacho ya no debería ser únicamente:
“¿Utilizamos inteligencia artificial?”
La pregunta debería ser:
“¿Qué mecanismos tenemos para verificar jurídicamente aquello que genera nuestra inteligencia artificial?”
¿Puede sancionarse a un abogado por presentar jurisprudencia inventada por una IA?
Potencialmente, sí, dependiendo de las circunstancias del caso.
En el asunto analizado, la Audiencia ha acordado abrir una pieza separada para determinar si procede imponer una sanción.
Es importante diferenciar ambos conceptos: la resolución no significa que el abogado haya sido ya sancionado.
Se inicia un procedimiento específico en el que deberá determinarse si la conducta merece reproche sancionador.
La Sala acude al artículo 247 de la Ley de Enjuiciamiento Civil, relativo al respeto de las reglas de la buena fe procesal, cuya aplicación puede llevar aparejada una multa cuando se aprecia incumplimiento.
El caso introduce así una dimensión especialmente relevante en el debate sobre las alucinaciones jurídicas de la IA.
Hasta ahora podía pensarse en ellas principalmente como un problema de calidad de las herramientas.
Para el profesional que utiliza el resultado, sin embargo, pueden convertirse en un problema de diligencia profesional y buena fe procesal.
¿Cómo evitar las alucinaciones de IA en un despacho de abogados?
La solución no consiste necesariamente en dejar de utilizar inteligencia artificial.
Consiste en utilizarla de manera diferente.
En trabajos jurídicos deberían existir varias capas de control.
1. No confiar únicamente en la respuesta generada
Una respuesta convincente no es necesariamente una respuesta correcta.
La fluidez del lenguaje no debe confundirse con fiabilidad jurídica.
2. Verificar cada sentencia utilizada
Si una IA proporciona jurisprudencia, el profesional debería poder comprobar al menos:
- que la resolución existe;
- que el órgano judicial es correcto;
- que la fecha y numeración coinciden;
- que el contenido citado aparece realmente en la resolución;
- y, sobre todo, que la sentencia sostiene la interpretación jurídica que se le atribuye.
Encontrar una sentencia existente tampoco es suficiente si la IA ha interpretado incorrectamente su contenido.
3. Comprobar la normativa
El mismo principio debe aplicarse a leyes y reglamentos.
No basta con que el artículo exista.
Debe comprobarse su redacción vigente, posibles modificaciones, derogaciones y, cuando resulte relevante, su ámbito temporal de aplicación.
4. Trabajar sobre fuentes jurídicas identificables
Para usos profesionales resulta especialmente importante distinguir entre una IA generalista que genera una respuesta a partir de su conocimiento estadístico y una herramienta jurídica diseñada para recuperar información desde fuentes jurídicas y permitir acceder a las fuentes originales.
5. Incorporar la verificación al propio flujo de trabajo
La verificación no debería depender exclusivamente de que el abogado recuerde hacerla al terminar.
El software jurídico puede ayudar incorporando mecanismos que permitan abrir la resolución original, comprobar una referencia jurisprudencial o contrastar la vigencia de una norma durante el propio proceso de trabajo.
El reto de la IA jurídica ya no es solo generar buenas respuestas
Durante los primeros años de la inteligencia artificial generativa, gran parte de la competencia tecnológica se centró en quién proporcionaba respuestas más rápidas, extensas o convincentes.
En el sector jurídico eso no es suficiente.
El siguiente nivel de la IA jurídica está en la trazabilidad, la fundamentación y la verificabilidad.
Un abogado necesita poder pasar de:
respuesta → fuente → comprobación.
Y hacerlo de una forma suficientemente sencilla como para que la verificación forme parte natural de su trabajo diario.
Ese cambio es especialmente importante porque las alucinaciones no siempre adoptan la forma evidente de una sentencia completamente inventada.
Existe un riesgo más difícil de detectar: la fuente existe, pero no dice lo que la IA afirma que dice.
Precisamente por eso la comprobación debe alcanzar tanto la existencia de la fuente como su contenido.
Prudencia.ai: IA jurídica diseñada alrededor de fuentes y verificación
En Prudencia.ai partimos de una premisa sencilla: en derecho, una respuesta es mucho más útil cuando el abogado puede comprobar de dónde procede.
Por eso hemos construido nuestra IA jurídica alrededor de un sistema propio de recuperación de información jurídica y de herramientas destinadas a facilitar la comprobación de las fuentes utilizadas.
Prudencia permite trabajar sobre fuentes jurídicas como jurisprudencia y normativa y facilita que el profesional pueda acceder, contrastar y verificar la fundamentación jurídica de las respuestas.
Además, Prudencia Nova incorpora herramientas orientadas específicamente a esta capa de control: comprobación de jurisprudencia, verificación normativa y acceso a los documentos que sustentan una respuesta.
No buscamos sustituir el criterio del abogado.
Buscamos que pueda utilizar inteligencia artificial manteniendo algo que en el ámbito jurídico resulta imprescindible: el control sobre la fuente y sobre la decisión final.
La fiabilidad jurídica será uno de los grandes factores de diferenciación de la IA para abogados
La adopción de inteligencia artificial en los despachos seguirá creciendo.
La cuestión ya no es si los abogados utilizarán IA, sino qué inteligencia artificial utilizarán y bajo qué procedimientos de control.
Casos como el analizado por la Audiencia Provincial de Oviedo anticipan una realidad que probablemente veremos cada vez con mayor frecuencia: los tribunales también empezarán a encontrarse con escritos elaborados con asistencia de IA.
Y la existencia de una herramienta tecnológica entre el abogado y el documento no elimina las obligaciones profesionales de quien lo firma.
Por eso, cuando se utiliza inteligencia artificial para abogados, la productividad debería ir acompañada siempre de tres principios: fuentes jurídicas fiables, trazabilidad y verificación.
La IA puede ayudar a un abogado a trabajar mucho más rápido.
Pero la última comprobación sigue teniendo nombre y apellidos: la del profesional que firma el escrito.
Preguntas frecuentes sobre alucinaciones de IA jurídica
¿Qué es una alucinación de IA jurídica?
Es una respuesta incorrecta generada por una inteligencia artificial que presenta como verdadera información jurídica falsa, inexistente o mal interpretada, como una sentencia inventada o una doctrina que la resolución citada realmente no contiene.
¿Puede ChatGPT inventar sentencias?
Los modelos generativos pueden producir referencias jurisprudenciales incorrectas o inexistentes. Por ello, ninguna cita debería incorporarse automáticamente a un escrito profesional sin comprobarla previamente en una fuente jurídica fiable.
¿Puede un abogado utilizar inteligencia artificial para redactar escritos?
El uso de IA como herramienta de apoyo no elimina las obligaciones profesionales del abogado. El profesional debe revisar el resultado y comprobar especialmente las normas, jurisprudencia y fuentes incorporadas al documento.
¿Quién responde si una IA inventa jurisprudencia incluida en un recurso?
La utilización de una herramienta de IA no traslada automáticamente la responsabilidad sobre el escrito. El profesional que lo presenta continúa teniendo el deber de revisar y verificar su contenido.
¿Cómo evitar que una IA invente jurisprudencia?
Además de utilizar herramientas jurídicas diseñadas para trabajar sobre fuentes identificables, deben verificarse la existencia de la resolución, sus datos identificativos y el contenido concreto que se le atribuye antes de utilizarla.
¿Es suficiente comprobar que una sentencia existe?
No. Una de las alucinaciones más peligrosas ocurre cuando la sentencia es real pero la IA le atribuye una doctrina o conclusión que no contiene. La verificación debe alcanzar también el contenido y contexto de la resolución.
¿Qué debería exigir un despacho a una IA jurídica?
Además de calidad en las respuestas, debería valorar la procedencia de las fuentes, su trazabilidad, la posibilidad de acceder al documento original y la existencia de mecanismos que faciliten la verificación jurídica.
Conclusión
La inteligencia artificial puede convertirse en uno de los mayores multiplicadores de productividad que ha tenido la abogacía.
Pero en Derecho, velocidad sin fiabilidad puede convertirse en riesgo.
La resolución de la Audiencia Provincial de Oviedo es una buena muestra de por qué la conversación sobre IA jurídica está evolucionando. Ya no basta con preguntarse cuánto puede hacer una inteligencia artificial.
Hay que preguntarse algo más importante:
¿Podemos verificar jurídicamente lo que acaba de decirnos?
En Prudencia.ai creemos que esa será una de las preguntas que definirá la próxima generación de inteligencia artificial jurídica.
