Inyección de prompts: el nuevo riesgo de seguridad que llega con la IA jurídica

La inteligencia artificial está entrando rápidamente en despachos de abogados, departamentos jurídicos y empresas. Cada día utilizamos más herramientas de IA para analizar contratos, resumir documentos, revisar expedientes o investigar cuestiones jurídicas. Pero esa dependencia de documentos externos introduce un riesgo del que todavía se habla poco: la inyección de prompts o prompt injection. Y para el sector legal puede ser especialmente relevante. Porque el problema ya no consiste únicamente en preguntarnos si una inteligencia artificial puede equivocarse. También debemos preguntarnos: ¿puede un documento intentar manipular a la IA que lo analiza? La respuesta es sí.

¿Qué es una inyección de prompts?

Una inyección de prompts es una técnica mediante la cual se introducen instrucciones dentro del contenido que posteriormente será procesado por un sistema de inteligencia artificial. El objetivo es conseguir que la IA interprete esas instrucciones como si fueran parte de la tarea que debe ejecutar. Pensemos en algo sencillo. Un abogado pide a una IA: “Analiza este contrato e identifica las cláusulas que puedan perjudicar a mi cliente.” El contrato debería ser simplemente la información que la IA debe analizar. Pero dentro del documento podría existir una instrucción diseñada para el modelo que, conceptualmente, intentase decirle que ignore determinados riesgos o que presente alguna cláusula de una manera favorable. Aquí aparece el problema. La IA necesita distinguir entre dos cosas completamente diferentes: las instrucciones legítimas del usuario y el contenido que simplemente debe analizar. Cuando no consigue separar correctamente ambas capas, puede producirse una inyección de prompts.

¿Por qué es especialmente importante para abogados?

Porque buena parte del trabajo jurídico con inteligencia artificial consiste precisamente en introducir documentos de terceros.

Contratos.

Demandas.

Contestaciones.

Informes periciales.

Correos electrónicos.

Documentación de una due diligence.

Expedientes administrativos. Documentos aportados por la contraparte. Y cuantos más documentos externos dejamos que una IA procese, mayor importancia adquiere saber qué instrucciones está siguiendo realmente. Imaginemos que recibimos 200 páginas de documentación de la otra parte y utilizamos una herramienta de IA jurídica para analizarlas. El abogado puede pensar que está preguntando: “Localiza las principales contingencias jurídicas de estos documentos.” Pero dentro de alguno de esos archivos podrían existir contenidos que intentasen alterar la forma en que el modelo realiza el análisis. Esto convierte la seguridad frente a prompt injection en una cuestión particularmente importante para la tecnología jurídica.

El problema de la inyección indirecta de prompts

Existe además una variante especialmente interesante: la denominada inyección indirecta de prompts. En este caso, la instrucción potencialmente maliciosa no la introduce directamente el usuario. La IA la encuentra dentro de aquello que está consultando o procesando. Por ejemplo, en un documento, una página web, un correo electrónico o determinada información recuperada automáticamente por un sistema. Es una diferencia fundamental. Cuando utilizamos IA generativa no debemos considerar automáticamente fiable todo aquello que introducimos en el contexto del modelo. Un documento puede contener información que debe analizarse, pero eso no significa que las instrucciones contenidas dentro de ese documento deban ejecutarse.

Un nuevo tipo de riesgo para los contratos

Aquí aparece un escenario que los abogados tendremos que empezar a considerar. Hasta ahora, cuando revisábamos un contrato buscábamos cláusulas abusivas, contradicciones, obligaciones, responsabilidades, penalizaciones, riesgos regulatorios o problemas de interpretación. En un mundo donde millones de contratos serán revisados inicialmente por inteligencia artificial, puede aparecer una nueva capa: contenido diseñado para influir en los sistemas automáticos que analizarán esos contratos. Esto obliga a cambiar la mentalidad. Un documento jurídico ya no será necesariamente leído exclusivamente por personas. Puede ser leído primero por una IA. Y eso significa que tendremos que preocuparnos tanto de lo que interpreta una persona como de lo que interpreta una máquina.

¿Puede una instrucción estar oculta?

Este es otro de los riesgos. Una inyección no tiene necesariamente que presentarse como una cláusula jurídica evidente. Los sistemas de IA pueden procesar información que para una persona resulte poco visible, secundaria o simplemente pase desapercibida durante una revisión rápida. Por eso confiar exclusivamente en que “el abogado ya lo verá” puede resultar insuficiente cuando hablamos de miles de páginas procesadas automáticamente. La defensa debe estar también en el propio sistema.

¿Cómo debería protegerse una IA jurídica?

No existe una única medida capaz de eliminar completamente este riesgo. La seguridad debe construirse mediante diferentes capas. Una IA jurídica segura debería tratar los documentos externos como contenido potencialmente no confiable, separar claramente las instrucciones del usuario del material analizado y detectar intentos de introducir órdenes dentro de archivos. También debería limitar qué acciones puede ejecutar automáticamente y mantener mecanismos de supervisión y validación. Y hay una regla especialmente importante: un documento debería aportar información al análisis, no controlar cómo se realiza el análisis.

Prompt injection y agentes de IA: el riesgo aumenta

La cuestión puede adquirir todavía más importancia con la llegada de los agentes de inteligencia artificial. Una cosa es que una IA lea un documento y produzca un resumen incorrecto. Otra muy diferente es que un agente pueda además realizar acciones. Consultar bases de datos. Enviar información. Modificar documentos. Interactuar con aplicaciones. Ejecutar determinados procesos. Cuanta mayor autonomía tenga un sistema de IA, más importante será controlar qué instrucciones puede aceptar y de dónde proceden. Por eso la seguridad frente a la inyección de prompts no debería considerarse simplemente un problema técnico. Puede convertirse en un problema de gobernanza, confidencialidad y gestión del riesgo jurídico.

¿Qué pueden hacer los abogados?

La primera medida es sencilla: no confiar ciegamente en el resultado de una IA, especialmente cuando analiza documentación procedente de terceros. Pero habrá que ir más allá. Los despachos deberán empezar a preguntar a sus proveedores de inteligencia artificial cómo protegen sus sistemas frente a ataques de prompt injection, cómo diferencian instrucciones y documentos y qué mecanismos utilizan cuando el sistema detecta contenido sospechoso. También será importante formar a los profesionales. Durante los próximos años probablemente aprenderemos conceptos de seguridad de IA que hasta hace poco parecían exclusivos de ingenieros. La inyección de prompts será uno de ellos.

La IA jurídica necesita una nueva cultura de seguridad

Durante la primera etapa de la inteligencia artificial jurídica hemos hablado muchísimo de alucinaciones. Era lógico. Si una IA inventaba jurisprudencia, teníamos un problema evidente. Pero la siguiente etapa plantea riesgos diferentes. Ya no tendremos solamente que comprobar que la IA no inventa información. También tendremos que asegurarnos de que nadie consigue influir indebidamente en la IA mediante la información que le proporcionamos.

Y eso puede cambiar incluso nuestra forma de entender la revisión documental. En Prudencia.ai creemos que la adopción de inteligencia artificial en el Derecho debe avanzar acompañada de mecanismos de verificación, control y seguridad. Porque cuanto más importante sea la IA en el trabajo jurídico, más importante será poder confiar en cómo llega a sus respuestas, no solamente en la velocidad con la que las genera. La pregunta para los próximos años ya no será únicamente: “¿Puede la IA analizar este documento?” También tendremos que preguntarnos: “¿Podemos confiar en el documento que está analizando la IA?”

Preguntas frecuentes sobre inyección de prompts

¿Qué es una inyección de prompts?
Es un intento de introducir instrucciones dentro del contenido procesado por una IA para influir en su comportamiento o en la respuesta que genera.

¿Qué es una inyección indirecta de prompts?
Se produce cuando las instrucciones no proceden directamente del usuario, sino de una fuente externa que la IA procesa, como un documento, correo electrónico o página web.

¿Puede afectar la prompt injection a los abogados?
Sí. Los abogados utilizan cada vez más IA para revisar documentación procedente de clientes, contrapartes y terceros, por lo que este riesgo resulta especialmente relevante.

¿La inyección de prompts puede manipular el análisis de un contrato?
Un sistema insuficientemente protegido podría interpretar contenido incluido en el contrato como instrucciones. Por eso los sistemas deben diferenciar claramente entre órdenes legítimas y documentación objeto de análisis.

¿Cómo proteger una IA jurídica frente a prompt injection?
Mediante diferentes capas de seguridad: aislamiento de instrucciones, tratamiento de contenido externo como no confiable, detección de instrucciones sospechosas, restricciones de acciones y supervisión humana