Del paradigma digital al paradigma artificial: cuando la IA deja de ser una herramienta
Juan Francisco Jiménez Jacinto es profesor doctor de Comunicación y Tecnología en la Universitat CEU Abat Oliba y secretario del Centro de Innovación Tecnológica e Inteligencia Artificial. Es miembro del grupo de expertos de la UNESCO en España para la alfabetización mediática y la educación digital y co-líder de EUonAIR, una alianza europea de universidades centrada en el uso responsable de la IA en la educación. Ha sido distinguido con el Premio Extraordinario a la Mejor Tesis Doctoral y Premio Ángel Herrera a la Mejor Labor Docente.
Su trayectoria académica e investigadora se centra especialmente en el impacto de la IA en la comunicación y el periodismo, un ámbito que también conoce desde su experiencia profesional en medios de comunicación y como corresponsal en Argentina y Brasil.
Cuando la tecnología empieza a pensar con nosotros
La inteligencia artificial no plantea únicamente un cambio tecnológico. Está modificando la forma en que producimos conocimiento, tomamos decisiones y atribuimos responsabilidades. En el ámbito del Derecho, la cuestión ya no es si
vamos a utilizarla, sino bajo qué condiciones vamos a permitir que participe en procesos hasta ahora exclusivamente humanos.
Durante las últimas décadas hemos aprendido a vivir dentro del paradigma digital. Digitalizamos documentos, comunicaciones, relaciones, transacciones y, finalmente, buena parte de nuestra realidad. Internet multiplicó nuestra capacidad de acceder a la información; los buscadores la ordenaron y jerarquizaron; las plataformas transformaron la manera de distribuirla. La
inteligencia artificial introduce un cambio de naturaleza distinta. Ya no estamos únicamente ante una tecnología que almacena, transmite o recupera conocimiento. Estamos ante sistemas capaces de participar en su elaboración, transformarlo, aplicarlo y, progresivamente, intervenir en procesos de decisión.
Por eso se dan las circunstancias para creer que estamos entrando en un nuevo paradigma que está cambiando las reglas de juego, lo que denomino el paradigma artificial.
Internet sustituyó parcialmente nuestra memoria: dejamos de recordar determinados datos porque sabíamos dónde encontrarlos. La inteligencia artificial empieza a sustituir parcialmente determinadas operaciones intelectuales. Puede sintetizar miles de documentos, identificar patrones, redactar argumentos, generar hipótesis, proponer estrategias o ejecutar acciones mediante agentes autónomos.
Ese salto resulta especialmente relevante para el Derecho, porque pocas profesiones están tan directamente vinculadas a la interpretación del conocimiento, la argumentación y la toma de decisiones.
De herramienta a compañero de trabajo
Durante los primeros años de la inteligencia artificial generativa hemos tendido a describirla como una herramienta. Probablemente esa definición empieza a quedarse corta. Una calculadora es una herramienta. Un procesador de textos es una herramienta. Incluso un buscador tradicional puede entenderse de esa forma. Con ellos, el profesional conserva prácticamente toda la iniciativa intelectual y utiliza la tecnología para ejecutar una operación determinada.
Los nuevos sistemas de IA hacen algo diferente. Podemos encomendarles un objetivo, facilitarles documentación, pedirles que comparen alternativas, detecten contradicciones, elaboren un primer razonamiento y propongan una respuesta. Con la llegada de los sistemas agentivos, además, pueden encadenar tareas y actuar sobre otros entornos digitales.
Por eso me parece más útil empezar a concebir la IA como un compañero de trabajo, aunque sea un compañero muy particular: extraordinariamente rápido, capaz de procesar cantidades inmensas de información, pero también falible, probabilístico y sin responsabilidad jurídica propia por el resultado que produce. Es una inteligencia extendida de la nuestra biológica, como ya contamos con memorias en la nube que realizan esa función guardando información que consideramos relevante para el futuro.
En un despacho, por ejemplo, puede ayudar a revisar contratos, resumir jurisprudencia, preparar un due diligence, comparar legislación o construir un primer borrador de un escrito. Pero que pueda hacerlo no significa que debamos trasladarle la responsabilidad profesional. Ahí aparece una de las cuestiones esenciales del nuevo paradigma: la delegación cognitiva no puede convertirse en delegación de responsabilidad.
Las propias organizaciones profesionales de la abogacía están avanzando en esa dirección. La guía del Council of Bars and Law Societies of Europe sobre IA generativa recuerda que su utilización afecta a obligaciones esenciales de la profesión, entre ellas la competencia profesional y la confidencialidad y el secreto de las comunicaciones abogado-cliente. [1]
La supervisión humana no puede ser ornamental
Existe una tentación comprensible cuando una tecnología funciona bien: confiar cada vez más en ella.
Pero un sistema de inteligencia artificial puede producir una respuesta incorrecta con exactamente la misma apariencia lingüística que una respuesta correcta. Puede construir una argumentación jurídicamente impecable sobre una premisa errónea o presentar con seguridad una referencia que no existe. Por eso la supervisión humana no consiste simplemente en que una persona pulse finalmente el botón de aceptar.
Supervisar significa comprender, contrastar, intervenir y, llegado el caso, detener el proceso.
Esta idea ya ha dejado de pertenecer únicamente al ámbito de la ética. Está entrando en el núcleo de la regulación europea. Para los sistemas de IA de alto
riesgo, el artículo 14 del Reglamento europeo de Inteligencia Artificial exige mecanismos efectivos de supervisión humana y menciona expresamente la necesidad de que quienes supervisan comprendan las capacidades y limitaciones del sistema y sean conscientes del denominado automation bias: nuestra tendencia a confiar excesivamente en una recomendación automatizada precisamente porque procede de una máquina. [2]
El Derecho ofrece, además, un ejemplo especialmente sensible. El propio Reglamento clasifica como de alto riesgo determinados sistemas destinados a ayudar a una autoridad judicial a investigar e interpretar hechos y normas o a aplicar el Derecho a unos hechos concretos. El razonamiento que subyace a esta clasificación es revelador: la IA puede asistir a la decisión judicial, pero la decisión final debe continuar siendo humana. [3] Ese principio debería extenderse culturalmente mucho más allá de los sistemas formalmente considerados de alto riesgo.
Cuando ya no sabemos qué es real
Otro de los grandes cambios introducidos por la IA afecta a la confianza.
Durante muchos años asumimos, con todas las precauciones necesarias, que una fotografía representaba algo que había ocurrido, que una voz pertenecía probablemente a quien parecía hablar o que detrás de un texto existía un autor humano. Esa presunción está desapareciendo.
Podemos generar fotografías de hechos inexistentes, voces indistinguibles de las originales, vídeos sintéticos y cantidades prácticamente ilimitadas de textos plausibles. El problema no es únicamente que podamos creer como verdadero algo falso. También aparece el efecto contrario: que podamos negar como artificial algo verdadero.
Es una transformación particularmente relevante para el periodismo, ámbito que investigo, pero también para el Derecho. La prueba, la reputación, la identidad, la autoría y la confianza en los documentos digitales van a tener que convivir con entornos en los que producir una falsificación verosímil resulta progresivamente más sencillo. Por eso transparencia y trazabilidad dejan de ser conceptos accesorios.
Desde el 2 de agosto de 2026 son aplicables las obligaciones de transparencia del artículo 50 del Reglamento de IA. Entre otras cuestiones, determinados sistemas deben advertir al usuario de que está interactuando con una IA y existen obligaciones relacionadas con la identificación de contenidos generados o manipulados artificialmente y con los deepfakes. [4]
Hay además un detalle normativo que me parece especialmente interesante. Cuando se publica mediante IA texto destinado a informar al público sobre asuntos de interés público, el Reglamento contempla una excepción a determinadas obligaciones de revelación si ha existido revisión humana o control editorial y una persona física o jurídica asume la responsabilidad editorial. [3]
En otras palabras, la propia regulación vuelve a conducirnos al mismo punto: la tecnología puede intervenir en la producción, pero la responsabilidad necesita encontrar finalmente un sujeto humano o jurídico identificable.
Los sesgos tampoco son mágicos
Se habla con frecuencia de los sesgos de la inteligencia artificial como si surgieran espontáneamente dentro de los algoritmos. Conviene precisar el problema. Los modelos aprenden relaciones estadísticas a partir de datos. Si esos datos contienen desequilibrios, omisiones o patrones discriminatorios, los sistemas pueden reproducirlos e incluso amplificarlos. Pero también puede introducirse sesgo en la selección de variables, en el diseño del sistema, en sus objetivos o, posteriormente, en la interpretación que hace el usuario de sus resultados. Por eso la discusión sobre sesgos es, en buena medida, una discusión sobre gobernanza.
- ¿Qué datos utilizamos?
- ¿De dónde proceden?
- ¿Representan adecuadamente la realidad sobre la que pretendemos decidir?
- ¿Qué errores estamos dispuestos a aceptar?
- ¿Quién controla los resultados?
El Reglamento de IA incorpora precisamente exigencias sobre calidad y gobernanza de los datos para determinados sistemas de alto riesgo y obliga a examinar posibles sesgos susceptibles de afectar a derechos fundamentales o producir discriminación. [3]
Y cuando esa automatización se aplica directamente a personas, la regulación no empieza con el AI Act. El RGPD ya reconoce el derecho a no quedar sometido, con determinadas excepciones, a decisiones basadas exclusivamente en tratamiento automatizado que produzcan efectos jurídicos o efectos significativamente similares. En los supuestos permitidos contempla salvaguardias como la intervención humana y la posibilidad de impugnar la decisión. [5] La lección es importante: automatizar una decisión no elimina la necesidad de justificarla.
La alfabetización en IA se ha convertido también en una obligación
Existe finalmente un aspecto que considero fundamental y que a menudo recibe menos atención que la tecnología: la formación de quienes van a utilizarla. No puede existir supervisión humana real si quien supervisa desconoce cómo funciona el sistema, cuáles son sus limitaciones o en qué situaciones puede equivocarse.
La alfabetización en inteligencia artificial ya no debería entenderse simplemente como saber escribir buenos prompts. Significa comprender qué puede hacer un modelo y qué no, identificar sus riesgos, saber contrastar resultados, entender qué información podemos facilitarle y disponer del criterio suficiente para decidir cuándo no debemos utilizarlo. El artículo 4 del AI Act transforma esta cuestión en una obligación concreta para proveedores y usuarios profesionales de sistemas de IA: deben adoptar medidas para garantizar un nivel suficiente de alfabetización en IA de las personas que trabajan con esos sistemas, teniendo en cuenta su experiencia, formación y contexto de utilización. Esta obligación es aplicable desde febrero de 2025. [3] Para los despachos, empresas e instituciones, por tanto, comprar una licencia de IA no constituye una estrategia de inteligencia artificial.
La estrategia empieza después: determinar qué tareas pueden delegarse, qué información puede introducirse, qué resultados requieren comprobación, quién responde de cada proceso y qué competencias necesitan los profesionales que van a trabajar con esos sistemas.
Del AI washing a la verdadera transformación
Existe el riesgo de una especie de cosmética algorítmica: utilizar inteligencia artificial como argumento comercial sin que exista detrás una verdadera transformación o una validación científica suficiente. Podemos acabar viendo servicios jurídicos revestidos de IA en los que el término funciona fundamentalmente como reclamo, mientras nadie puede explicar qué sistema se utiliza, con qué datos trabaja, dónde se procesa la información, cuáles son sus limitaciones o quién comprueba sus respuestas. Ese camino
probablemente conducirá a desconfianza.
La oportunidad interesante es otra. Consiste en preguntarnos qué partes del trabajo profesional pueden hacerse extraordinariamente mejor gracias a la IA y utilizar el tiempo y la capacidad humana liberados para aquello que sigue aportando más valor: criterio, contextualización, empatía, creatividad, responsabilidad y juicio profesional.
No deberíamos plantear este debate como una competición entre inteligencia humana e inteligencia artificial. La inteligencia artificial es, en último término, una creación de la inteligencia humana. El verdadero reto consiste en decidir cómo incorporamos esa capacidad nueva dentro de nuestras instituciones y profesiones.
El Derecho tendrá aquí una doble responsabilidad. Por una parte, deberá establecer los límites y garantías que hagan posible un desarrollo compatible con los derechos fundamentales. Por otra, tendrá que aprender a utilizar la propia inteligencia artificial para mejorar la prestación de servicios jurídicos y la administración de justicia.
La cuestión, por tanto, ya no es preguntarnos si la inteligencia artificial va a cambiar nuestras profesiones. Eso ya está ocurriendo. La verdadera pregunta es si seremos capaces de integrarla con criterio, responsabilidad y sentido humano. Porque la tecnología multiplica nuestra capacidad de actuar. Y precisamente por eso,*hacerlo bien puede multiplicar el bien; hacerlo mal también puede multiplicar el daño.
[1]: https://www.ccbe.eu/fileadmin/speciality_distribution/public/documents/IT_LAW/I TL_Guides_recommendations/EN_ITL_20251002_CCBE-guide-on-the-use-of- the-use-of-generative-AI-for-lawyers.pdf «4. The use of generative AI in legal practice»
[2]: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/spa? «Reglamento – UE – 2024/1689 – EN – EUR-Lex»
[3]: https://eur-lex.europa.eu/eli/reg/2024/1689/2026-07- 27/eng?»EUR-Lex – 02024R1689-20260727 – DE – EUR-Lex»
[4]: https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency- obligations-providers-and-deployers-ai-systems?»Guidelines on transparency obligations for providers and deployers of AI systems | Shaping Europe’s digital future»
[5]: https://eur-lex.europa.eu/legal- content/ES/ALL/?uri=uriserv%3AOJ.L_.2016.119.01.0001.01.ENG& «Reglamento – 2016/679 – EN – gdpr – EUR-Lex»
