{"id":1016,"date":"2026-09-23T09:55:14","date_gmt":"2026-09-23T07:55:14","guid":{"rendered":"https:\/\/prudencia.ai\/blog\/?p=1016"},"modified":"2026-09-23T10:02:45","modified_gmt":"2026-09-23T08:02:45","slug":"ia-deja-de-ser-una-herramienta","status":"publish","type":"post","link":"https:\/\/prudencia.ai\/blog\/ia-deja-de-ser-una-herramienta\/","title":{"rendered":"Del paradigma digital al paradigma artificial: cuando la IA deja de ser una herramienta"},"content":{"rendered":"
\n
\"\"<\/figure>\n<\/div>\n\n\n

Juan Francisco Jim\u00e9nez Jacinto<\/a> es profesor doctor de Comunicaci\u00f3n y Tecnolog\u00eda en la Universitat CEU Abat Oliba<\/a> y secretario del Centro de Innovaci\u00f3n Tecnol\u00f3gica e Inteligencia Artificial<\/a>. Es miembro del grupo de expertos de la UNESCO en Espa\u00f1a para la alfabetizaci\u00f3n medi\u00e1tica y la educaci\u00f3n digital y co-l\u00edder de EUonAIR, una alianza europea de universidades centrada en el uso responsable de la IA en la educaci\u00f3n. Ha sido distinguido con el Premio Extraordinario a la Mejor Tesis Doctoral y Premio \u00c1ngel Herrera a la Mejor Labor Docente. <\/p>\n\n\n\n

Su trayectoria acad\u00e9mica e investigadora se centra especialmente en el impacto de la IA en la comunicaci\u00f3n y el periodismo, un \u00e1mbito que tambi\u00e9n conoce desde su experiencia profesional en medios de comunicaci\u00f3n y como corresponsal en Argentina y Brasil.<\/p>\n\n\n\n

Cuando la tecnolog\u00eda empieza a pensar con nosotros<\/h2>\n\n\n\n

La inteligencia artificial no plantea \u00fanicamente un cambio tecnol\u00f3gico. Est\u00e1 modificando la forma en que producimos conocimiento, tomamos decisiones y atribuimos responsabilidades. En el \u00e1mbito del Derecho, la cuesti\u00f3n ya no es si
vamos a utilizarla, sino bajo qu\u00e9 condiciones vamos a permitir que participe en procesos hasta ahora exclusivamente humanos.<\/p>\n\n\n\n

Durante las \u00faltimas d\u00e9cadas hemos aprendido a vivir dentro del paradigma digital. Digitalizamos documentos, comunicaciones, relaciones, transacciones y, finalmente, buena parte de nuestra realidad. Internet multiplic\u00f3 nuestra capacidad de acceder a la informaci\u00f3n; los buscadores la ordenaron y jerarquizaron; las plataformas transformaron la manera de distribuirla. La
inteligencia artificial introduce un cambio de naturaleza distinta. Ya no estamos \u00fanicamente ante una tecnolog\u00eda que almacena, transmite o recupera conocimiento. Estamos ante sistemas capaces de participar en su elaboraci\u00f3n, transformarlo, aplicarlo y, progresivamente, intervenir en procesos de decisi\u00f3n.<\/p>\n\n\n\n

Por eso se dan las circunstancias para creer que estamos entrando en un nuevo paradigma que est\u00e1 cambiando las reglas de juego, lo que denomino el paradigma artificial. <\/p>\n\n\n\n

Internet sustituy\u00f3 parcialmente nuestra memoria: dejamos de recordar determinados datos porque sab\u00edamos d\u00f3nde encontrarlos. La inteligencia artificial empieza a sustituir parcialmente determinadas operaciones intelectuales. Puede sintetizar miles de documentos, identificar patrones, redactar argumentos, generar hip\u00f3tesis, proponer estrategias o ejecutar acciones mediante agentes aut\u00f3nomos. <\/p>\n\n\n\n

Ese salto resulta especialmente relevante para el Derecho, porque pocas profesiones est\u00e1n tan directamente vinculadas a la interpretaci\u00f3n del conocimiento, la argumentaci\u00f3n y la toma de decisiones.<\/p>\n\n\n\n

De herramienta a compa\u00f1ero de trabajo<\/strong><\/h2>\n\n\n\n

Durante los primeros a\u00f1os de la inteligencia artificial generativa hemos tendido a describirla como una herramienta. Probablemente esa definici\u00f3n empieza a quedarse corta. Una calculadora es una herramienta. Un procesador de textos es una herramienta. Incluso un buscador tradicional puede entenderse de esa forma. Con ellos, el profesional conserva pr\u00e1cticamente toda la iniciativa intelectual y utiliza la tecnolog\u00eda para ejecutar una operaci\u00f3n determinada.<\/p>\n\n\n\n

Los nuevos sistemas de IA hacen algo diferente. Podemos encomendarles un objetivo, facilitarles documentaci\u00f3n, pedirles que comparen alternativas, detecten contradicciones, elaboren un primer razonamiento y propongan una respuesta. Con la llegada de los sistemas agentivos, adem\u00e1s, pueden encadenar tareas y actuar sobre otros entornos digitales. <\/p>\n\n\n\n

Por eso me parece m\u00e1s \u00fatil empezar a concebir la IA como un compa\u00f1ero de trabajo, aunque sea un compa\u00f1ero muy particular: extraordinariamente r\u00e1pido, capaz de procesar cantidades inmensas de informaci\u00f3n, pero tambi\u00e9n falible, probabil\u00edstico y sin responsabilidad jur\u00eddica propia por el resultado que produce. Es una inteligencia extendida de la nuestra biol\u00f3gica, como ya contamos con memorias en la nube que realizan esa funci\u00f3n guardando informaci\u00f3n que consideramos relevante para el futuro. <\/p>\n\n\n\n

En un despacho, por ejemplo, puede ayudar a revisar contratos, resumir jurisprudencia<\/a>, preparar un due diligence, comparar legislaci\u00f3n o construir un primer borrador de un escrito. Pero que pueda hacerlo no significa que debamos trasladarle la responsabilidad profesional. Ah\u00ed aparece una de las cuestiones esenciales del nuevo paradigma: la delegaci\u00f3n cognitiva no puede convertirse en delegaci\u00f3n de responsabilidad. <\/p>\n\n\n\n

Las propias organizaciones profesionales de la abogac\u00eda est\u00e1n avanzando en esa direcci\u00f3n. La gu\u00eda del Council of Bars and Law Societies of Europe sobre IA generativa recuerda que su utilizaci\u00f3n afecta a obligaciones esenciales de la profesi\u00f3n, entre ellas la competencia profesional y la confidencialidad y el secreto de las comunicaciones abogado-cliente. [1]<\/p>\n\n\n\n

La supervisi\u00f3n humana no puede ser ornamental<\/h2>\n\n\n\n

Existe una tentaci\u00f3n comprensible cuando una tecnolog\u00eda funciona bien: confiar cada vez m\u00e1s en ella. <\/p>\n\n\n\n

Pero un sistema de inteligencia artificial puede producir una respuesta incorrecta con exactamente la misma apariencia ling\u00fc\u00edstica que una respuesta correcta. Puede construir una argumentaci\u00f3n jur\u00eddicamente impecable sobre una premisa err\u00f3nea o presentar con seguridad una referencia que no existe. Por eso la supervisi\u00f3n humana no consiste simplemente en que una persona pulse finalmente el bot\u00f3n de aceptar. <\/p>\n\n\n\n

Supervisar significa comprender, contrastar, intervenir y, llegado el caso, detener el proceso. <\/p>\n\n\n\n

Esta idea ya ha dejado de pertenecer \u00fanicamente al \u00e1mbito de la \u00e9tica. Est\u00e1 entrando en el n\u00facleo de la regulaci\u00f3n europea. Para los sistemas de IA de alto
riesgo, el art\u00edculo 14 del Reglamento europeo de Inteligencia Artificial exige mecanismos efectivos de supervisi\u00f3n humana y menciona expresamente la necesidad de que quienes supervisan comprendan las capacidades y limitaciones del sistema y sean conscientes del denominado automation bias: nuestra tendencia a confiar excesivamente en una recomendaci\u00f3n automatizada precisamente porque procede de una m\u00e1quina. [2] <\/p>\n\n\n\n

El Derecho ofrece, adem\u00e1s, un ejemplo especialmente sensible. El propio Reglamento clasifica como de alto riesgo determinados sistemas destinados a ayudar a una autoridad judicial a investigar e interpretar hechos y normas o a aplicar el Derecho a unos hechos concretos. El razonamiento que subyace a esta clasificaci\u00f3n es revelador: la IA puede asistir a la decisi\u00f3n judicial, pero la decisi\u00f3n final debe continuar siendo humana. [3] Ese principio deber\u00eda extenderse culturalmente mucho m\u00e1s all\u00e1 de los sistemas formalmente considerados de alto riesgo.<\/p>\n\n\n\n

Cuando ya no sabemos qu\u00e9 es real<\/h2>\n\n\n\n

Otro de los grandes cambios introducidos por la IA afecta a la confianza.<\/p>\n\n\n\n

Durante muchos a\u00f1os asumimos, con todas las precauciones necesarias, que una fotograf\u00eda representaba algo que hab\u00eda ocurrido, que una voz pertenec\u00eda probablemente a quien parec\u00eda hablar o que detr\u00e1s de un texto exist\u00eda un autor humano. Esa presunci\u00f3n est\u00e1 desapareciendo.<\/p>\n\n\n\n

Podemos generar fotograf\u00edas de hechos inexistentes, voces indistinguibles de las originales, v\u00eddeos sint\u00e9ticos y cantidades pr\u00e1cticamente ilimitadas de textos plausibles. El problema no es \u00fanicamente que podamos creer como verdadero algo falso. Tambi\u00e9n aparece el efecto contrario: que podamos negar como artificial algo verdadero.<\/p>\n\n\n\n

Es una transformaci\u00f3n particularmente relevante para el periodismo, \u00e1mbito que investigo, pero tambi\u00e9n para el Derecho. La prueba, la reputaci\u00f3n, la identidad, la autor\u00eda y la confianza en los documentos digitales van a tener que convivir con entornos en los que producir una falsificaci\u00f3n veros\u00edmil resulta progresivamente m\u00e1s sencillo. Por eso transparencia y trazabilidad dejan de ser conceptos accesorios.<\/p>\n\n\n\n

Desde el 2 de agosto de 2026 son aplicables las obligaciones de transparencia del art\u00edculo 50 del Reglamento de IA. Entre otras cuestiones, determinados sistemas deben advertir al usuario de que est\u00e1 interactuando con una IA y existen obligaciones relacionadas con la identificaci\u00f3n de contenidos generados o manipulados artificialmente y con los deepfakes. [4]<\/p>\n\n\n\n

Hay adem\u00e1s un detalle normativo que me parece especialmente interesante. Cuando se publica mediante IA texto destinado a informar al p\u00fablico sobre asuntos de inter\u00e9s p\u00fablico, el Reglamento contempla una excepci\u00f3n a determinadas obligaciones de revelaci\u00f3n si ha existido revisi\u00f3n humana o control editorial y una persona f\u00edsica o jur\u00eddica asume la responsabilidad editorial. [3]<\/p>\n\n\n\n

En otras palabras, la propia regulaci\u00f3n vuelve a conducirnos al mismo punto: la tecnolog\u00eda puede intervenir en la producci\u00f3n, pero la responsabilidad necesita encontrar finalmente un sujeto humano o jur\u00eddico identificable.<\/p>\n\n\n\n

Los sesgos tampoco son m\u00e1gicos<\/h2>\n\n\n\n

Se habla con frecuencia de los sesgos de la inteligencia artificial como si surgieran espont\u00e1neamente dentro de los algoritmos. Conviene precisar el problema. Los modelos aprenden relaciones estad\u00edsticas a partir de datos. Si esos datos contienen desequilibrios, omisiones o patrones discriminatorios, los sistemas pueden reproducirlos e incluso amplificarlos. Pero tambi\u00e9n puede introducirse sesgo en la selecci\u00f3n de variables, en el dise\u00f1o del sistema, en sus objetivos o, posteriormente, en la interpretaci\u00f3n que hace el usuario de sus resultados. Por eso la discusi\u00f3n sobre sesgos es, en buena medida, una discusi\u00f3n sobre gobernanza.<\/p>\n\n\n\n