Inteligencia artificial y salud digital: el reto de innovar sin perder el control
María Sánchez Besga es jurista especializada en Derecho Sanitario y Derecho Digital y actualmente trabaja como consultora jurídica en Salud Digital en Indra. También es miembro de distintos Comités de Ética de la Investigación con medicamentos (CEIm), entre ellos los del Hospital Universitario Ramón y Cajal y el Hospital Universitario La Paz.
Su trayectoria está vinculada a la regulación de la salud digital, la investigación biomédica, los productos sanitarios y la intersección entre tecnología, datos y Derecho. Además, es vicepresidenta de la Comisión Joven de ENATIC (Abogacía Digital) y miembro de la Red de la Cátedra de Derecho y Genoma Humano de la UPV/EHU.
Inteligencia artificial en salud: entender la regulación en su conjunto
La inteligencia artificial en salud debe cumplir distintas normas. Entre ellas están las que protegen los datos personales, regulan los sistemas de IA y establecen requisitos para los productos sanitarios. En algunos casos, todas estas normas se aplican a la vez.
El reto consiste en identificar cómo se relacionan las distintas normas y qué requisitos corresponden a cada caso. Una herramienta diseñada para facilitar tareas administrativas puede tener un impacto muy diferente de otra que intervenga en procesos clínicos o en la priorización de pacientes. Aunque ambas incorporen inteligencia artificial, sus usos y consecuencias pueden exigir niveles de análisis y control distintos. La finalidad de la herramienta, el contexto en el que se utiliza y las decisiones que puede influir son elementos determinantes para valorar sus riesgos.
En este escenario, el Reglamento Europeo de Inteligencia Artificial (AI Act) constituye una referencia fundamental para comprender las obligaciones asociadas a estos sistemas. Su aplicación debe analizarse junto con el resto del marco regulatorio pertinente, especialmente cuando la tecnología se incorpora a actividades sanitarias. El objetivo no debería ser cumplir cada requisito de forma desconectada, sino entender qué garantías son necesarias para que la innovación pueda desarrollarse de manera responsable.
Los datos sanitarios: generar información no significa ser su propietario
Los datos de salud requieren una protección especialmente cuidadosa por la sensibilidad de la información que contienen. El Reglamento General de Protección de Datos (RGPD) los incluye entre las categorías especiales de datos personales y establece un marco específico para su tratamiento. Esta protección resulta especialmente importante cuando la información sanitaria se utiliza para desarrollar servicios digitales, entrenar sistemas de inteligencia artificial o facilitar el intercambio de información entre organizaciones.
Uno de los aspectos que conviene tener presente es que generar información no significa necesariamente ser su propietario ni tener un control absoluto sobre ella. Una historia clínica, por ejemplo, puede incluir las manifestaciones del paciente, pero también observaciones, valoraciones y anotaciones realizadas por el profesional sanitario. El documento reúne información de distinta naturaleza y su gestión no puede reducirse a considerar que todo su contenido pertenece de forma automática a una única persona o entidad. Es necesario analizar las circunstancias y las reglas aplicables a cada tratamiento de datos.
Esta cuestión adquiere una dimensión adicional cuando la información se utiliza en sistemas digitales o circula entre diferentes organizaciones. La capacidad de acceder a los datos, determinar dónde se almacenan y establecer quién puede utilizarlos influye en la autonomía tecnológica de las instituciones y de los países. La dependencia de infraestructuras externas puede generar interrogantes sobre el control de la información y la soberanía digital europea. Por ello, la gestión de los datos sanitarios debe abordarse teniendo en cuenta tanto la protección de las personas como las condiciones tecnológicas que permiten tratarlos de forma segura.
El Espacio de Datos de Salud y la gestión de la información sanitaria
La creación de espacios de datos sanitarios plantea la posibilidad de organizar y facilitar el uso de información procedente de distintas fuentes, siempre dentro de las condiciones jurídicas y técnicas que correspondan. Para que estos entornos funcionen, no basta con reunir datos: también es necesario establecer criterios de acceso, mecanismos de gobernanza y garantías que permitan conocer cómo se utiliza la información y con qué finalidad.
El Espacio Europeo de Datos de Salud es una iniciativa relevante en este contexto. Su desarrollo se relaciona con la necesidad de facilitar el intercambio y el uso de datos sanitarios en Europa, al tiempo que se mantienen las garantías correspondientes. Este tipo de iniciativas muestra que la transformación digital de la sanidad no depende exclusivamente de disponer de tecnología, sino también de crear condiciones para que los datos puedan gestionarse de forma adecuada.
La gobernanza resulta especialmente importante cuando diferentes entidades participan en el tratamiento de la información. Es necesario delimitar responsabilidades, establecer condiciones de utilización y asegurar que los datos se gestionan conforme a las finalidades previstas. Estas cuestiones también afectan a la inteligencia artificial: la calidad de los resultados depende, entre otros factores, de la información disponible y de las condiciones en las que se ha obtenido y utilizado. Por tanto, la construcción de infraestructuras de datos fiables es una parte esencial de cualquier estrategia de digitalización sanitaria.
Cómo puede ayudar la inteligencia artificial a los profesionales del Derecho
Una de las principales aportaciones de la inteligencia artificial al trabajo jurídico es su capacidad para procesar, resumir y estructurar grandes cantidades de información. La consulta de legislación, resoluciones judiciales, documentos y otras fuentes requiere tiempo, especialmente cuando es necesario relacionar materiales diversos para comprender una cuestión concreta. Las herramientas digitales pueden facilitar parte de ese trabajo al reunir información, identificar elementos relevantes y ayudar a organizar el contenido antes de realizar un análisis jurídico.
La utilidad de estas tecnologías no depende únicamente de la especialidad del profesional. Aunque el contenido de un asunto sanitario sea distinto del de uno inmobiliario o mercantil, muchas de las tareas que se realizan durante una investigación jurídica comparten características: localizar fuentes, revisar documentos, comparar información y ordenar argumentos. La investigación jurídica con inteligencia artificial puede facilitar estas fases, siempre que el resultado se someta a una revisión adecuada y se compruebe que responde a la cuestión planteada.
Otra tecnología relacionada con este trabajo es el RAG jurídico y su aplicación a la inteligencia artificial legal, un enfoque que permite conectar las respuestas de un sistema con documentación de referencia. Este tipo de soluciones resulta especialmente relevante en contextos donde es necesario consultar información concreta y comprobar el origen de las respuestas. En cualquier caso, la tecnología utilizada no elimina la necesidad de verificar las fuentes ni garantiza por sí sola que una conclusión sea jurídicamente correcta.
También es importante aprender a formular instrucciones precisas. La manera de plantear una consulta condiciona el tipo de respuesta que puede generar el sistema y ayuda a delimitar qué información se necesita. Una pregunta bien estructurada, acompañada del contexto necesario, facilita que la herramienta trabaje sobre un objetivo concreto. Aun así, ni una buena instrucción ni una respuesta aparentemente convincente eliminan la necesidad de contrastar el contenido.
La inteligencia artificial como copiloto del abogado
La incorporación de inteligencia artificial al ejercicio del Derecho debe partir de una distinción fundamental: una herramienta puede asistir en el trabajo jurídico, pero no sustituye la responsabilidad de quien ejerce la profesión. Puede ayudar a organizar información, preparar borradores o comprender documentos complejos, pero la valoración de los hechos, la elección de la estrategia y la decisión sobre cómo actuar corresponden al profesional.
Esta distinción es especialmente relevante cuando están en juego derechos como la defensa o la tutela judicial efectiva. Una respuesta incorrecta, una referencia jurídica inexistente o una omisión relevante pueden afectar a la calidad de un escrito o a la estrategia de un asunto. Por eso, el uso de inteligencia artificial requiere mantener una supervisión humana efectiva, revisar los resultados y asumir la responsabilidad sobre el trabajo que finalmente se presenta o se utiliza.
Entender la inteligencia artificial como un copiloto permite situar correctamente su función: apoyar determinadas tareas y mejorar la gestión de la información sin desplazar el criterio jurídico. El profesional debe poder comprender qué está utilizando, valorar si el resultado es adecuado y decidir qué partes puede incorporar a su trabajo. La tecnología puede contribuir a hacer más eficiente el proceso, pero la calidad del resultado sigue dependiendo de la revisión y del conocimiento aplicado al caso.
Esta relación entre tecnología y criterio profesional también forma parte del debate sobre el valor de la IA jurídica y el criterio del abogado. La cuestión no consiste únicamente en automatizar tareas, sino en determinar cómo utilizar estas capacidades sin renunciar al análisis, la interpretación y la responsabilidad que exige el ejercicio jurídico.
Qué necesita una herramienta de inteligencia artificial jurídica para generar confianza
La confianza en una herramienta jurídica no depende solo de la rapidez de sus respuestas. También importa la calidad de los datos que utiliza. Es fundamental saber de dónde procede la información y poder comprobar las fuentes. Además, deben existir mecanismos para revisar los resultados y detectar posibles errores.
La posibilidad de que un sistema genere contenido incorrecto, omita información relevante o presente referencias que no existen obliga a establecer mecanismos de comprobación. Una respuesta bien redactada puede contener errores, por lo que la forma no debe confundirse con la fiabilidad. Poder consultar las fuentes originales, contrastar las referencias y entender de dónde procede la información permite evaluar mejor el resultado antes de utilizarlo en un trabajo profesional.
La privacidad constituye otra condición esencial. Cuando se trabaja con información confidencial, datos personales o documentación protegida por el secreto profesional, es necesario conocer cómo se procesa la información y qué garantías ofrece la herramienta. No todas las soluciones tecnológicas son adecuadas para cualquier tipo de documento o contexto. La elección debe tener en cuenta las condiciones de tratamiento de los datos y los riesgos que puede implicar su uso.
También deben existir salvaguardas que limiten los comportamientos inadecuados del sistema. Estas medidas adquieren una importancia especial en herramientas capaces de ejecutar secuencias de acciones o intervenir en procesos con distintos niveles de autonomía. Cuanto mayor sea el alcance de las actuaciones que puede realizar una solución, más importante resulta definir límites, mecanismos de supervisión y procedimientos de control.
Para comprender mejor el contexto en el que se están desarrollando estas soluciones, puede consultarse la radiografía de la inteligencia artificial jurídica en España en 2026, relacionada con la evolución de la IA aplicada al sector jurídico. La fiabilidad debe valorarse atendiendo a criterios concretos y verificables, no únicamente a la capacidad tecnológica o a la apariencia de las respuestas.
Regulación europea: equilibrar innovación y protección
La regulación de la inteligencia artificial se enfrenta a una dificultad evidente: la tecnología evoluciona a una velocidad que complica mantener las normas permanentemente actualizadas. Diseñar un marco jurídico requiere tiempo, análisis y participación de los distintos actores implicados, mientras que las capacidades de los sistemas pueden cambiar en periodos relativamente cortos. Este desfase hace necesario encontrar fórmulas que permitan proteger los derechos sin impedir que se desarrollen soluciones útiles.
La Unión Europea ha optado por establecer un marco regulatorio propio, en un contexto internacional en el que las aproximaciones a la inteligencia artificial no son idénticas. Las diferencias entre Europa, Estados Unidos y China muestran que la innovación tecnológica también está vinculada a decisiones políticas, económicas y jurídicas sobre el papel de las instituciones, las empresas y los ciudadanos.
Uno de los retos consiste en encontrar un equilibrio entre las obligaciones que se imponen a los proveedores de inteligencia artificial y las garantías que deben proteger a las personas que utilizan estos sistemas o se ven afectadas por ellos. Una regulación excesivamente compleja puede dificultar el desarrollo y la adopción de soluciones, especialmente para organizaciones con menos recursos. Pero reducir las exigencias sin atender a los riesgos tampoco garantiza un uso adecuado de la tecnología.
La existencia de criterios y requisitos comunes puede contribuir a establecer expectativas más claras sobre el funcionamiento de los sistemas. No obstante, la regulación por sí sola no elimina todos los riesgos: debe acompañarse de prácticas de desarrollo responsables, controles efectivos y una evaluación continua de las herramientas. La protección de derechos y la innovación no tienen por qué ser objetivos incompatibles, siempre que las obligaciones se adapten a los usos y a las consecuencias de cada sistema.
Integrar la inteligencia artificial en las organizaciones
Para aprovechar las posibilidades de la inteligencia artificial, no basta con poner una herramienta a disposición de los profesionales. Su incorporación requiere revisar cómo se trabaja, qué tareas consumen más tiempo y en qué fases puede aportar valor. Sin una metodología clara, existe el riesgo de utilizar la tecnología de forma puntual, sin integrarla realmente en los procesos de la organización ni evaluar si está mejorando los resultados.
La integración de la IA puede comenzar con tareas sencillas. Por ejemplo, resumir documentos, organizar información o preparar reuniones. Después, cada organización debe valorar qué usos le resultan útiles. También necesita establecer pautas claras. Así, los equipos sabrán cuándo utilizar estas herramientas, qué datos pueden compartir y cómo revisar las respuestas.
También es importante que la adopción de inteligencia artificial no se limite a un único departamento. Las necesidades de los equipos jurídicos, de recursos humanos y de otras áreas pueden ser diferentes, pero todos pueden enfrentarse a tareas que implican procesar información o trabajar con documentos. Identificar estas necesidades permite establecer criterios comunes y evitar que cada persona utilice la tecnología sin una orientación compartida.
La automatización debe responder a una finalidad definida y evaluarse según su utilidad real. Incorporar inteligencia artificial no implica que todos los procesos deban transformarse ni que cualquier tarea sea adecuada para delegarse en un sistema. La clave está en determinar dónde puede ayudar, qué controles requiere y qué decisiones deben permanecer bajo responsabilidad humana.
El impacto medioambiental de la inteligencia artificial
La transformación digital también tiene una dimensión medioambiental que debe tenerse en cuenta. Los sistemas de inteligencia artificial necesitan infraestructuras capaces de almacenar y procesar grandes cantidades de información. Los centros de datos consumen recursos y requieren mecanismos de refrigeración, que pueden implicar un uso significativo de agua. En un contexto en el que este recurso es limitado, la sostenibilidad de las infraestructuras tecnológicas se convierte en una cuestión relevante.
El debate sobre la inteligencia artificial no debería centrarse únicamente en sus capacidades o en los beneficios que puede aportar a las organizaciones. También es necesario considerar los recursos materiales que hacen posible su funcionamiento y las consecuencias de ampliar su uso. La eficiencia tecnológica debe valorarse junto con el consumo energético, la gestión del agua y la sostenibilidad de las instalaciones que sostienen estos servicios.
En este contexto, disponer de infraestructuras propias en Europa y gestionarlas de forma eficiente puede formar parte de una estrategia más amplia de autonomía tecnológica. Sin embargo, contar con capacidad tecnológica no elimina la necesidad de utilizarla responsablemente. El desarrollo de soluciones digitales debe tener en cuenta tanto sus efectos jurídicos y sociales como los recursos que requiere su funcionamiento.
El futuro de la profesión jurídica
La inteligencia artificial está cambiando la manera en que los profesionales jurídicos acceden a la información, revisan documentación y organizan su trabajo. Sus posibilidades son relevantes, especialmente cuando permite abordar grandes volúmenes de información o facilita la comprensión de normas complejas. Pero su incorporación también exige reforzar la capacidad de evaluar resultados, comprobar fuentes y reconocer los límites de cada herramienta.
En el sector sanitario, estas cuestiones se entrelazan con la protección de datos, la seguridad de la información y las consecuencias que determinadas decisiones pueden tener sobre las personas. Por eso, el uso de inteligencia artificial requiere una visión que combine conocimiento jurídico, comprensión tecnológica y atención al contexto en el que se aplica. No se trata solo de conocer qué puede hacer un sistema, sino de determinar en qué condiciones es apropiado utilizarlo y qué garantías deben acompañar su uso.
El reto para los profesionales y las organizaciones es integrar estas tecnologías con criterio, establecer metodologías de trabajo y mantener la supervisión sobre los resultados. La inteligencia artificial puede ser una herramienta de apoyo valiosa, pero su utilidad depende de cómo se incorpora a los procesos y de la capacidad de las personas para revisar y asumir las decisiones finales. En un entorno de cambio constante, la innovación debe avanzar junto con la fiabilidad, la protección de los derechos y la responsabilidad profesional.
