Ética, regulación y futuro de la inteligencia artificial en salud: la tecnología al servicio de las personas

Profesional sanitaria y paciente consultan juntas una tableta durante una consulta.
La tecnología debe apoyar una atención basada en la información, la confianza y la participación del paciente. Fotografía ilustrativa: Cedric Fauntleroy / Pexels (licencia Pexels).

Introducción: una revolución que plantea nuevas preguntas

A lo largo de esta serie sobre inteligencia artificial en salud hemos visto cómo la inteligencia artificial (IA) está transformando ámbitos como el diagnóstico por imagen, la medicina preventiva, la gestión sanitaria y la relación de los ciudadanos con su propia salud.

Sin embargo, cuanto mayor es el potencial de una innovación, mayores son también las preguntas que plantea.

¿Podemos confiar en las decisiones de una inteligencia artificial? ¿Quién es responsable si un algoritmo se equivoca? ¿Cómo se protegen los datos de los pacientes? ¿Pueden estas tecnologías generar nuevas desigualdades? ¿Hasta dónde debemos permitir que la inteligencia artificial participe en la toma de decisiones clínicas?

Estas cuestiones forman parte del trabajo cotidiano de hospitales, universidades, organismos reguladores y sistemas sanitarios.

Esta transformación no es únicamente tecnológica: también es ética, jurídica y social.

La pregunta no es solo qué puede hacer la IA, sino cómo queremos utilizarla y con qué garantías.

La inteligencia artificial y la confianza

La confianza sostiene la relación entre pacientes y profesionales y se apoya en la evidencia científica y en la calidad de la atención. También contribuye a la legitimidad de los sistemas sanitarios. La incorporación de la IA exige extender esa confianza a las herramientas utilizadas, con garantías que permitan valorar su utilidad y sus límites.

Confiar en una tecnología, sin embargo, no significa aceptar sus recomendaciones sin una valoración crítica.

La confianza debe construirse sobre varios principios fundamentales:

  • Seguridad.
  • Transparencia.
  • Fiabilidad.
  • Responsabilidad.
  • Supervisión humana.

Esa confianza se gana con evidencia de utilidad y seguridad, información clara sobre las limitaciones y mecanismos para detectar y corregir errores.

¿Qué principios éticos deben guiar la inteligencia artificial en salud?

La IA aplicada a la salud debe respetar los principios de la bioética. Las orientaciones de la Organización Mundial de la Salud (OMS) añaden un marco específico de protección de la autonomía, seguridad, transparencia, responsabilidad, equidad y sostenibilidad.

En primer lugar, el principio de beneficencia, es decir, la obligación de actuar buscando el mayor beneficio para las personas.

En segundo lugar, el principio de no maleficencia, que exige evitar daños y minimizar los riesgos derivados del uso de estas tecnologías.

El tercer gran principio es el de autonomía, que implica respetar el derecho de los pacientes a conocer y participar en las decisiones relacionadas con el uso de la inteligencia artificial en su atención sanitaria.

Por último, el principio de justicia exige que los beneficios de la innovación lleguen a toda la población y que la tecnología no aumente las desigualdades existentes.

Estos principios siguen siendo válidos en la era de la IA y deben traducirse en decisiones concretas sobre el diseño, la evaluación y el uso de cada herramienta.

El problema de los sesgos

Uno de los desafíos más importantes de la inteligencia artificial es la posibilidad de que los algoritmos reproduzcan o incluso amplifiquen las desigualdades existentes.

Los sistemas de inteligencia artificial aprenden a partir de datos. Si los datos utilizados para entrenarlos contienen sesgos, estos pueden trasladarse a las recomendaciones y decisiones generadas por los algoritmos.

Por ejemplo, un sistema entrenado con información insuficiente sobre determinados grupos de población podría ofrecer resultados menos precisos en esos colectivos.

Una tecnología diseñada para mejorar la asistencia podría terminar agravando las desigualdades que pretende reducir.

Para prevenirlo, no basta con reunir más datos: hay que evaluar su calidad y representatividad, comparar el funcionamiento de la herramienta entre grupos de población y vigilar sus resultados durante el uso clínico.

La equidad debe incorporarse desde el diseño y mantenerse como criterio de evaluación durante toda la vida de la herramienta.

La privacidad y la protección de los datos

El desarrollo y la evaluación de la IA requieren datos adecuados para cada finalidad, no solo grandes volúmenes de información.

En el ámbito sanitario, estos datos pueden incluir información especialmente sensible sobre enfermedades, antecedentes, tratamientos, hábitos de vida o características genéticas.

Su protección es una obligación ética y jurídica. En la Unión Europea, el Reglamento General de Protección de Datos (RGPD) exige una base jurídica válida y garantías específicas para tratar datos de salud. El consentimiento no es la única base posible: no debe confundirse con el consentimiento informado para una actuación sanitaria.

Los ciudadanos deben saber:

  • Qué datos se utilizan.
  • Para qué se utilizan.
  • Quién tiene acceso a ellos.
  • Qué medidas de protección existen.

También deben conocer cómo ejercer sus derechos. Además, es necesario limitar los datos a los estrictamente necesarios, controlar los accesos y aplicar medidas de seguridad proporcionales al riesgo.

Ilustración de una mujer junto a un candado y símbolos de salud, identidad y ubicación, que representa la protección de datos personales.

El uso de datos de salud exige proteger la privacidad, controlar los accesos y respetar los derechos de las personas. Ilustración: unDraw.

¿Quién es responsable cuando la inteligencia artificial se equivoca?

Esta es una de las cuestiones más complejas.

Imaginemos que un algoritmo recomienda una actuación que finalmente resulta inadecuada o que un sistema de diagnóstico pasa por alto una lesión importante.

¿Debe responder el fabricante, el hospital o el profesional que utilizó la herramienta?

No hay una respuesta única: la atribución de responsabilidad depende del daño, del funcionamiento del sistema, del uso realizado y de las obligaciones de cada parte. La IA no crea un vacío jurídico, aunque plantea dificultades para identificar y acreditar cómo se produjo un error.

La supervisión humana es esencial, pero no traslada toda la responsabilidad al profesional sanitario. Los desarrolladores y las organizaciones también deben cumplir sus obligaciones de seguridad, evaluación y seguimiento.

La necesidad de una inteligencia artificial explicable

Algunos modelos de IA funcionan como «cajas negras»: puede resultar difícil comprender cómo generan una recomendación. Un buen rendimiento en una evaluación no garantiza, por sí solo, que sus resultados sean adecuados para todos los pacientes o contextos.

En medicina, comprender las limitaciones de una herramienta es tan importante como conocer sus resultados.

Los profesionales necesitan comprender las razones que sustentan una recomendación y los pacientes tienen derecho a recibir información comprensible sobre las decisiones que afectan a su salud.

La denominada «IA explicable» busca hacer más comprensibles esos resultados. Sin embargo, una explicación plausible no demuestra que una recomendación sea correcta: debe acompañarse de validación clínica, información sobre sus límites y seguimiento de su funcionamiento.

La regulación de la inteligencia artificial

La rápida expansión de estas tecnologías ha llevado a numerosos países y organizaciones internacionales a desarrollar marcos normativos específicos.

En la Unión Europea, el marco específico se articula en torno al:

Reglamento (UE) 2024/1689 de Inteligencia Artificial (AI Act).

El AI Act entró en vigor el 1 de agosto de 2024. Su fecha general de aplicación es el 2 de agosto de 2026, pero el calendario actualizado fija el 2 de diciembre de 2027 para los supuestos de alto riesgo del anexo III y el 2 de agosto de 2028 para los sistemas de alto riesgo integrados en productos regulados del anexo I. Entrada en vigor y aplicación efectiva no son lo mismo.

No toda IA sanitaria se clasifica automáticamente como de alto riesgo. La clasificación depende de su finalidad y de los criterios del reglamento, por ejemplo, para determinados sistemas vinculados a productos sanitarios. Cuando corresponde esa categoría, se exigen requisitos en aspectos como:

  • Seguridad.
  • Calidad de los datos.
  • Transparencia.
  • Supervisión humana.
  • Gestión de riesgos.

Este marco se añade a otras normas, como el RGPD y la regulación de productos sanitarios. Para comprobar las obligaciones y los plazos aplicables a cada caso conviene consultar el calendario oficial actualizado de la Comisión Europea.

Datos de salud y privacidad desde el diseño: utilizar los datos necesarios, controlar el acceso y proteger los derechos de las personas.

El uso de datos de salud exige proteger la privacidad, controlar los accesos y respetar los derechos de las personas. Ilustración original creada para este artículo.

El Espacio Europeo de Datos de Salud

El Espacio Europeo de Datos de Salud (EEDS) ya cuenta con un marco jurídico aprobado: el Reglamento (UE) 2025/327, que entró en vigor el 26 de marzo de 2025.

Su despliegue es progresivo. Las principales obligaciones comenzarán a aplicarse en marzo de 2029 y otras se incorporarán en marzo de 2031; no se trata de un sistema plenamente operativo desde su entrada en vigor.

El EEDS distingue el uso primario de los datos, destinado a la atención sanitaria, del uso secundario, orientado a fines autorizados como la investigación, la salud pública y la innovación. También busca facilitar el acceso de las personas a sus datos y mejorar su intercambio entre sistemas sanitarios.

Esto no supone un acceso libre a las historias clínicas. El uso secundario estará sujeto a autorizaciones, entornos seguros de tratamiento y garantías para los derechos de las personas, incluido el derecho de exclusión previsto en el reglamento, con sus excepciones legales.

Espacio Europeo de Datos de Salud: uso primario para la atención y continuidad asistencial; uso secundario para investigación, salud pública e innovación. Ambos requieren protección de datos, acceso controlado, seguridad y supervisión.

Usos primario y secundario de los datos en el Espacio Europeo de Datos de Salud. Esquema simplificado de elaboración propia, basado en la información de la Comisión Europea; no es una infografía oficial.

¿Puede la inteligencia artificial deshumanizar la medicina?

La tecnología puede empobrecer la relación asistencial si desplaza la escucha, dificulta el acceso a un profesional o se utiliza sin atender a las necesidades del paciente. Ese riesgo no debe minimizarse: depende de cómo se diseñen y organicen los servicios.

La cuestión de fondo no es si la tecnología puede deshumanizar la medicina, sino cómo utilizarla para hacer la medicina más humana.

Si la inteligencia artificial permite reducir tareas administrativas, mejorar la organización o facilitar el acceso a la información, puede contribuir a que los profesionales dispongan de más tiempo para escuchar, acompañar y cuidar a las personas.

Ese beneficio no es automático: debe comprobarse que el tiempo ahorrado mejora la atención y que las personas mantienen vías de contacto y acompañamiento humano.

El futuro: una inteligencia artificial centrada en las personas

El futuro de la IA en salud no debería medirse solo por la sofisticación de los modelos, sino por su capacidad para mejorar resultados relevantes para los pacientes sin aumentar los riesgos ni las desigualdades.

Para avanzar en esa dirección hacen falta evaluación clínica, formación de los profesionales, participación de pacientes y mecanismos de supervisión que permitan corregir problemas durante el uso real.

La medicina será más digital, pero su propósito seguirá siendo el mismo: cuidar a las personas. La innovación tendrá sentido si refuerza ese compromiso, no si lo desplaza.

Ideas para recordar

  • La inteligencia artificial en salud plantea importantes cuestiones éticas y jurídicas.
  • La seguridad, la validación clínica, la transparencia y la supervisión humana son esenciales.
  • Los sesgos y las desigualdades constituyen uno de los principales riesgos.
  • La protección de los datos sanitarios es un requisito imprescindible.
  • El AI Act y el Espacio Europeo de Datos de Salud se aplican de forma gradual y cumplen funciones diferentes.
  • La tecnología debe desarrollarse al servicio de las personas y no al revés.

Referencias y recursos web

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *