La profesora María José Parejo alerta de los «retos legales y éticos» que plantea la IA en el derecho a la salud

La profesora titular, acreditada a catedrática de Derecho Eclesiástico del Estado en la Universidad Pablo de Olavide (UPO), María José Parejo, ha reflexionado –en una entrevista concedida a Europa Press– sobre los «importantes retos legales, éticos y formativos» que plantea la Inteligencia Artificial en el ámbito del derecho a la salud.

Ha participado en uno de los Cursos de Verano ‘Derecho(s), enseñanza del Derecho e innovación tecnológica: retos y oportunidades de la aplicación de la inteligencia artificial’ de la UPO celebrado en la sede de Carmona, de la cual ha sido codirectora.

La intervención de la profesora Parejo, titulada ‘Avances científicos e inteligencia artificial en el ámbito del derecho a la salud’, ha puesto el foco en «los desafíos que entraña el uso de sistemas automatizados en contextos clínicos y en decisiones médicas de alto impacto», como las relacionadas con «la eutanasia», ámbito en el que cuenta con una reconocida trayectoria y en el que ejerce como vocal de la Comisión de Garantía y Evaluación de la Consejería de Salud de la Junta de Andalucía.

«Estamos hablando de la vida humana», ha advertido Parejo, al señalar que, «a diferencia de otros sectores, una decisión errónea basada en IA en el ámbito sanitario puede tener consecuencias irreversibles».

En este contexto, ha subrayado la necesidad de «imponer límites claros» al uso de estas tecnologías, que «ya están tocando todos los ámbitos de la sociedad».

La profesora ha insistido en dos aspectos clave que deben abordarse de forma prioritaria: «la protección de datos personales y la determinación de responsabilidades».

«La IA se alimenta de grandes cantidades de datos, pero no sabemos a dónde van esos datos ni cómo se utilizan. En el caso de los datos de salud, el riesgo es especialmente grave», ha explicado. En su opinión, la regulación debe «ser clara» para «proteger la confidencialidad de los pacientes y evitar que información sensible quede expuesta».

En cuanto a la responsabilidad, Parejo ha planteado una cuestión fundamental, «si un paciente fallece como consecuencia de una indicación errónea de un sistema de inteligencia artificial, ¿quién es el responsable?».

Aunque la ley sitúa al médico como «última instancia responsable», ha alertado sobre el riesgo de que «se confíe ciegamente» en las recomendaciones automatizadas «sin una evaluación crítica previa».

«Hay que formar al personal sanitario para que utilice la inteligencia artificial con rigor y sin delegar en ella decisiones humanas trascendentales», ha afirmado.

Parejo también ha advertido del riesgo de que la inteligencia artificial, si no es correctamente utilizada, acabe «vulnerando derechos fundamentales sin que seamos plenamente conscientes de ello».

De este modo, ha reiterado que «sin querer, se están violando muchos derechos, y por eso es clave la formación, especialmente la de los formadores, que debemos estar preparados para enseñar a nuestros estudiantes el uso ético y legal de estas herramientas».

En un plano más ético, Parejo ha hecho hincapié en los dilemas que plantea el uso de inteligencia artificial en la práctica médica diaria. «¿Dónde empieza y acaba la ética profesional del médico? ¿Está el paciente realmente solicitando la eutanasia o está siendo inducido por una herramienta algorítmica?», se ha preguntado.

Para la docente, es «crucial» garantizar que el criterio humano «no se vea desplazado por sistemas que, aunque eficaces, carecen de sensibilidad moral». A modo de conclusión, Parejo ha subrayado «la necesidad de marcos normativos que acompañen la integración de estas tecnologías en la sociedad».

En ese sentido, ha valorado positivamente la próxima publicación de un ‘Código de Buenas Prácticas’ impulsado por el Ministerio de Universidades, que «servirá como guía para el uso responsable de la IA en entornos académicos y profesionales».

Frente al temor que genera la IA, la profesora se ha mostrado cautelosamente optimista, ya que a su parecer, «va a cambiar todo: la forma de enseñar, de aprender, de ejercer la medicina. Si lo hacemos bien, será una herramienta para avanzar. Pero si no se usa correctamente, puede convertirse en un desastre».