Avanzar en la atención centrada en el paciente mediante el codiseño y la aplicación responsable.

Introducción

El Foro Europeo de Pacientes (EPF, por sus siglas en inglés) es un grupo independiente sin ánimo de lucro que representa a casi 80 organizaciones de pacientes de todas las áreas de enfermedad, llegando a unos 150 millones de pacientes con enfermedades crónicas en toda la UE. Nuestra misión es promover los intereses de las comunidades de pacientes reforzando su impacto colectivo en toda Europa a través de una defensa, educación, capacitación y asociación eficaces.

Este documento de posición explora las aplicaciones, los beneficios y los retos asociados a la Inteligencia Artificial (IA) en la asistencia sanitaria desde la perspectiva del paciente, y proporciona recomendaciones clave para un despliegue responsable de las soluciones de IA.1

Las consideraciones y recomendaciones presentadas en este documento se basan en una encuesta² realizada por la EPF en la primavera de 2023, dirigida a organizaciones de pacientes y defensores de pacientes individuales, y en los debates con los participantes de un bootcamp³ sobre Inteligencia Artificial realizado por la iniciativa Data Saves Lives⁴ que tuvo lugar en marzo de 2023. Sus valiosos puntos de vista, junto con la experiencia del Grupo de Trabajo de Salud Digital⁵ de la EPF, los miembros de la EPF y la Secretaría, han dado forma a nuestras recomendaciones.

Este documento está dirigido a los responsables políticos, desarrolladores y socios de investigación que desempeñan un papel vital en la legislación, el desarrollo y el despliegue de soluciones de IA en la asistencia sanitaria. Nuestro objetivo es comunicar a este grupo diverso de partes interesadas la importancia de desarrollar soluciones de IA en la atención sanitaria que beneficien realmente a los pacientes, defendiendo los principios de seguridad del paciente, transparencia, privacidad, autonomía humana, codiseño, responsabilidad y educación.

Aplicaciones de la IA y posibles beneficios

Mejorar la asistencia sanitaria mediante la IA

Desde los dispositivos para llevar puestos, las aplicaciones de salud personalizadas y la asistencia sanitaria virtual hasta la optimización del desarrollo de fármacos, la investigación y la vigilancia de la salud pública, los rápidos avances de la tecnología de IA ofrecen nuevas oportunidades para revolucionar la prestación de asistencia sanitaria.

Con estos avances, los profesionales sanitarios pueden recibir ayuda para realizar diagnósticos más precisos, predecir los resultados de las enfermedades y ofrecer intervenciones personalizadas a los pacientes, lo que se traduce en una mejora de los resultados de los pacientes y una reducción de los costes sanitarios.⁶ Mientras que la IA automatiza determinadas tareas, los profesionales sanitarios pueden centrarse más en interactuar con los pacientes de forma significativa, escuchándoles y abordando sus preocupaciones, lo que puede afectar positivamente a la relación paciente-profesional sanitario y a los resultados sanitarios.

Los resultados de la encuesta realizada en la primavera de 2023, en la que se evaluaron las percepciones de 146 organizaciones de pacientes respecto a la IA en la asistencia sanitaria, ponen de relieve su entusiasmo por los beneficios potenciales de la IA. Los encuestados acogieron con especial satisfacción el potencial de la inteligencia artificial para mejorar la precisión del diagnóstico, por ejemplo en la interpretación de imágenes médicas. También señalaron el papel positivo de la IA en la mejora de la calidad y la eficiencia de la investigación y la innovación en la asistencia sanitaria, incluido el descubrimiento de fármacos y el desarrollo de dispositivos médicos, con el objetivo de ofrecer mejores opciones de tratamiento a los pacientes. Las organizaciones de pacientes también valoraron el apoyo que la inteligencia artificial puede prestar a los profesionales sanitarios para ofrecer una atención más personalizada, por ejemplo, encontrando una opción de tratamiento adaptada a las características genéticas, fisiológicas y de comportamiento únicas del paciente.⁷

Otro beneficio potencial que destacaron los encuestados fue el fomento de la autogestión y el cumplimiento de los tratamientos por parte de los pacientes con la ayuda de herramientas digitales impulsadas por IA que supervisan el cumplimiento a distancia, aplicaciones para teléfonos móviles y sistemas de recordatorio.

También hay que destacar que la IA tiene el potencial de apoyar medidas preventivas y permitir la transición de los sistemas sanitarios desde los actuales modelos de atención a la enfermedad hacia otros más centrados en la persona y personalizados. Un ejemplo de ello es el uso de la IA en el cribado de poblaciones sanas y la identificación de patrones y factores de riesgo que predicen la probabilidad de desarrollar determinadas enfermedades crónicas o graves en grupos de población o individuos específicos, o en la prevención de amenazas sanitarias transfronterizas.

En términos más generales, los resultados de la encuesta muestran que la comunidad de pacientes acoge con satisfacción la transformación digital de la asistencia sanitaria y espera que dicha transición mejore la calidad, la seguridad y la sostenibilidad de la atención, y transforme la asistencia sanitaria en un proceso más participativo.

No obstante, cabe destacar que la digitalización no debe verse como un fin en sí mismo, sino como un medio para lograr una sociedad más sana mental y físicamente, una mayor autonomía y empoderamiento, y una asistencia sanitaria más personalizada y asequible.

Resultados de la encuesta 2023: ¿Qué puede hacer la IA por los pacientes?

Preocupaciones éticas y riesgos

La IA en la sanidad: ¿Qué está en juego?

Aunque la IA puede aportar beneficios sustanciales a los pacientes y al funcionamiento del sistema sanitario, también conlleva ciertos riesgos y problemas éticos que deben abordarse a fondo para evitar posibles daños.

Las organizaciones de pacientes han señalado el problema de los datos sesgados y no representativos como uno de los principales riesgos asociados al uso de la IA en la asistencia sanitaria. Esto puede dar lugar a decisiones sesgadas basadas en la IA, lo que a su vez puede perpetuar las disparidades en la atención sanitaria, la discriminación, la desigualdad de trato y la desigualdad de acceso a la atención sanitaria. Estos riesgos pueden verse agravados por la desigualdad de acceso a las soluciones basadas en la IA y por la insuficiente alfabetización digital (sanitaria) de los pacientes, ya que los datos de estas poblaciones podrían quedar excluidos de los conjuntos de datos con los que se entrenan los algoritmos⁹.

»La participación de los pacientes podría dar lugar a una mayor comprensión de las soluciones sanitarias digitales, lo que a su vez podría afectar positivamente a la aceptación de dichas herramientas por parte de los pacientes y a su confianza en ellas.»

Además, en la práctica actual, la participación de los pacientes en el diseño de soluciones sanitarias de IA, especialmente durante las fases iniciales de desarrollo, es limitada.¹⁰ Como resultado, algunas tecnologías de IA no consiguen abordar las necesidades específicas de los pacientes a los que pretenden ayudar. La participación de los pacientes a lo largo del ciclo de vida de las soluciones de IA podría garantizar una evaluación realista de cómo pueden mejorar el bienestar de los pacientes, mejorar la accesibilidad y satisfacer sus necesidades. Además, la participación de los pacientes podría dar lugar a una mayor comprensión de las soluciones sanitarias digitales, lo que a su vez podría influir positivamente en la aceptación y la confianza de los pacientes en dichas herramientas.

Los resultados de la encuesta han puesto de relieve la importancia del codiseño y la participación de los pacientes para las organizaciones de pacientes, ya que el 82 % de los encuestados expresó la creencia de que los pacientes y los profesionales sanitarios deberían desempeñar un papel sustancial en diversos aspectos del desarrollo y la aplicación de herramientas y tecnologías basadas en IA. Por el contrario, solo el 2 % abogó por una participación mínima. Para garantizar mayores niveles de participación de los pacientes, los gobiernos deberían poner en marcha iniciativas clave para promover la inclusión digital y la alfabetización sanitaria digital, ampliar el acceso a las tecnologías digitales en la asistencia sanitaria y garantizar una mejor infraestructura y conectividad para las comunidades desatendidas.

Los problemas de seguridad debidos a herramientas de IA no validadas y la falta de transparencia, incluida la trazabilidad y la explicitabilidad entre los principales riesgos para la seguridad de los pacientes.

Estos riesgos deben abordarse mediante procesos rigurosos de validación y evaluación de las herramientas sanitarias de IA para garantizar su seguridad, rendimiento y fiabilidad, así como mediante una vigilancia y un seguimiento adecuados tras la comercialización. Es importante establecer y mantener una comunicación clara y transparente con el público sobre los beneficios, riesgos y usos previstos de las soluciones de IA.

También es crucial que las soluciones de IA se diseñen para ayudar y apoyar a los agentes humanos, y no para sustituirlos. La supervisión humana es necesaria para identificar y abordar sesgos adicionales y consecuencias imprevistas, y permite una mejor rendición de cuentas.

Además, es vital reconocer los riesgos potenciales asociados a la filtración, divulgación no autorizada o uso no intencionado de los datos sanitarios. Este mal manejo y uso indebido de datos sensibles podría tener consecuencias de gran alcance, como la discriminación, el trato injusto y la estigmatización. Los datos de los pacientes sobre salud mental, salud sexual y reproductiva, discapacidades, cáncer y enfermedades crónicas son especialmente vulnerables a la toma automatizada de decisiones individuales, la elaboración de perfiles y el seguimiento biométrico. En respuesta a estas preocupaciones, es imperativo que el avance de la IA se sustente en un marco sólido de principios de privacidad y seguridad que protejan los datos sanitarios y la confidencialidad de los pacientes, y que exista un marco normativo claro que aborde los casos de uso indebido, filtración y divulgación no autorizada de datos.

9 principios para regular la IA en la sanidad

1. Respeto a la dignidad humana.
2. Abordar la calidad de los datos y su integridad.
3. Involucrar a pacientes y profesionales sanitarios.
4. Asegurar la accesibilidad e inclusividad.
5. Mantener el control por parte de humanos.
6. Proteger los datos de salud y la confidencialidad del paciente.
7. Fomentar la responsabilidad y la rendición de cuentas.
8. Adoptar transparencia.
9. Priorizar la educación, preparación y la alfabetización digital.

Recomendaciones de la EPF

La tecnología de la IA se está desarrollando a una velocidad asombrosa, y la intervención reguladora es fundamental para mitigar los riesgos potenciales y las preocupaciones éticas que conlleva el uso de la IA en la asistencia sanitaria. Por lo tanto, pedimos a los responsables políticos europeos y nacionales que establezcan un marco normativo claro y sólido que haga hincapié en los siguientes principios, y a los desarrolladores y socios de investigación que cumplan plenamente dichas obligaciones.

1. Respetar la dignidad humana

«No hacer daño» y el respeto a la dignidad humana deben servir como principios rectores para todas las soluciones de IA en la asistencia sanitaria, que deben dar prioridad al bienestar humano, la seguridad y el interés público, con el objetivo de hacer una contribución positiva a la sociedad. Es crucial evaluar el daño potencial que puede derivarse de predicciones inexactas, como diagnósticos incorrectos que lleven a un tratamiento insuficiente o excesivo, y evaluar los riesgos para la integridad física y mental de las personas. Para garantizar el cumplimiento de estos principios, recomendamos la aplicación plena y armonizada del marco normativo vigente en la UE aplicable a las herramientas médicas de IA, a saber, el Reglamento sobre productos sanitarios (MDR)¹² y el Reglamento sobre productos sanitarios para diagnóstico in vitro (IVDR)¹³ , así como la próxima Directiva sobre responsabilidad de la IA¹⁴ y la Ley sobre Inteligencia Artificial (Ley sobre IA)¹⁵ , que tienen por objeto establecer requisitos y obligaciones claros para usos específicos de la IA y garantizar la seguridad de las soluciones de IA. La revisión periódica del marco regulador y de su aplicación debería garantizar que sigue siendo adecuado para su finalidad. También abogamos por la creación de comités de ética con el objetivo de promover directrices éticas a lo largo de todo el ciclo de vida de las herramientas de IA.

2. Abordar la calidad y la integridad de los datos

Solo si se abordan los problemas de calidad e integridad de los datos y se aplican medidas proactivas para vigilar y mitigar los sesgos, la IA en la atención sanitaria podrá lograr la inclusión, la equidad y la mejora de los resultados de los pacientes. Recomendamos que las soluciones de IA se supervisen y evalúen continuamente para identificar cualquier efecto desproporcionado en grupos específicos, priorizar la diversidad y la representatividad, y establecer y comunicar claramente los mecanismos para señalar los sesgos y la discriminación. Estos procesos deben aplicarse durante todo el ciclo de vida de la herramienta de IA, desde la formación y las pruebas hasta la implantación. En este
A este respecto, el Espacio Europeo de Datos Sanitarios¹⁶ (EHDS) puede garantizar que los datos sean de buena calidad y, por defecto, adecuados para los fines de la IA. Además, promover la diversidad en el proceso de contratación entre los socios de investigación y los desarrolladores y garantizar la participación de las partes interesadas puede ayudar a garantizar una diversidad de perspectivas y evitar estos sesgos.

3. Implicar a pacientes y profesionales sanitarios

Garantizar que la solución de IA propuesta es adecuada y apropiada sólo es posible mediante la participación activa de pacientes y profesionales sanitarios. Los procesos de desarrollo inclusivos en los que participan los usuarios finales pueden mejorar las experiencias de los usuarios evitando sesgos o resultados discriminatorios. Las comunidades de pacientes pueden aportar sus conocimientos sobre enfermedades específicas y ofrecer información valiosa sobre la utilidad e idoneidad de las herramientas de IA. La participación de las partes interesadas también ayudará a impulsar la aceptación y generar confianza en la nueva tecnología y a mejorar el empoderamiento de los pacientes.

4. Garantizar la accesibilidad y la inclusión

La accesibilidad y el diseño inclusivo, que tienen en cuenta las necesidades de diversos usuarios, incluidas las personas con discapacidades físicas y mentales, deben ser los principios fundamentales para el desarrollo y despliegue de soluciones de IA. Es esencial dar prioridad a un diseño centrado en el usuario que garantice la igualdad de acceso y usabilidad para todas las personas, independientemente de su edad, sexo o capacidades.

5. Mantener el control humano

Es de suma importancia que los seres humanos mantengan el control de las decisiones médicas. Las herramientas de IA sólo deben diseñarse para apoyar y complementar las habilidades humanas, y nunca para asumir el poder de decisión. Por tanto, la autonomía humana tiene que ser el principio rector del diseño de soluciones de IA para dejar oportunidades significativas a la elección humana. También recomendamos que se establezcan procedimientos adecuados para gestionar situaciones en las que las soluciones de IA generen poca confianza o resultados contradictorios.

6. Proteger los datos sanitarios y la confidencialidad de los pacientes

Proteger los datos sanitarios y la confidencialidad de los pacientes es primordial, y la solidez técnica y la seguridad en el diseño son consideraciones clave para garantizar que la tecnología sea fiable, segura y pueda soportar posibles ciberataques. Recomendamos el desarrollo de un plan para prevenir, mitigar y gestionar estos riesgos, así como proporcionar formación a pacientes y profesionales sanitarios sobre protocolos de seguridad de datos para garantizar la salvaguarda de la información sensible de los pacientes. Pedimos una inversión adecuada por parte de los hospitales y los Estados miembros para garantizar que los sistemas hospitalarios sean ciberseguros de acuerdo con las normas internacionales. La existencia de tales protocolos es esencial para aumentar la confianza pública en los sistemas sanitarios digitalizados y en el intercambio de datos en general. Además, debe prohibirse estrictamente el uso de datos con fines de elaboración de perfiles, seguros y empleo.

7. Fomentar la responsabilidad y la rendición de cuentas

Fomentar la responsabilidad y la rendición de cuentas en el desarrollo y uso de soluciones de IA es crucial para su despliegue ético y justo. Para minimizar los impactos negativos, es esencial realizar evaluaciones de impacto durante todo el proceso, así como establecer mecanismos de reparación. La legislación debe ser clara y exhaustiva sobre la rendición de cuentas y la responsabilidad jurídica en caso de circunstancias imprevistas o resultados adversos.

8. Aumentar la transparencia

El principio de transparencia es crucial para generar y mantener la confianza de los pacientes y su comprensión de las soluciones de IA utilizadas en la asistencia sanitaria. Para garantizar la transparencia, deben revelarse claramente diversos aspectos de las herramientas de IA. Esto incluye proporcionar información sobre la finalidad de la herramienta de IA, informar

Esto incluye proporcionar información sobre el propósito de la herramienta de IA, informar a los usuarios de si están interactuando con un agente no humano e informarles de los posibles riesgos y limitaciones. Este planteamiento también mejoraría la rendición de cuentas y la responsabilidad. Además, para lograr un equilibrio justo entre la privacidad de los datos y los beneficios de los conocimientos basados en datos, es esencial establecer qué información puede utilizarse, cuándo, por quién y con qué fin. Por lo tanto, recomendamos que el derecho a objetar y el derecho a ser olvidado se integren en el desarrollo de soluciones de IA.

9. Priorizar la educación, la formación y la alfabetización digital

Para garantizar la seguridad de los pacientes y fomentar la confianza en las soluciones de IA, así como para maximizar las oportunidades positivas que la IA puede ofrecer, es imperativo dar prioridad a la educación, la formación y la alfabetización digital, tanto para los pacientes como para los profesionales sanitarios. Reforzando estas áreas, podemos mejorar la comprensión pública de las herramientas de IA y dotar a las personas de las habilidades necesarias para utilizarlas de forma responsable. Esto, a su vez, fomentaría la confianza pública en el uso de la IA, abordaría las preocupaciones relacionadas con la indecisión digital y mitigaría las desigualdades sanitarias.

Fuente: EPF