La OMS publica una guía donde analiza los principales factores a tener en cuenta para la regulación de la inteligencia artificial en el sector de las ciencias de la salud

Francisco Javier García Pérez, Adrián Vilà Montoya.

15/12/2023 Uría Menéndez (uria.com)


En estos días en los que la inteligencia artificial ha acaparado toda la atención de los medios tras el acuerdo histórico alcanzado en el seno de la Unión Europea para desbloquear la tramitación del Reglamento de Inteligencia Artificial[1], resulta oportuno recordar una reciente iniciativa de la Organización Mundial de la Salud (“OMS").

En efecto, el pasado 19 de octubre la OMS publicó el conjunto de principios clave que, en su opinión, deben considerarse a fin de regular el uso de la inteligencia artificial en el sector de la salud (la “Guía" y la “IA", respectivamente)[2]. Aunque carece de carácter vinculante, esta Guía se presenta como un recurso a disposición de los Gobiernos y otras autoridades regulatorias competentes en la materia para desarrollar o adaptar su normativa.

La OMS reconoce el potencial de las herramientas de inteligencia artificial para proporcionar una mejor asistencia médica. Sin embargo, también destaca los retos que presenta y el potencial riesgo que supone que este tipo de tecnología se esté desplegando rápidamente.

En este orden, como respuesta a la necesidad de disponer de marcos jurídicos que permitan asegurar que los sistemas de IA son seguros y efectivos, la Guía subraya una serie de consideraciones regulatorias que, en su opinión, los países deberían considerar en el ámbito específico de la IA en el sector salud. La Guía pone el foco en las seis áreas siguientes:

1. Documentación y transparencia

En primer lugar, la OMS prioriza la puesta en práctica de procesos de documentación que permitan una evaluación transparente de la tecnología. Este mecanismo ayudaría, en opinión de la OMS, a generar confianza en los sistemas de IA.

La evaluación debe permitir verificar que las decisiones que se toman a lo largo del ciclo de vida del producto operado por la IA se basa en criterios científicos. En este sentido, la recopilación de datos debe comprender las fases de diseño, desarrollo, validación y posterior implementación de la tecnología, de manera que se asegure un nivel de calidad mínimo en cada una de las fases de la vida del producto de IA.

Por último, según la OMS, los procesos de identificación y mitigación de errores y sesgos, en general, y el registro de la documentación, en particular, deben seguir un criterio basado en el riesgo que genera cada sistema.

2. Gestión del riesgo y desarrollo de los sistemas de IA con enfoques de ciclo de vida

En línea con la perspectiva anterior, la OMS aboga por hacer frente a las amenazas de ciberseguridad y las vulnerabilidades de los sistemas de IA con un enfoque holístico, de manera que se gestionen los eventuales riesgos que el producto puede presentar a lo largo de su ciclo de vida (incluyendo, por lo tanto, las fases de previa y posterior puesta en el mercado).

Una evaluación del ciclo completo de la tecnología facilitaría el proceso de aprendizaje acerca de su funcionamiento y, en caso de que sea necesario, mejorar de forma continua su aplicabilidad.

Para una clasificación de los sistemas de IA basada en el riesgo que permita su correcta gestión, la OMS considera en particular dos factores: la importancia de la información generada por la tecnología y la gravedad de la situación clínica del paciente.

3. Uso previsto y validación analítica y clínica

La OMS destaca la importancia de que los mecanismos regulatorios que vayan a aprobarse sobre esta materia contemplen mecanismos de verificación que aseguren, en última instancia, que las herramientas de healthtech basadas en soluciones de IA que finalmente se utilicen en situaciones clínicas reales sean seguras y eficientes. En este sentido, la Guía recomienda que las soluciones de IA se sometan a procesos de validación externa con el fin de asegurar su calidad y seguridad.

La Guía incluye asimismo como recomendación que los desarrolladores de soluciones de IA lleven a cabo un seguimiento con posterioridad a la puesta en funcionamiento de la tecnología, de forma que las autoridades regulatorias sean oportunamente notificadas de cualquier evento adverso.

En definitiva, los resultados que se obtengan a partir de dicho seguimiento contribuirán a garantizar la seguridad de los productos de IA.

4. Calidad de los datos

La publicación toma como punto de partida que todas las tareas que lleva a cabo la tecnología basada en IA usan algún tipo de dato, con independencia de su naturaleza o características.

De esta manera, remarca la importancia de contar con datos de calidad, en concreto aquellos que son relevantes a nivel clínico, de forma que la tecnología pueda alcanzar su uso previsto y no se obstaculice su efectividad y potenciales beneficios.

En cuanto a las problemáticas relacionadas con la calidad de los datos, la Guía destaca particularmente las vinculadas con su selección, fase en la que se pueden generar sesgos informativos, los cuales se producen cuando los datos utilizados para elaborar el modelo no son totalmente representativos de los datos reales del entorno en el que funcionará la tecnología. A tal fin, la OMS enfatiza la importancia de que tanto los reguladores como los desarrolladores conozcan las bases de las que se extraen los datos. Además, la OMS subraya que debe llevarse a cabo una evaluación previa al lanzamiento de cualquier sistema, permitiendo así corregir cualquier deficiencia que este pueda presentar.

5. Privacidad y protección de datos de carácter personal

La calidad de los datos es uno de los elementos de mayor importancia en el diseño y desarrollo de los sistemas de IA. En el caso de soluciones de healthtech basadas en soluciones de IA, los datos objeto de tratamiento son, esencialmente, datos de carácter personal y, en particular, datos de salud, que gozan de un nivel de protección superior en nuestro ordenamiento comunitario.

En este contexto, para que su aplicación sea conforme con las distintas legislaciones en materia de privacidad y protección de datos de carácter personal, la OMS concluye que es necesario que los fabricantes comprendan adecuadamente sus implicaciones, con particular énfasis en su alcance territorial y los requisitos adicionales exigidos como consecuencia de la categoría de los datos que utiliza la IA, por ejemplo, para el desarrollo terapéutico.

La Guía subraya asimismo la importancia de que las empresas sujetas a las obligaciones impuestas por la normativa de protección de datos adopten programas de cumplimiento preventivo que permitan gestionar de manera adecuada los riesgos derivados de la actividad que desarrollan en este ámbito.

6. Participación y colaboración

Finalmente, la OMS invita a la participación y colaboración entre las autoridades regulatorias, asociaciones de pacientes, profesionales de la salud y demás partes involucradas en el ámbito de las ciencias de la salud.

Facilitar mecanismos de participación activa a través de plataformas accesibles permitiría asegurar que la tecnología implementada cumple con la normativa durante su ciclo de vida y, en última instancia, acelerar los avances en el campo de healthtech basada en tecnologías de IA.

Conclusión

La Guía de la OMS recoge un conjunto de recomendaciones para los legisladores nacionales e internacionales que constituyen un interesante haz de buenas prácticas para asegurar un desarrollo seguro y efectivo de la IA en el ámbito de la salud. En este sentido, cabe señalar que, a la espera de analizar el texto definitivo del Reglamento de IA, el contenido de la Guía está alineado con los principales elementos del acuerdo político alcanzado recientemente en el seno de la Unión Europea sobre esta cuestión. Por último, resulta oportuno señalar que a día de hoy la Guía puede resultar también un instrumento útil para los desarrolladores de soluciones basadas en IA en el sector salud, toda vez que la observancia de las buenas prácticas que en ella se contienen coadyuvarán a un desarrollo responsable de esta nueva tecnología en un sector tan relevante como es el de las ciencias de la salud.


_____________________ 

[1] El comunicado de prensa de la Comisión que informa sobre el acuerdo político al que han llegado este pasado 8 de diciembre el Parlamento Europeo y el Consejo sobre el Reglamento de Inteligencia Artificial está disponible en el siguiente enlace.

[2] El contenido de la Guía está disponible en el siguiente enlace.

Abogados de contacto

Áreas de práctica relacionadas

Otras publicaciones