La regulación de la inteligencia artificial debe actualizarse a medida que evoluciona. De esta forma, se puede asegurar la confianza tanto de los profesionales sanitarios como de los pacientes.
Uno de los ámbitos en los que más se está extendiendo la inteligencia artificial es el de la salud. En este momento, se necesita una regulación adecuada para generar confianza tanto con los profesionales de la salud como con los pacientes. Martin McKee, Escuela de Medicina Tropical e Higiene, Escuela de Política y Salud Pública, Olivier J. Wouters, del Departamento de Políticas de Salud de la London School of Economics, analiza los desafíos de la citada regulación en un artículo publicado en International Journal of Health Policy and Management.
Puedes hacer esto enfocándote en cinco puntos. En primer lugar, una aplicación de IA es solo una parte de un sistema clínico complejo en uso. Requiere que los datos se ingresen en un formato aceptable. No se sabe qué sucede si el dispositivo de entrada no está bien calibrado o si la aplicación solo puede interpretar imágenes de cierta calidad. En segundo lugar, los autores consideran si los procesos de formación de la aplicación pueden incorporar valores y sesgos de los participantes sin introducirlos. Por lo tanto, la regulación debe reflejar esta situación y crear garantías para asegurar que los procesos se realicen de manera segura y ética y que se preserve la privacidad. Esto puede mejorar significativamente los sistemas de IA en el cuidado de la salud.
Aprendizaje automático
Tercero, si una aplicación contiene aprendizaje automático, sus resultados cambiarán con el tiempo. Por lo tanto, debe tener una fecha límite y debe revisarse periódicamente. De hecho, la FDA propuso un proceso de ciclo de vida desde el desarrollo previo a la comercialización hasta la eficacia posterior a la comercialización. La pregunta es cómo funciona en la práctica clínica.
El tema de la protección de datos es un tema mencionado en cuatro estudios. Por ejemplo, de acuerdo con el Reglamento Europeo de Protección de Datos, solo se recopilan los datos necesarios del paciente. Sin embargo, las aplicaciones de IA requieren grandes cantidades de datos y, a menudo, es difícil, si no imposible, determinar qué datos son necesarios para que los algoritmos funcionen y cuáles no. Finalmente, y en quinto lugar, McKee y Wouters muestran que las aplicaciones recopilan cantidades masivas de datos, creando privacidad. Es posible identificar características del paciente que no desea registrar en sus datos; Por ejemplo, la inteligencia artificial puede predecir parámetros como la edad cronológica a partir de datos radiológicos.
Primeros planes
La ley de IA de la UE podría ser uno de los primeros sistemas regulatorios integrales de IA. En él, los productos se dividen en categorías de riesgo.
Sin embargo, aún quedan muchos problemas por resolver. Uno es compartido con la FDA, que se enfoca en la necesidad de diseñar un proceso regulatorio que abarque todo el ciclo de vida de la aplicación. Es importante tratar de mantener un equilibrio entre la innovación y la seguridad del paciente incluso antes de lanzar el programa. Aquí puedes recopilar la experiencia de los ensayos clínicos y adaptarlos con inteligencia artificial.
También es necesario conocer el beneficio real para el paciente de elegir entre aplicaciones que son esencialmente herramientas de recopilación de datos. Una vez que se lanza la aplicación, debe haber reglas claras con respecto a los cambios en el software que sean lo suficientemente significativos como para revisarlos y garantizar que no haya nuevos riesgos.
Finalmente, se pueden requerir inspecciones periódicas a ciertos intervalos para detectar cualquier desviación del desempeño original.
Diferentes reseñas
El segundo grupo es común en la regulación de medicamentos convencionales, incluidos los medicamentos. Se trata de cómo se puede evaluar el proceso de regulación en poblaciones que no son representativas de aquellas en las que se utilizan. Por ejemplo, algunos ensayos clínicos de medicamentos pueden excluir a los ancianos o pacientes con múltiples enfermedades. Este hecho es importante al evaluar aplicaciones de IA. Además, es importante anticipar, examinar y evitar que los algoritmos repitan o refuercen los sesgos existentes.
Como puede ver en este análisis, la situación no es fácil, pero se debe saber que las aplicaciones de la inteligencia artificial en el cuidado de la salud se han desarrollado rápidamente y aún se están desarrollando.
Muchos pacientes ya se han beneficiado de esto, pero el entorno regulatorio debe actualizarse para evitar riesgos potenciales tanto como sea posible.
Discussion about this post