Generar confianza digital en las herramientas de inteligencia artificial

Crédito: WHYFRAME/Shutterstock

El Organismo Nacional de Normalización del Reino Unido, BSI, ha publicado una guía diseñada para generar una mayor confianza digital en los productos de inteligencia artificial utilizados para diagnosticar o tratar a los pacientes, desde dispositivos médicos hasta chatbots para teléfonos inteligentes o herramientas de monitoreo en el hogar.

Con la aparición de herramientas de IA más innovadoras, los médicos y proveedores de atención médica tendrán la oportunidad de tomar decisiones de diagnóstico informadas de manera eficiente para intervenir, prevenir y tratar enfermedades, mejorando en última instancia la calidad de vida de los pacientes y beneficiando a la sociedad.

Scott Steedman, Director General de Estándares de BSI, dijo: "La nueva guía puede ayudar a generar confianza digital en herramientas de vanguardia que representan un enorme beneficio potencial para los pacientes y los profesionales que los diagnostican y tratan".

Mientras continúa el debate a nivel mundial sobre el uso apropiado de la IA, se publica el Marco de validación para el uso de la IA en la atención médica: Especificación (BS 30440) para ayudar a aumentar la confianza entre los médicos, los profesionales de la salud y los proveedores clínicos de que las herramientas desarrolladas de manera segura y efectiva. y ético. El estándar auditable, que puede usarse globalmente, está dirigido explícitamente a productos cuya función clave es permitir o proporcionar tratamiento, diagnóstico o apoyo al manejo de condiciones de salud.

Los pronósticos sugieren que el tamaño del mercado mundial de IA para el cuidado de la salud podría superar los $187,95 mil millones para 2030. Los proveedores de atención médica y los médicos pueden enfrentar limitaciones de tiempo y presupuesto o carecer de la capacidad interna para realizar evaluaciones de productos de IA, por lo que la especificación puede respaldar la toma de decisiones. sobre qué herramientas utilizar. Puede ayudar a los médicos y pacientes a evaluar los productos de IA para el cuidado de la salud considerando criterios que incluyen el beneficio clínico, los estándares de desempeño, la integración exitosa y segura en el entorno de trabajo clínico, las consideraciones éticas y los resultados socialmente equitativos.

Cubre productos de IA para el cuidado de la salud utilizados en una variedad de entornos, desde dispositivos médicos regulados (como software como dispositivo médico) hasta productos orientados al usuario (como software de imágenes) o orientados al paciente (como chatbots de teléfonos inteligentes que utilizan IA). También abarca productos de IA que se utilizan en el hogar (como productos de monitoreo) o en entornos de atención comunitaria, primaria, secundaria o terciaria. La especificación se aplica a productos, modelos, sistemas o tecnologías que utilizan elementos de IA, incluido el aprendizaje automático, y también es relevante para el proveedor del sistema de IA y los auditores de productos.

El documento ha sido desarrollado por un panel de expertos que se asociaron para identificar las mejores prácticas, incluidos médicos, ingenieros de software, expertos en inteligencia artificial, especialistas en ética y líderes de atención médica. Reúne la literatura de orientación existente y las buenas prácticas, luego traduce la evaluación de funcionalidades complejas en un marco auditable contra el cual se puede evaluar la conformidad de un sistema de IA. Las organizaciones de atención médica pueden exigir la certificación BS 30440 como requisito en sus procesos de adquisición, garantizando así que estos sistemas cumplan con un estándar conocido.

Jeanne Greathouse, directora global de atención sanitaria, BSI dijo: “Este estándar es muy relevante para las organizaciones del sector de la salud y quienes interactúan con él. A medida que la IA se convierta en la norma, puede ser potencialmente transformadora para la atención sanitaria.Con la aparición de herramientas de IA más innovadoras y la capacidad de los algoritmos de IA para digerir y analizar con precisión grandes cantidades de datos, los médicos y proveedores de atención médica pueden tomar decisiones de diagnóstico informadas de manera eficiente para intervenir, prevenir y tratar enfermedades y, en última instancia, mejorar la calidad de vida de los pacientes. "

La especificación responde a la necesidad de contar con marcos de validación acordados para el desarrollo de la IA y la evaluación clínica en la atención sanitaria. Se basa en un marco probado por primera vez por expertos del Guy's and St. Thomas Cancer Center y revisado a través de discusiones posteriores con partes interesadas involucradas en el campo de la IA y el aprendizaje automático. Paralelamente, BSI ha estado trabajando en asociación con reguladores, organizaciones de atención médica y otros organismos para considerar el papel de los estándares en el apoyo a la regulación y la gobernanza de la IA en la atención médica.