Por qué es importante
"Con el tiempo, es probable que la IA se utilice ampliamente en la atención sanitaria. Hay muchas implicaciones que considerar. La preparación puede comenzar ahora".
Recientemente, más de 300 asistentes sintonizaron un seminario web del Institute for Healthcare Improvement (IHI) de una hora de duración sobre el uso de la IA generativa para mejorar la calidad. Si bien respondimos preguntas, en su mayoría adoptamos un enfoque de “todos enseñan, todos aprenden” en nuestra discusión sobre cómo se pueden aplicar las herramientas de IA generativa en un contexto de MC y aprendimos qué entusiasma y preocupa a los participantes sobre la lista actual de herramientas disponibles.
De nuestra conversación surgieron las necesidades de educación continua, desarrollo de políticas y consideración cuidadosa de los impactos éticos, de privacidad y ambientales a medida que la IA se integra más en la práctica de la atención médica.
Aquí resumimos nuestras conclusiones de la sesión.
- La IA generativa aún no se utiliza ampliamente, pero se está adoptando . Encuestamos a los asistentes y descubrimos que la mayoría (65 por ciento) no utiliza la IA en trabajos de calidad. Quienes utilizan la IA la utilizan para generar ideas sobre cambios (25 por ciento), analizar problemas (16 por ciento) y crear soluciones como el trabajo estándar (16 por ciento). Muchos asistentes estuvieron activos en el chat y compartieron los siguientes tipos de casos de uso:
Gestión de datos: los casos descritos implicaron el uso de IA para la manipulación de datos y resúmenes para simplificar tareas complejas o que requieren mucho tiempo.
Registros clínicos: un proyecto piloto que utiliza IA generativa para registros en atención primaria mostró su potencial para automatizar la documentación.
Redacción e investigación médica: los participantes señalaron que los problemas de precisión ampliamente documentados requieren precaución. Cualquiera que utilice IA para apoyar la investigación no debe usar ni citar información generada por IA sin verificar las fuentes.
Traducción: los participantes compartieron experiencias mixtas sobre el uso de la IA para traducir información entre idiomas, destacando su utilidad pero también la necesidad de una revisión cuidadosa por parte de un humano con experiencia en los idiomas de interés, especialmente cuando se trata de términos técnicos.
Creación de contenido: los participantes utilizaron IA generativa para ayudar a preparar presentaciones, paneles de discusión y desarrollar propuestas, ilustrando así cómo la IA puede cumplir una función creativa y ser un socio eficiente para la lluvia de ideas.
Pronóstico y análisis predictivo: este caso de uso es relevante para la IA definida de manera más amplia (en lugar de la IA generativa específicamente), y al menos un participante ya estaba usando IA para un proyecto de predicción de sepsis. - Las limitaciones y los peligros de las herramientas de IA existentes limitan la voluntad de utilizarlas . Los participantes destacaron desafíos importantes, como garantizar la precisión del contenido generado por IA (por ejemplo, identificar alucinaciones y verificar referencias dada la propensión de la IA a generar referencias realistas pero ficticias), promover la transparencia con respecto a las limitaciones de la IA y abordar los prejuicios.
Los participantes plantearon la cuestión de la información obsoleta. Por ejemplo, la versión gratuita de ChatGPT (GPT-3.5) solo incluye datos disponibles hasta enero de 2022. Una posible solución para manejar el problema de la información desactualizada que pueden proporcionar las herramientas de inteligencia artificial es solicitar referencias verificables para evaluar los resultados.
La transparencia y la confianza son vitales para el uso continuo de las herramientas de IA. Si los profesionales de la salud no confían en los resultados, no utilizarán las herramientas. Una mejor comprensión de los algoritmos y de cómo generan sus respuestas podría ayudar a abordar las preocupaciones de los usuarios. Un participante preguntó si las empresas de IA reconocían la probabilidad de resultados inexactos. En particular, OpenAI ha agregado un descargo de responsabilidad a la interfaz ChatGPT que señala la posibilidad de inexactitud.
Los participantes también expresaron su preocupación por el sesgo en los algoritmos de IA que resultan en una toma de decisiones clínicas que no se alinea con las mejores prácticas de atención basada en evidencia. Estas acciones pueden ser perjudiciales e inequitativas. Algunas empresas incorporan precauciones como el aprendizaje reforzado con retroalimentación humana en sus herramientas, pero los usuarios deben ser conscientes de que no son infalibles. - La creciente adopción de la IA generativa ha generado una serie de preocupaciones . Un participante expresó su temor a que los usuarios se volvieran demasiado dependientes de las plataformas de inteligencia artificial. Tres colaboradores discutieron las implicaciones para la privacidad, incluido el manejo de datos confidenciales y el cumplimiento de regulaciones como HIPAA en los Estados Unidos. (En particular, en el momento de escribir este artículo, las herramientas comerciales de IA no cumplen con HIPAA , por lo que no se debe ingresar información de salud protegida al usarlas). Un participante comparó la huella ambiental de la IA con el impacto de la minería de Bitcoin . La cuestión del acceso surgió mientras discutíamos si las herramientas para principiantes democratizarían la mejora de la calidad al hacer que las herramientas y los recursos estuvieran más disponibles o exacerbarían las brechas entre entornos con altos y bajos recursos.
- Hay lugar para el optimismo junto con preocupaciones profundamente arraigadas . Otros casos de uso y políticas cubrieron el tema de la integración de la IA en los sistemas de atención médica (por ejemplo, sistemas de clasificación de IA). Surgió el potencial de la coproducción habilitada por IA con comunidades desatendidas y planteó la posibilidad de promover las mejores prácticas de mejora de la calidad y el codiseño equitativo como contrapunto a la discusión sobre el sesgo algorítmico.
- Con el tiempo, es probable que la IA se utilice ampliamente en la atención sanitaria. Hay muchas implicaciones a considerar. La preparación puede comenzar ahora. Dada la rápida adopción de la IA en la comunidad de QI, los contribuyentes plantearon la necesidad de capacitar a estudiantes y profesionales en el uso de la IA de manera efectiva y segura. Discutimos una variedad de temas a considerar ahora y en el futuro cercano para involucrarnos responsablemente con la IA.
Las grandes organizaciones con volúmenes significativos de propiedad intelectual que quieran emplear IA generativa deberían comenzar ahora (si aún no lo han hecho) a crear políticas con respecto al uso organizacional responsable y el riesgo de sacrificar su información patentada al enviarla al dominio público.
¿Se considerará algún día negligente no utilizar la IA para la atención sanitaria? Considerando su creciente impacto y potencial para producir predicciones y diagnósticos altamente precisos, esta es otra posibilidad que vale la pena estudiar.
Recursos para aprender más
Dado el rápido ritmo del cambio y la gran cantidad de nueva información que aparece en línea casi a diario, es útil saber cómo mantenerse actualizado a medida que se desarrolla la IA. Del debate surgieron tres podcasts a considerar: Everyday AI , The AI Breakdown y Perspectives . Además, los facilitadores aconsejaron a los participantes que buscaran cursos masivos, abiertos en línea (MOOC) que enseñan habilidades como ingeniería rápida y brindan información básica a quienes no son científicos en informática sobre cómo funcionan estas nuevas herramientas.
Gareth S. Kantor, MD, es consultor clínico de Insight Actuaries & Consultants. Marina Renton, MPhil, es investigadora asociada de Innovación y Diseño de IHI . Jeffrey Rakover, MPP, es director de Innovación y Diseño de IHI . Pierre M. Barker, MD, MBChB, es el director científico del Institute for Healthcare Improvement del IHI.
Usted también podría estar interesado en:
Aún puede registrarse para escuchar la grabación del seminario web sobre IA para la mejora de la calidad .
Discurso de apertura del IHI Forum 2023 : Peter Lee, PhD, vicepresidente corporativo de investigación e incubaciones de Microsoft
La generación actual de herramientas de IA: tres consideraciones para los líderes de calidad
Inteligencia artificial en la atención sanitaria: Peter Lee sobre empatía, empoderamiento y equidad
Inteligencia artificial, privacidad de datos y cómo mantener seguros a los pacientes en línea
