La generación actual de herramientas de inteligencia artificial: tres consideraciones para los líderes de calidad
Por qué es importante
Los productos de inteligencia artificial (IA) generativa que han evolucionado desde el debut público de ChatGPT podrían cambiar las reglas del juego para los equipos de calidad de la atención médica, pero las organizaciones deben considerar cuidadosamente los costos y beneficios de su uso.
En un futuro no muy lejano, la jornada laboral de un profesional de mejora de la calidad podría verse así:
Mañana: se prepara para una reunión con su director de calidad para analizar los PDSA en curso de su equipo. Su "asistente" seguro de inteligencia artificial generativa (IA) busca en sus archivos y bandeja de entrada información relevante y crea un resumen de 300 palabras. Te das cuenta de que no has actualizado tus gráficos de ejecución con datos de las últimas dos semanas, por lo que proporcionas los datos a la herramienta de IA y le pides que genere un gráfico de ejecución actualizado. Ahora tiene toda la información que necesita para hacer una presentación concisa.
Mediodía: Se han publicado cinco nuevas guías clínicas para servicios de alto volumen en su hospital. (El proceso de desarrollo y promulgación de las directrices, desde la revisión de la evidencia hasta la aprobación, solía llevar al menos un año, pero ahora solo lleva unas pocas semanas porque los desarrolladores de las directrices utilizan la inteligencia artificial para respaldar la investigación de antecedentes y el análisis de datos). idear una estrategia para incorporar estas nuevas directrices a la práctica. La herramienta de IA que consulta recomienda pequeñas pruebas de cambio y una estrategia de medición para evaluar el progreso. Todos en la reunión contribuyen plenamente a la discusión. AI transcribe y resume la reunión y distribuye el acta.
Tarde: debe analizar los resultados de las sesiones de coaching en gestión de calidad que su equipo ha estado liderando con equipos clínicos durante el año pasado. Utiliza una herramienta de inteligencia artificial para revisar las transcripciones de las aproximadamente 500 sesiones. La herramienta utiliza marcos preexistentes para identificar lagunas en las sesiones de coaching y temas a partir de los comentarios de los participantes. Luego, le solicita que escriba un resumen de 500 palabras del análisis y cree el esquema de una presentación de 10 minutos para la reunión de mañana con su equipo de calidad.
Aprenda más sobre Inteligencia Artificial en el IHI Forum
Creemos que este escenario habilitado por la IA representa el futuro probable del trabajo de la MC. En el transcurso de un proyecto de innovación de 90 días, un equipo de investigación del Institute for Healthcare Improvement (IHI) concluyó que ya existe toda la tecnología para realizar estas actividades. Los productos de IA generativa que han evolucionado desde el debut público de ChatGPT en noviembre de 2022 podrían cambiar las reglas del juego para los equipos de calidad de la atención médica, pero las organizaciones deben considerar cuidadosamente los costos y beneficios de su uso. Llegamos a tres conceptos clave durante el ciclo de innovación que compartimos a continuación.
¿Qué es la IA generativa?
Las herramientas de IA generativa se diferencian de la tecnología anterior en su capacidad para generar contenido nuevo. En otras palabras, las herramientas toman contenido existente y pueden responder preguntas (en párrafos), además de analizar datos y brindar recomendaciones y conclusiones. Grandes modelos de lenguajes como ChatGPT, Bard, Claude y Microsoft Bing de Google han atraído a millones de usuarios en los últimos meses y al mismo tiempo han generado controversia. Para entrenar grandes modelos de lenguaje, los desarrolladores utilizaron grandes cantidades de contenido existente (principalmente de Internet) para procesar y generar contenido nuevo. En respuesta a una consulta, pueden proporcionar respuestas y señalar a los usuarios información existente y potencialmente útil.
La IA generativa puede respaldar la mayoría de las modalidades de MC, incluida la enseñanza
Si bien nuestra investigación sugirió que la mayoría de los profesionales se encuentran solo en las primeras fases del uso de herramientas de IA para el trabajo de QI, es probable que estas tecnologías mejoren dramáticamente con el tiempo y cambien la forma en que hacemos QI en los próximos años. Ya podemos utilizar herramientas de IA para crear la mayoría de los materiales de MC . Nuestra investigación encontró que los modelos de lenguaje grandes (como ChatGPT) pueden ayudar a los usuarios expertos a crear gráficos de ejecución y control, identificar ideas de cambio, elaborar diagramas de causa y efecto y redactar diagramas de controladores.
Las herramientas de IA también pueden ayudar a enseñar conceptos de QI . Por ejemplo, puede ofrecer explicaciones de ideas complejas adaptadas a una audiencia específica. Las herramientas de inteligencia artificial pueden redactar planes de lecciones, esquemas de cursos, actividades para romper el hielo y mucho más. Algunos especialistas en calidad han comenzado a utilizar herramientas de inteligencia artificial para visualizar datos y abordar preguntas básicas de la calidad de vida, como generar un conjunto preliminar de ideas de cambio o producir una explicación en lenguaje sencillo de un concepto de calidad de vida.
La IA es propensa a errores y riesgosa
El uso de IA conlleva riesgos legales y éticos. Por ejemplo, ha habido una avalancha de litigios que cuestionan si es legal utilizar obras protegidas por derechos de autor sin autorización para entrenar grandes modelos lingüísticos. La IA también podría comprometer la privacidad de sus pacientes o de su organización. No está permitido compartir información de salud protegida con un modelo de acceso público como ChatGPT porque cualquier entrada de datos pasa a ser propiedad de la empresa propietaria de la herramienta. De manera similar, si comparte, por ejemplo, datos organizacionales estratégicamente importantes con la herramienta, es posible que la información se reutilice de maneras inesperadas e indeseables. Antes de utilizar cualquier herramienta impulsada por IA para respaldar su trabajo, es importante consultar sus políticas de TI y sus equipos legales o de privacidad de datos.
La precisión también es una preocupación importante con las herramientas de inteligencia artificial actuales. ChatGPT-3.5, por ejemplo, la versión disponible gratuitamente, solo tiene datos hasta enero de 2022; ya está desactualizado. También se sabe que los modelos de IA “ alucinan ”, es decir, inventan información que suena plausible en respuesta a una indicación. Además, los modelos basados en lenguaje no funcionan de manera consistente en tareas matemáticas (por ejemplo, ChatGPT empeoró con el tiempo en la identificación de números primos ).
Además, los modelos de IA plantean problemas de equidad, dado que están entrenados en grandes conjuntos de datos que probablemente reflejen los sesgos de la sociedad en general. Si bien herramientas importantes como ChatGPT implementan salvaguardas (como el aprendizaje reforzado con retroalimentación humana (RLHF) que utiliza supervisores humanos para entrenar los modelos y guiarlos lejos de resultados inadecuados), aún pueden quedarse cortas y producir contenido que podría ser ofensivo o sesgado.
No está claro qué impacto tendrán estas herramientas de IA en la calidad y seguridad de la fuerza laboral. Hasta ahora, los usuarios más exitosos han implementado herramientas para complementar y ampliar su trabajo. Las herramientas no están lo suficientemente maduras como para reemplazar completamente cualquier flujo de trabajo específico en el día a día de un gerente de QI típico.
Recomendaciones
Recomendamos que los líderes consideren las siguientes acciones para responder al creciente interés (y a los riesgos claros) del uso de herramientas de IA:
- Convocar grupos multidisciplinarios (incluidos representantes con experiencia legal, de TI, clínica, de calidad y de investigación) para desarrollar políticas específicas de gobernanza y uso aceptable para nuevas herramientas de IA de estilo modelo de lenguaje grande. Por ejemplo, muchas organizaciones solo permitirán que el personal utilice versiones "empresariales" de las herramientas (diseñadas para uso empresarial o gubernamental seguro) para tareas relacionadas con el trabajo.
- Capacite al personal sobre las políticas de uso aceptable de su organización.
- Capacite al personal sobre cómo utilizar la IA generativa mediante “ingeniería rápida”. Los resultados de estas herramientas son tan buenos como las entradas, y las “indicaciones” se refieren a las preguntas de texto o instrucciones ingresadas en el sistema para obtener los resultados deseados. Numerosos recursos están disponibles en línea para ayudar a los usuarios a hacer las preguntas correctas.
- Recopile comentarios del personal sobre la IA. Pregunte cómo lo están usando ya. Pregúnteles por qué les entusiasma o por qué tienen reparos.
- Ayude al personal a integrar la IA en su trabajo actual siendo consciente de los posibles efectos dominó, incluido cómo podría mejorar la productividad, cambiar las tareas diarias y cambiar el conjunto de responsabilidades de los empleados. Al introducir la IA en el trabajo diario, los líderes y el personal deberán ser ágiles, ya que las tecnologías disponibles están cambiando rápidamente y se están introduciendo nuevas herramientas a un ritmo acelerado.
Marina Renton, MPhil, es investigadora asociada de Innovación y Diseño de IHI . Pierre M. Barker, MD, MBChB, es el director científico del Institute for Healthcare Improvement del IHI. Gareth S. Kantor, MD, es consultor clínico de Insight Actuaries & Consultants. Jeffrey Rakover, MPP, es director de Innovación y Diseño de IHI . Para obtener más información, asista a la sesión A24 “Cuando la IA se encuentra con la calidad de vida” en el IHI Forum (del 10 al 13 de diciembre de 2023).
Inteligencia artificial en la atención sanitaria: Peter Lee sobre empatía, empoderamiento y equidad
Podcast diario sobre IA: Cómo la IA convierte los ensayos clínicos en conocimiento médico
