La imperiosa necesidad de supervisión regulatoria de los grandes modelos de lenguaje (o IA generativa) en la atención médica

Los rápidos avances en inteligencia artificial (IA) han llevado al desarrollo de sofisticados grandes modelos de lenguaje (LLMs) como GPT-4 y Bard. La posible implementación de los LLMs en entornos de atención médica ya ha generado considerable atención debido a sus diversas aplicaciones que incluyen facilitar la documentación clínica, obtener preautorización de seguros, resumir artículos de investigación o funcionar como un chatbot para responder preguntas a pacientes sobre sus datos y preocupaciones específicas. Aunque ofrecen un potencial transformador, los LLMs requieren un enfoque muy cauteloso ya que estos modelos se entrenan de forma diferente a las tecnologías médicas basadas en IA que ya están reguladas, especialmente dentro del contexto crítico del cuidado de los pacientes. La versión más reciente, GPT-4, que se lanzó en marzo de 2023, trae las potencialidades de esta tecnología para apoyar múltiples tareas médicas; y los riesgos por el manejo incorrecto de los resultados que proporciona con fiabilidad variable a un nuevo nivel. Además de ser un LLM avanzado, podrá leer textos en imágenes y analizar el contexto de esas imágenes. La regulación de GPT-4 y la IA generativa en medicina y atención médica sin dañar su potencial emocionante y transformador es un desafío oportuno y crítico para garantizar la seguridad, mantener los estándares éticos y proteger la privacidad del paciente. Argumentamos que la supervisión regulatoria debería asegurar que los profesionales médicos y los pacientes puedan usar los LLMs sin causar daño ni comprometer sus datos o privacidad. Este documento resume nuestras recomendaciones prácticas sobre lo que podemos esperar de los reguladores para hacer realidad esta visión.