Una Encuesta Integral de Modelos Fundamentales en Medicina

Los modelos fundamentales (FMs) son modelos de aprendizaje profundo a gran escala entrenados con conjuntos de datos extensos utilizando técnicas de auto-supervisión. Estos modelos sirven como base para varias tareas posteriores, incluida la atención médica. Los FMs han sido adoptados con gran éxito en diversos dominios dentro del sector salud, como el procesamiento de lenguaje natural (NLP), visión por computadora, aprendizaje en grafos, biología y ómicas. Las encuestas existentes basadas en atención médica aún no han incluido todos estos dominios. Por lo tanto, esta encuesta proporciona una visión completa de los FMs en atención médica. Nos centramos en la historia, estrategias de aprendizaje, modelos emblemáticos, aplicaciones y desafíos de los FMs. Exploramos cómo modelos como las familias BERT y GPT están remodelando diversos dominios de la salud, incluyendo modelos clínicos de lenguaje extenso, análisis de imágenes médicas y datos ómicos. Además, ofrecemos una taxonomía detallada de aplicaciones en salud facilitadas por los FMs, como NLP clínico, visión médica por computadora, aprendizaje en grafos y otras tareas relacionadas con biología. A pesar de las prometedoras oportunidades que brindan los FMs, también enfrentan varios desafíos asociados, los cuales se explican en detalle. Asimismo, describimos posibles direcciones futuras para proporcionar a investigadores y profesionales perspectivas sobre el potencial y las limitaciones de los FMs en salud, para avanzar en su implementación y mitigar riesgos asociados.