Grandes modelos de linguagem para biomedicina: fundamentos, oportunidades, desafios e melhores práticas

Modelos generativos grandes de linguagem (LLMs) são um subconjunto de modelos baseados na arquitetura de rede neural transformers. LLMs têm aproveitado com sucesso uma combinação de um número aumentado de parâmetros, melhorias na eficiência computacional e grandes conjuntos de dados de pré-treinamento para executar uma ampla gama de tarefas de processamento de linguagem natural (PLN). Usar poucos exemplos (few-shot) ou nenhum exemplo (zero-shot) para ajuste por prompt possibilitou que LLMs alcançassem desempenho de última geração em uma vasta gama de aplicações de PLN. Este artigo do Grupo de Trabalho de PLN da American Medical Informatics Association (AMIA) caracteriza as oportunidades, desafios e melhores práticas para que nossa comunidade aproveite e avance na integração eficaz dos LLMs em aplicações de PLN posteriores. Isso pode ser alcançado por meio de diversas abordagens, incluindo prompting aumentado, ajuste de prompt por instrução e aprendizado por reforço a partir do feedback humano (RLHF).