Optimisation des Vision Transformers pour l'histopathologie : préentraînement et normalisation dans la classification du cancer du sein

Cet article présente un modèle Vision Transformer à auto-attention spécifiquement développé pour classifier le cancer du sein dans des images histologiques. Nous examinons différentes stratégies et configurations d'entraînement, notamment le préentraînement, le redimensionnement des dimensions, l'augmentation des données et les stratégies de normalisation des couleurs, le chevauchement des patchs et les configurations de taille des patchs, afin d'évaluer leur impact sur l'efficacité de la classification des images histologiques. De plus, nous fournissons des preuves de l'augmentation de l'efficacité obtenue grâce aux techniques d'augmentation géométrique et de couleur des données. Nous utilisons principalement le jeu de données BACH pour entraîner et valider nos méthodes et modèles, mais nous les testons également sur deux jeux de données supplémentaires, BRACS et AIDPATH, pour vérifier leurs capacités de généralisation. Notre modèle, développé à partir d'un transformer préentraîné sur ImageNet, atteint un taux de précision de 0,91 sur le jeu de données BACH, 0,74 sur BRACS et 0,92 sur AIDPATH. En utilisant un modèle basé sur les modèles HistoEncoder prostate small et prostate medium, nous obtenons des taux de précision respectifs de 0,89 et 0,86. Nos résultats suggèrent que le préentraînement sur des jeux de données généraux à grande échelle comme ImageNet est avantageux. Nous démontrons également les avantages potentiels de l'utilisation de jeux de données de préentraînement spécifiques au domaine, tels que les vastes collections d'images histopathologiques comme dans HistoEncoder, bien que sans avantage clair à ce jour.