La méthode du sous-espace aléatoire pour la construction de forêts de décision

Une grande partie des travaux antérieurs sur les arbres de décision se concentre sur les critères de séparation et l'optimisation de la taille des arbres. Le dilemme entre le surapprentissage et l'obtention de la précision maximale est rarement résolu. Une méthode de construction d'un classificateur basé sur des arbres de décision est proposée, qui maintient la plus haute précision sur les données d'entraînement et améliore la précision de généralisation à mesure qu'il devient plus complexe. Le classificateur est composé de multiples arbres construits systématiquement en sélectionnant pseudo-aléatoirement des sous-ensembles des composantes du vecteur de caractéristiques, c'est-à-dire des arbres construits dans des sous-espaces choisis aléatoirement. La méthode du sous-espace est comparée aux classificateurs à arbre unique et à d'autres méthodes de construction de forêts par des expériences sur des jeux de données accessibles publiquement, où la supériorité de la méthode est démontrée. Nous discutons également de l'indépendance entre les arbres dans une forêt et la relions à la précision combinée de classification.