Hin zu effizientem AutoML: ein Pipelinesynthese-Ansatz unter Nutzung vortrainierter Transformer für multimodale Daten

Zusammenfassung Dieses Papier stellt einen Automated Machine Learning (AutoML)-Rahmen vor, der speziell dafür entwickelt wurde, End-to-End-multimodale Machine-Learning-Pipelines effizient zu synthetisieren. Die herkömmliche Abhängigkeit von der rechenintensiven Neural Architecture Search wird durch die strategische Integration vortrainierter Transformer-Modelle minimiert. Dieser innovative Ansatz ermöglicht die effektive Vereinigung verschiedener Datenmodalitäten in hochdimensionale Einbettungen und optimiert so den Entwicklungsprozess der Pipeline. Wir nutzen eine fortschrittliche Bayesian Optimization-Strategie, gestützt auf Meta-Lernen, um den Warm-Start der Pipelinesynthese zu erleichtern und dadurch die Recheneffizienz zu steigern. Unsere Methodik zeigt ihr Potenzial, fortschrittliche und maßgeschneiderte multimodale Pipelines mit begrenzten Ressourcen zu erstellen. Umfassende Tests an 23 unterschiedlichsten multimodalen Datensätzen unterstreichen die Perspektiven und die Nützlichkeit unseres Frameworks in verschiedenen Anwendungen. Die Ergebnisse tragen zu den fortlaufenden Bemühungen im Bereich AutoML bei und eröffnen neue Möglichkeiten zur effizienten Handhabung komplexer multimodaler Daten. Diese Forschung stellt einen Schritt hin zur Entwicklung effizienterer und vielseitigerer Werkzeuge für die Entwicklung multimodaler Machine-Learning-Pipelines dar und berücksichtigt die kollaborative und sich ständig weiterentwickelnde Natur dieses Fachgebiets.