Faltungsneuronale Netze für die Satzklassifikation

Wir berichten über eine Reihe von Experimenten mit Faltungsneuronalen Netzen (CNN), die auf vortrainierten Wortvektoren für Satzklassifikationsaufgaben trainiert wurden. Wir zeigen, dass ein einfaches CNN mit wenig Hyperparameter-Tuning und statischen Vektoren hervorragende Ergebnisse bei mehreren Benchmarks erzielt. Das Erlernen aufgabenspezifischer Vektoren durch Feinjustierung bietet weitere Leistungssteigerungen. Zusätzlich schlagen wir eine einfache Modifikation der Architektur vor, die sowohl die Verwendung von aufgabenspezifischen als auch statischen Vektoren ermöglicht. Die hier diskutierten CNN-Modelle verbessern den Stand der Technik in 4 von 7 Aufgaben, darunter Sentiment-Analyse und Frageklassifikation.