Hören, Aufmerksamsein und Buchstabieren: Ein neuronales Netzwerk für die Erkennung gesprächsorientierter Sprache mit großem Vokabular

Wir stellen Listen, Attend and Spell (LAS) vor, einen neuronalen Spracherkenner, der Sprachäußerungen direkt in Zeichen transkribiert, ohne Aussprachemodelle, HMMs oder andere Komponenten traditioneller Spracherkenner. Bei LAS umfasst die neuronale Netzwerkarchitektur die akustischen, Aussprache- und Sprachmodelle, wodurch es sich nicht nur um ein end-to-end trainiertes System, sondern ein end-to-end Modell handelt. Im Gegensatz zu DNN-HMM, CTC und den meisten anderen Modellen trifft LAS keinerlei Annahmen über die Unabhängigkeit der Wahrscheinlichkeitsverteilung der Ausgabesequenzen der Zeichen gegeben der akustischen Sequenz. Unser System besteht aus zwei Komponenten: einem Zuhörer und einem Buchstabierer. Der Zuhörer ist ein pyramidales rekurrentes Netzwerke-Encoder, der Filterbandspektren als Eingaben akzeptiert. Der Buchstabierer ist ein aufmerksamkeitsbasiertes rekurrentes Netzwerk-Decoder, der jedes Zeichen unter der Bedingung aller vorherigen Zeichen und der gesamten akustischen Sequenz ausgibt. Bei einer Google Sprachsuche erzielt LAS eine WER von 14,1 % ohne Wörterbuch oder externes Sprachmodell und 10,3 % bei Rescoring der Top 32 Strahlen mit Sprachmodell. Im Vergleich erreicht das hochmoderne CLDNN-HMM Modell eine WER von 8,0 % auf demselben Datensatz.