Réseaux de neurones récurrents bidirectionnels

Dans la première partie de cet article, un réseau de neurones récurrent régulier (RNN) est étendu à un réseau de neurones récurrent bidirectionnel (BRNN). Le BRNN peut être entraîné sans la limitation d'utiliser les informations d'entrée uniquement jusqu'à un cadre futur prédéfini. Ceci est réalisé en l'entraînant simultanément dans les directions temporelles positive et négative. La structure et la procédure d'entraînement du réseau proposé sont expliquées. Dans des expériences de régression et de classification sur des données artificielles, la structure proposée donne de meilleurs résultats que d'autres approches. Pour les données réelles, des expériences de classification de phonèmes issues de la base de données TIMIT montrent la même tendance. Dans la deuxième partie de cet article, il est montré comment la structure bidirectionnelle proposée peut être facilement modifiée pour permettre une estimation efficace de la probabilité postérieure conditionnelle des séquences complètes de symboles sans faire aucune hypothèse explicite sur la forme de la distribution. Pour cette partie, des expériences sur des données réelles sont rapportées.