Ein Algorithmus mit fester Speichergröße und Zeitkomplexität O(n³) für vollständig rekurrente, kontinuierlich arbeitende Netzwerke

Der Echtzeit-rekurrente Lernalgorithmus (RTRL) (Robinson und Fallside 1987; Williams und Zipser 1989) erfordert O(n⁴) Berechnungen pro Zeitschritt, wobei n die Anzahl der Nicht-Eingabeeinheiten ist. Ich beschreibe eine Methode, die sich für Online-Lernen eignet und genau denselben Gradienten berechnet sowie einen Speicherbedarf derselben Größenordnung mit fester Größe hat, aber eine durchschnittliche Zeitkomplexität pro Zeitschritt von O(n³) aufweist.