ニューラルネットワークにおける壊滅的忘却の克服

タスクを連続的に学習する能力は、人工知能の発展にとって不可欠です。これまでニューラルネットワークはこれができず、壊滅的忘却はコネクショニストモデルの避けられない特徴であると広く考えられてきました。我々は、この制限を克服し、長期間経験していないタスクに関する専門性を維持できるネットワークを訓練することが可能であることを示します。我々の手法は、重要な重みに対する学習を選択的に遅らせることで古いタスクを記憶します。この手法のスケーラビリティと効果は、手書き数字データセットに基づく一連の分類タスクの解決や、複数のAtari 2600ゲームの順次学習によって実証されています。