Tiefes stabiles Lernen für die Generalisierung außerhalb der Verteilung

Ansätze, die auf tiefen neuronalen Netzen basieren, haben beeindruckende Leistungen erzielt, wenn Testdaten und Trainingsdaten eine ähnliche Verteilung aufweisen, können aber andernfalls erheblich versagen. Daher ist es entscheidend, die Auswirkungen von Verteilungsverschiebungen zwischen Trainings- und Testdaten zu beseitigen, um leistungsversprechende tiefe Modelle zu erstellen. Konventionelle Methoden gehen entweder von bekannter Heterogenität der Trainingsdaten (z. B. Domänenlabels) oder von ungefähr gleichen Kapazitäten verschiedener Domänen aus. In diesem Papier betrachten wir einen herausfordernderen Fall, in dem keine der oben genannten Annahmen zutrifft. Wir schlagen vor, dieses Problem zu lösen, indem wir die Abhängigkeiten zwischen Merkmalen durch das Erlernen von Gewichten für Trainingsbeispiele entfernen, was tiefen Modellen hilft, fingierte Korrelationen loszuwerden und sich wiederum stärker auf die wahre Verbindung zwischen diskriminativen Merkmalen und Labels zu konzentrieren. Umfassende Experimente demonstrieren klar die Wirksamkeit unserer Methode auf mehreren Benchmark-Datensätzen zur Verteilungsgeneralisierung im Vergleich zu modernen Gegenstücken. Durch umfangreiche Experimente auf Benchmarks zur Verteilungsgeneralisierung, einschließlich PACS, VLCS, MNIST-M und NICO, zeigen wir die Effektivität unserer Methode im Vergleich zu aktuellen Spitzenverfahren.