Vom Angriff zur Verteidigung: Einblicke in Sicherheitsmaßnahmen für Deep Learning in Black-Box-Settings

Deep Learning (DL) entwickelt sich rasch so weit, dass es in sicherheitskritischen Anwendungen eingesetzt werden kann. Adversarielle Beispiele, die für das menschliche Auge nicht erkennbar sind, stellen jedoch eine ernsthafte Bedrohung dar, da sie dazu führen können, dass das Modell Fehlfunktionen zeigt und die Leistung solcher Anwendungen beeinträchtigt wird. Die Robustheit von DL-Modellen zu adressieren, ist entscheidend, um adversarielle Angriffe zu verstehen und sich dagegen zu verteidigen. In dieser Studie führen wir umfassende Experimente durch, um die Wirkung von adversariellen Angriffen und Verteidigungen auf verschiedene Modellarchitekturen über bekannte Datensätze zu untersuchen. Unsere Forschung konzentriert sich auf Black-Box-Angriffe wie SimBA, HopSkipJump, MGAAttack und Boundary-Angriffe sowie auf prädiktorbasierte Abwehrmechanismen, darunter Bits Squeezing, Median Glättung und JPEG-Filter. Durch Experimente mit verschiedenen Modellen zeigen unsere Ergebnisse, dass das für den Angriff erforderliche Rauschlevel mit der Schichtanzahl zunimmt. Zudem nimmt die Erfolgsrate der Angriffe mit steigender Schichtanzahl ab. Dies weist auf eine signifikante Beziehung zwischen Modellkomplexität und Robustheit hin. Bei der Untersuchung der Beziehung zwischen Vielfalt und Robustheit zeigen unsere Experimente mit diversen Modellen, dass eine hohe Anzahl an Parametern nicht zwangsläufig zu höherer Robustheit führt. Unsere Experimente erweitern sich auch auf die Auswirkungen des Trainingsdatensatzes auf die Modellrobustheit. Zur Bewertung der Black-Box-Angriffe werden verschiedene Datensätze wie ImageNet-1000, CIFAR-100 und CIFAR-10 verwendet. Unter Berücksichtigung mehrerer Dimensionen unserer Analyse, z. B. Modellkomplexität und Trainingsdatensatz, untersuchten wir das Verhalten von Black-Box-Angriffen, wenn Modelle Verteidigungen anwenden. Unsere Ergebnisse zeigen, dass Verteidigungsstrategien die Angriffswirksamkeit signifikant reduzieren können. Diese Forschung bietet eine tiefgehende Analyse und Einblicke in die Robustheit von DL-Modellen gegenüber verschiedenen Angriffen und Verteidigungen.