Aproveitando AutoEncoders e a teoria do caos para melhorar a detecção de exemplos adversariais

Resumo O fenômeno dos exemplos adversariais é um dos tópicos mais atraentes na pesquisa em machine learning atualmente. São casos particulares que conseguem enganar redes neurais, com consequências críticas. Por esse motivo, diferentes abordagens são consideradas para resolver o problema. Por um lado, mecanismos de defesa, como métodos baseados em AutoEncoder, conseguem aprender a partir da distribuição das perturbações adversariais para detectá-las. Por outro lado, a teoria do caos e os expoentes de Lyapunov (LEs) também mostraram ser úteis para caracterizá-las. Este trabalho propõe a combinação de ambos os domínios. O método proposto emprega esses expoentes para adicionar mais informação à função de perda usada durante o processo de treinamento do AutoEncoder. Como resultado, este método alcança uma melhora geral no desempenho da detecção de exemplos adversariais para uma ampla variedade de métodos de ataque.