Analizando la Robustez al Ruido de Redes Neuronales Profundas

Los ejemplos adversariales, generados al añadir perturbaciones pequeñas pero intencionalmente imperceptibles a ejemplos normales, pueden inducir a errores a las redes neuronales profundas (DNNs) a la hora de hacer predicciones. Aunque se ha avanzado mucho en ataques y defensas adversariales, aún falta una comprensión detallada de los ejemplos adversariales. Para abordar este problema, presentamos un método de análisis visual para explicar por qué los ejemplos adversariales se clasifican erróneamente. La clave es comparar y analizar las rutas de datos tanto de ejemplos adversariales como normales. Una ruta de datos es un grupo de neuronas críticas junto con sus conexiones. Formulamos la extracción de rutas de datos como un problema de selección de subconjuntos y lo resolvemos construyendo y entrenando una red neuronal. Se ha diseñado una visualización multinivel que consiste en una visualización a nivel de red de los flujos de datos, una visualización a nivel de capa de los mapas de características y una visualización a nivel de neurona de características aprendidas, para ayudar a investigar cómo las rutas de datos de ejemplos adversariales y normales divergen y convergen en el proceso de predicción. Se realizó una evaluación cuantitativa y un estudio de caso para demostrar el potencial de nuestro método para explicar la clasificación errónea de ejemplos adversariales.