Los puntos clave no están disponibles para este artículo en este momento.
La investigación ha demostrado que las redes neuronales profundas (DNNs) tienen vulnerabilidades que pueden conducir al reconocimiento erróneo de Ejemplos Adversariales (EAs) con perturbaciones específicamente diseñadas. Se han propuesto varios métodos de ataque adversarial para detectar vulnerabilidades bajo condiciones de caja negra con etiqueta dura (HL-BB) en ausencia de gradientes de pérdida y puntuaciones de confianza. Sin embargo, estos métodos se limitan a soluciones locales porque exploran solo regiones locales del espacio de búsqueda. Por lo tanto, este estudio propone un método de ataque adversarial llamado EvolBA para generar EAs utilizando la Estrategia Evolutiva de Adaptación de Matriz de Covarianza (CMA-ES) bajo la condición HL-BB, donde solo está disponible la etiqueta de clase predicha por el modelo DNN objetivo. Inspirado en el aprendizaje supervisado basado en fórmulas, el método propuesto introduce operadores independientes del dominio para el proceso de inicialización y un salto que mejora la exploración de la búsqueda. Los resultados experimentales confirmaron que el método propuesto puede determinar EAs con perturbaciones menores que los métodos anteriores en imágenes donde estos últimos tienen dificultad.
Tajima et al. (Sun,) estudiaron esta cuestión.