EvolBA: 하드 라벨 블랙 박스 조건 하에서의 진화적 경계 공격

연구에 따르면 심층 신경망(DNN)은 특별히 설계된 교란을 가진 적대적 예제(AEs)의 오인식을 초래할 수 있는 취약성을 가지고 있습니다. 손실 기울기와 신뢰도 점수가 없는 하드 라벨 블랙 박스(HL-BB) 조건에서 취약성을 탐지하기 위해 다양한 적대적 공격 방법이 제안되었습니다. 그러나 이러한 방법들은 탐색 공간의 국소 영역만을 탐색하기 때문에 지역적 해에 머무릅니다. 따라서 본 연구에서는 목표 DNN 모델이 예측한 클래스 라벨만 이용 가능한 HL-BB 조건 하에서 CMA-ES를 사용하여 AEs를 생성하는 EvolBA라는 적대적 공격 방법을 제안합니다. 수식 기반 감독 학습에서 영감을 받아 제안된 방법은 초기화 과정에서 도메인 독립적 연산자와 탐색 탐사를 강화하는 점프를 도입합니다. 실험 결과, 제안된 방법이 이전 방법들이 어려움을 겪는 이미지에서 더 작은 교란으로 AEs를 결정할 수 있음을 확인했습니다.