위협받는 AI 에이전트: 주요 보안 과제 및 향후 경로에 대한 조사

인공지능(AI) 에이전트는 미리 정의된 목표와 데이터 입력을 기반으로 자율적으로 작업을 수행하거나 결정을 내리는 소프트웨어 엔티티입니다. 사용자 입력 인식, 작업 추론 및 계획, 실행 행동이 가능한 AI 에이전트는 알고리즘 개발과 작업 성능 면에서 눈부신 발전을 이루었으나, 이들이 제기하는 보안 문제는 아직 충분히 탐구되지 않고 해결되지 않은 상태입니다. 본 조사는 AI 에이전트가 직면한 신흥 보안 위협을 다루며, 이를 다단계 사용자 입력의 예측 불가능성, 내부 실행 복잡성, 운영 환경의 가변성, 신뢰할 수 없는 외부 엔터티와의 상호작용 등 네 가지 핵심 지식 격차로 분류합니다. 이러한 위협을 체계적으로 검토함으로써, 본 논문은 AI 에이전트 보호에 있어서의 진전과 기존 한계를 강조합니다. 제공된 통찰은 AI 에이전트 관련 보안 위협 해결을 위한 추가 연구를 촉진하여 더욱 견고하고 안전한 AI 에이전트 응용 개발에 기여하고자 합니다.