AI 신뢰와 투명성: 데이터, 윤리 및 준수에 관한 업계 목소리

EU 인공지능(AI) 법안은 기업들이 AI 시스템을 인간 중심적이고 신뢰할 수 있는 방식으로 개발했는지 평가하도록 지시합니다. 산업계에서 AI의 급속한 도입은 윤리적 평가 프레임워크를 앞서면서 책임성, 거버넌스, 데이터 품질, 인간 감독, 기술적 견고성, 환경 및 사회적 영향 등의 중대한 과제를 야기했습니다. 15명의 업계 전문가와의 구조화된 인터뷰와 주요 인터뷰 결과 각각에 대한 문헌 검토를 통해, 본 논문은 신뢰할 수 있는 AI(TAI)의 개발과 평가에서의 실질적 접근법과 도전을 탐구합니다. 참가자들의 연구 결과와 이후의 문헌 검토는 투명성 부족, 불명확한 규제 요건, AI의 성급한 도입으로 인해 위험 관리, 준수 및 책임성에 복잡한 문제가 있음을 드러냅니다. 참가자들은 모델 부정확성, 보안 취약점, 적절한 안전장치 없는 AI 과도 의존으로 인해 기술적 견고성과 안전성이 훼손될 수 있다는 우려를 표현했습니다. 또한, 높은 에너지 소비, 정치적 급진화, 문화 상실, 사회적 불평등 강화 등 AI의 부정적 환경 및 사회적 영향 또한 우려되는 영역입니다. AI 시스템 내 위험 완화와 TAI 평가뿐 아니라, 해당 기술을 채택하는 국가들의 사회적·문화적 가치와 조화를 이루는 AI 환경 조성을 위한 폭넓은 접근이 절실합니다.