지역 AI 거버넌스: 분산형 AI가 제기하는 모델 안전성과 정책 과제 대응

인공지능(AI) 거버넌스를 위한 정책 및 기술적 안전장치는 암묵적으로 AI 시스템이 Google, OpenAI와 같은 대기업이 운영하는 대규모 전력 소모 데이터 센터를 통해 계속 작동할 것이라고 가정해왔습니다. 그러나 현재의 클라우드 기반 AI 패러다임은 빠르게 발전하는 소프트웨어 및 하드웨어 기술에 의해 도전받고 있습니다. 오픈 소스 AI 모델은 이제 개인용 컴퓨터 및 장치에서 실행되어 규제 기관의 눈에 보이지 않고 안전 제약이 제거된 상태입니다. 지역 규모 AI 모델의 성능은 최첨단 독점 모델에 비해 단지 몇 달 정도 뒤처져 있습니다. 지역 AI의 넓은 채용은 프라이버시와 자율성 보장과 같은 중요한 이점을 약속합니다. 그러나 지역 AI 도입은 현재 AI 안전 접근 방식을 약화시킬 위험도 내포합니다. 본 논문에서는 사용자가 코드를 제어할 때 기술적 안전장치가 실패하는 방식과 배포가 보이지 않게 됨에 따라 분산 시스템을 규제 프레임워크가 다룰 수 없는 문제를 검토합니다. 또한, 본 논문은 책임 있는 기술 개발을 유도하고 커뮤니티 주도 정책에 정보를 제공하기 위해 지역 AI의 민주화 잠재력을 활용하면서 위험을 관리하는 방법을 제안합니다: (1) 콘텐츠 출처 추적, 구성 가능한 안전 컴퓨팅 환경, 분산된 오픈 소스 감독을 포함한 지역 AI에 적합한 기술적 안전장치 적용; (2) 다원 중심 거버넌스 메커니즘, 커뮤니티 참여 통합, 책임에 대한 맞춤형 안전 지대(세이프 하버)를 포함한 분산 생태계에 맞는 AI 정책 수립.