연구에서 AI 에이전트 사용의 이점과 위험

초록 과학자들은 출판된 문헌 검토, 가설 수립 및 가상 테스트, 복잡한 현상 모델링, 실험 수행 등 작업에 AI 에이전트를 사용하기 시작했습니다. AI 에이전트는 과학적 탐구의 생산성과 효율성을 높일 가능성이 크지만, 잘못되거나 부정확하거나 편향된 AI 작업물 또는 산출물을 기반으로 한 부적절한 정책 결정, 과학 연구의 책임 공백, 특히 초급 연구 직종의 일자리 감소, 연구자의 기술 저하, AI 에이전트의 비윤리적 연구 참여, 인간이 검증할 수 없거나 이해할 수 없는 AI 생성 지식, AI에 도전하거나 비판하며 내부고발에 참여하는 데 필요한 통찰력과 용기의 상실 등 연구 및 사회에 위험을 초래할 수 있습니다. 본 논문에서는 이러한 위험을 논의하며, 책임 있는 관리를 위해 어떤 연구 과업을 자동화해야 하고 하지 말아야 하는지에 대한 숙고가 시급히 필요하다고 주장합니다. 연구에서 AI 에이전트를 책임감 있게 사용하려면, 기관은 연구자들에게 AI 및 알고리즘 이해, 편향 식별, 산출물 검증 교육을 제공하고, AI 에이전트의 위험과 한계에 대한 이해를 장려해야 합니다. 또한 연구팀은 AI 검증 전문가 또는 AI 보증자와 같은 AI 전담 역할을 지정해 AI 지원 기여의 무결성을 감독하고 책임지는 것이 유익할 수 있습니다.