Key points are not available for this paper at this time.
대규모 언어 모델(LLM) 기반 대화형 검색 시스템은 이미 수억 명이 사용하고 있으며, 기존 검색보다 많은 이점을 가져다줄 것으로 여겨집니다. 그러나 수십 년간의 연구와 공적 담론은 검색 시스템이 선택적 노출을 증가시키고 에코 챔버를 형성하여 다양한 의견 노출을 제한하고 의견 양극화를 초래하는 위험성을 조사했지만, LLM 기반 대화형 검색의 그러한 위험성에 대해서는 거의 알려져 있지 않습니다. 본 연구에서는 다음을 조사하기 위해 두 가지 실험을 수행했습니다: 1) LLM 기반 대화형 검색이 기존 검색과 비교하여 선택적 노출을 얼마나, 어떻게 증가시키는지; 2) 사용자의 견해를 강화하거나 도전하는 의견 편향을 가진 LLM이 그 효과를 얼마나, 어떻게 변화시키는지. 전반적으로, 참가자들은 LLM 기반 대화형 검색에서 더 편향된 정보 탐색을 했으며, 자신의 견해를 강화하는 의견 편향 LLM은 이러한 편향을 더욱 악화시켰습니다. 이 결과는 LLM과 대화형 검색 시스템 개발 및 이 기술을 규제하는 정책에 중요한 함의를 제시합니다.
Building similarity graph...
Analyzing shared references across papers
Loading...
Nikhil N. Sharma
Q. Vera Liao
Ziang Xiao
Johns Hopkins University
Microsoft (Canada)
Building similarity graph...
Analyzing shared references across papers
Loading...
Sharma 등(토요일,)이 이 문제를 연구했습니다.
www.synapsesocial.com/papers/68e6a888b6db64358762b5db — DOI: https://doi.org/10.1145/3613904.3642459
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: