医療・生命科学におけるAI幻想の理解と対処

目的：本稿は、医療および生命科学において、大規模言語モデル（LLM）が一見一貫しているが事実に反し、無関係または誤解を招く出力を生成する「AI幻想」という現象を調査する。医療・生命科学における情報の正確性と信頼性の重要性を鑑み、こうした誤りの理解と軽減は極めて重要である。幻想を入力矛盾型、文脈矛盾型、事実矛盾型の三種類に分類し、現実の事例を通じてその影響を検証する。方法論：Fact Score、Med-HALT、および敵対的テストを組み合わせてAI出力の忠実性を評価する。我々は、Retrieval-Augmented Generation（RAG）、Chain-of-Verification（CoVe）、Human-in-the-Loop（HITL）システムなど、モデルの信頼性を高めるための複数の緩和戦略を提案する。成果：人工知能が社会の様々な分野に浸透する中で、AI生成テキストの幻想問題は、特に正確さと信頼性が極めて重要な文脈で重大な課題をもたらしている。本稿では、AIシステムで一般的に観察される幻想のタイプである入力矛盾型、文脈矛盾型、事実矛盾型を明確に示し、医療や法的手続きなど重要領域での信頼および効果を損なう可能性を指摘した。理論、政策、実践への独自の貢献：本研究の独自性は、AI幻想の種類と影響の包括的分析および理論的理解、実践的応用、政策形成を前進させる堅牢な制御の開発にある。これらの努力は、医療・生命科学分野におけるより安全で効果的なAI統合の促進を目指す。