LLM生成説明の特性と課題

大規模言語モデル（LLM）の自己合理化能力は、タスク特化型データセットを用いた限定的な環境で検討されてきました。しかし、現行のLLMは特定の注釈付きデータのみに依存しているわけではありませんが、それでも頻繁に出力の説明を行います。生成される説明の特性は、事前学習コーパスおよび命令微調整に用いられるターゲットデータの影響を受けます。事前学習コーパスには多数の自然発生的な人間による説明文が含まれているため、LLMは人間の説明の一般的特性を採用していると仮定します。多領域の命令微調整データセットの出力を分析した結果、生成された説明は選択的かつ例示的要素を含みますが、主観的または誤解を招くものは比較的少ないことがわかりました。説明特性の有無に関する理由と結果について議論します。特に、自己合理化システムの目的や利用者グループに応じて、正負の影響について概説します。