通信時代における人間とAIの相互作用：オートファジーが大規模モデルのローカルオプティマの達成を助ける

大規模な言語モデルとマルチモーダルモデルの社会情報処理における重要性の高まりは、社会的安全性と倫理に関する議論を引き起こしています。しかし、これらの限界を人間と人工知能システムの相互作用という包括的な視点から分析した研究はほとんどありません。本研究では、人間と大規模モデルがコミュニケーションにおいて重要なリンクとして使用される際の偏見や好みを調査します。この目的を達成するために、マルチモーダルデータセットと、情報の生成者および普及者としての生成モデルを評価するための3つの異なる実験を設計しました。我々の主な発見は、合成された情報が人間生成の情報よりもモデルのトレーニングデータセットおよびメッセージに組み込まれる可能性が高いことを示しています。さらに、大規模モデルは情報の伝達者として機能するとき、特定のコンテンツを選択的に修正したり失ったりする傾向があります。概念的には、人間生成の情報の抑圧を説明するために、AIシステムとの情報交換におけるオートファジー（「自己消費」）ループの2つの現実的なモデルを提示します。我々は、上記の傾向によって引き起こされる社会情報の多様性の低下とモデル性能のボトルネックを、大規模モデルのローカルオプティマに一般化します。