大規模言語モデルによる幾何学および空間関係のテキスト記述表現の効果評価（ショートペーパー）

本研究は、大規模言語モデル（LLM）が幾何学およびそれらの空間関係をどの程度表現できるかを評価することに焦点を当てています。GPT-2やBERTを含むLLMを利用し、幾何学のWell-Known Text（WKT）フォーマットをエンコードし、その埋め込みを分類器や回帰器に入力して、ジオメトリ属性に対するLLM生成埋め込みの有効性を評価します。実験の結果、LLM生成の埋め込みは幾何学タイプを保持し、一部の空間関係（最大73%の精度）を捉えることができる一方、数値値の推定や空間的に関連するオブジェクトの検索には課題が残ることが示されました。本研究は、基盤モデルを用いた各種GeoAIアプリケーションを支援するために、潜在する地理空間データのニュアンスや複雑さを捉え、ドメイン知識を統合する必要性を強調しています。