クラスベースのn-グラム自然言語モデル

我々は、テキストの過去の単語から次の単語を予測する問題に取り組む。特に、単語のクラスに基づくn-グラムモデルについて議論する。また、単語を他の単語との同時出現頻度に基づいてクラスに割り当てるいくつかの統計的アルゴリズムについても論じる。基礎となる統計の性質に依存して、統語的なグルーピングまたは意味的なグルーピングの風合いを持つクラスを抽出できることがわかった。1 はじめに多くの自然言語処理タスクにおいて、ノイズのあるチャネルを通過した後に英単語列を復元する問題に直面する。この問題をうまく解決するためには、任意の英単語列がノイズチャネルに入力される確率を推定できなければならない。本稿ではそのような推定を行う方法について論じる。また、単語を統計に基づいてクラスに割り当てる関連する話題についても議論する...