===== 略語 ===== 自然言語処理関連で見かける略語(ここでは英語の頭字語)をまとめました。 * MLM (masked language model): "I ( ) a piano." のように、文中のある単語を考える課題 - [[言語モデル:]], [[言語モデル:BERT]] * NSP (next sentence prediction): ある2文が連続して出現するかどうかを考える課題 - [[言語モデル:BERT]]