===== LUKE =====
LUKE (Language Understanding with Knowledge-based Embeddings) is a new pretrained contextualized representation of words and entities based on transformer.

^LUKE|https://github.com/studio-ousia/luke|

  * 2023-03-02 | [[https://qiita.com/Mizuiro__sakura/items/d2bacee06d637dd8f70a|言語モデルLUKEをJGLUE/MARC-jaでファインチューニングして公開してみた]]
  * 2023-02-18 | [[https://qiita.com/Mizuiro__sakura/items/74272fcc6c63daaadc84|CNNと自然言語モデルLUKEの組み合わせによる正答率の向上について]]
  * 2023-01-18 | [[https://qiita.com/Mizuiro__sakura/items/21c93fac32994852ae70|最強の言語モデルLUKEを固有表現抽出（NER）用にファインチューニングして公開してみた]]
  * 2023-01-16 | [[https://zenn.dev/mizuiro__sakura/articles/a8db06a1fc76bd|最強の言語モデル(LUKE)をQAタスク用にファインチューニングして公開してみた]]
  * 2022-11-08 | [[https://qiita.com/Mizuiro__sakura/items/9ccbd655501e78df5cc6|世界最高精度を達成した言語モデルLUKEの論文を徹底解説（試しに使えるソースコードも記載）]]
  * 2022-10-31 | [[https://qiita.com/Mizuiro__sakura/items/7bbc33d269afca1267f9|SOTAを獲得した言語モデルLukeを触ってみた(python, transformers, 固有表現認識)]]