===== Switch Transformer =====

^GPTSAN|https://github.com/tanreinama/GPTSAN|なんにでも使える汎用日本語言語モデルを目指して作成したSwitch Transformerモデルです。|

  * 2021-02-22 | [[https://www.axion.zone/switch-transformers/|Google BrainのSwitch Transformer言語モデル、16兆個のパラメータに到達]]