Switch Transformer
GPTSAN
https://github.com/tanreinama/GPTSAN
なんにでも使える汎用日本語言語モデルを目指して作成したSwitch Transformerモデルです。
2021-02-22 |
Google BrainのSwitch Transformer言語モデル、16兆個のパラメータに到達