このページの2つのバージョン間の差分を表示します。
両方とも前のリビジョン前のリビジョン次のリビジョン | 前のリビジョン | ||
言語モデル:transformer [2022/06/18 17:01] – admin | 言語モデル:transformer [2023/06/26 17:57] (現在) – admin | ||
---|---|---|---|
行 4: | 行 4: | ||
* [[: | * [[: | ||
* 並列化がかなりしやすく訓練時間が圧倒的に削減でき、他のタスクにも汎用性が高い。 | * 並列化がかなりしやすく訓練時間が圧倒的に削減でき、他のタスクにも汎用性が高い。 | ||
- | * [[BERT]]、[[: | + | * [[BERT]]、[[: |
* encoder + decoder で構成されている。 | * encoder + decoder で構成されている。 | ||
- | * このうちの encoder部分だけ取り出したのが[[BERT]]、decoder部分だけ取り出したのが[[GPT-2]]などのGPT。 | + | * このうちの encoder部分だけ取り出したのが[[BERT]]、decoder部分だけ取り出したのが[[.gpt:gpt-2]]などのGPT。 |
=== Huggingface Transformersとは === | === Huggingface Transformersとは === | ||
行 16: | 行 16: | ||
=== チュートリアル === | === チュートリアル === | ||
* 2021-10-30 | [[https:// | * 2021-10-30 | [[https:// | ||
+ | * 2020-09-04 | [[https:// | ||
- | ==== 記事 ==== | + | === 高速化 === |
+ | * 2022-10-14 | [[https:// | ||
+ | |||
+ | === やってみた === | ||
+ | * 2023-03-22 | [[https:// | ||
+ | * 2023-02-16 | [[https:// | ||
+ | * 2022-10-12 | [[https:// | ||
+ | * 2022-09-08 | [[https:// | ||
+ | |||
+ | === 記事 === | ||
+ | * 2023-06-25 | (動画) [[https:// | ||
+ | * 2023-04-07 | [[https:// | ||
+ | * 2023-03-27 | [[https:// | ||
+ | * 2023-02-21 | [[https:// | ||
+ | * 2023-02-14 | [[https:// | ||
+ | * 2023-01-24 | [[https:// | ||
+ | * 2023-01-23 | [[https:// | ||
+ | * 2022-12-26 | [[https:// | ||
+ | * 2022-12-19 | [[https:// | ||
+ | * 2022-09-26 | [[https:// | ||
+ | * 2022-09-11 | [[https:// | ||
+ | * 2022-07-19 | [[http:// | ||
+ | * 2022-06-08 | (スライド) [[https:// | ||
* 2022-06-07 | (スライド) [[https:// | * 2022-06-07 | (スライド) [[https:// | ||
* 2022-05-06 | (動画) [[https:// | * 2022-05-06 | (動画) [[https:// | ||
行 29: | 行 52: | ||
* 2021-06-18 | [[https:// | * 2021-06-18 | [[https:// | ||
* 2021-06-03 | [[https:// | * 2021-06-03 | [[https:// | ||
+ | * 2021-05-26 | [[https:// | ||
* 2021-04-15 | [[https:// | * 2021-04-15 | [[https:// | ||
* 2021-04-07 | [[https:// | * 2021-04-07 | [[https:// |