このページの2つのバージョン間の差分を表示します。
両方とも前のリビジョン前のリビジョン次のリビジョン | 前のリビジョン | ||
言語モデル:bert [2022/04/29 14:24] – ↷ 移動操作に合わせてリンクを書き換えました。 admin | 言語モデル:bert [2023/09/11 16:18] (現在) – admin | ||
---|---|---|---|
行 7: | 行 7: | ||
=== BERTとは === | === BERTとは === | ||
* Bidirectional Encoder Representations from Transformers | * Bidirectional Encoder Representations from Transformers | ||
- | * 2018年10月に[[企業: | + | * 2018年10月に[[企業: |
- | * [[言語モデル: | + | * [[transformer]]を用いて[[ファインチューニング]]に使えるパラメータを事前学習する。 |
* 2020年7月の現在では5000近くの論文で引用されています。 | * 2020年7月の現在では5000近くの論文で引用されています。 | ||
- | * 文章読解のベンチマーク[[: | + | * 文章読解のベンチマーク[[質問応答: |
+ | * 2023-04-19 | [[https:// | ||
=== 日本語モデル === | === 日本語モデル === | ||
* 2021-08-25 | [[https:// | * 2021-08-25 | [[https:// | ||
+ | * 2021-04-02 | [[https:// | ||
* 2021-04-01 | [[https:// | * 2021-04-01 | [[https:// | ||
* 2020-12-18 | [[https:// | * 2020-12-18 | [[https:// | ||
行 22: | 行 23: | ||
* [[https:// | * [[https:// | ||
* [[https:// | * [[https:// | ||
+ | |||
+ | === 高速化 === | ||
+ | * 2022-08-16 | [[https:// | ||
+ | |||
+ | === 作る === | ||
+ | * 2021-12-27 | [[https:// | ||
=== やってみた === | === やってみた === | ||
+ | * 2022-08-14 | [[https:// | ||
+ | * 2022-07-06 | [[https:// | ||
* 2021-11-23 | [[https:// | * 2021-11-23 | [[https:// | ||
* 2021-09-17 | [[https:// | * 2021-09-17 | [[https:// | ||
行 36: | 行 45: | ||
=== 記事 === | === 記事 === | ||
+ | * 2023-09-11 | [[https:// | ||
+ | * 2023-06-11 | (動画) [[https:// | ||
+ | * 2022-09-14 | [[https:// | ||
+ | * 2022-08-24 | [[https:// | ||
+ | * 2022-08-19 | [[https:// | ||
* 2022-03-09 | [[https:// | * 2022-03-09 | [[https:// | ||
* 2022-01-13 | [[https:// | * 2022-01-13 | [[https:// | ||
行 49: | 行 63: | ||
* 2020-11-05 | [[https:// | * 2020-11-05 | [[https:// | ||
* 2020-11-02 | (動画) [[https:// | * 2020-11-02 | (動画) [[https:// | ||
+ | * 2020-10-03 | [[https:// | ||
* 2020-09-30 | [[https:// | * 2020-09-30 | [[https:// | ||
* 2020-09-25 | [[https:// | * 2020-09-25 | [[https:// | ||
行 63: | 行 78: | ||
* 2020-05-16 | [[https:// | * 2020-05-16 | [[https:// | ||
* 2020-04-17 | [[https:// | * 2020-04-17 | [[https:// | ||
- | * 2020-04-13 | [[https:// | + | * 2020-04-13 | [[https:// |
* 2019-12-15 | [[https:// | * 2019-12-15 | [[https:// | ||
* 2019-09-10 | [[https:// | * 2019-09-10 | [[https:// |