言語モデル:gpt:gpt-2

GPT-2

GPT-2 については、下記記事が一番分かりやすいと思う。

2021-09-28 | 図解 GPT-2

モデル

gpt2-xl-japanese	https://huggingface.co/nlp-waseda/gpt2-xl-japanese	This is Japanese GPT2 with approximately　1.5B parameters pretrained on Japanese Wikipedia and CC-100 The model architecture of the model are based on Radford+ 2019.

やってみた

2023-02-16 | PyTorch 2.0 Nightly版でGPT日本語文章生成してみた
2023-01-30 | GPT in 60 Lines of NumPy
2023-01-22 | 【自然言語処理】日本語GPT-2モデルをファインチューニングして文章生成をやってみる
2022-12-15 | [自然言語処理][GPT2]GPT2で日本語文章生成
2022-12-13 | Livebook で Bumblebee から GPT2 を使って文章の続きを生成する
2022-09-09 | Rubyで文章生成AI「GPT-2」を実行して遊んでみた
2022-07-08 | 自然言語処理初心者が「GPT2-japanese」で遊んでみた
2022-04-22 | 【GPT-2, Twitter API】平沢進氏のツイートを学習して文章生成してみた
2022-02-23 | 13億パラメータ日本語GPT-2を使ってみる
2022-01-30 | 日本語GPT-2を強化学習(Policy Gradient)でfine-tuningする
2021-10-09 | study_gpt2-japanese_V2 - ご自分の作品の text を読み込ませることで創作作家 AI を作り、文章生成を試すことができます
2021-09-20 | 日本語GPT-2を使って「小説家になろう」に掲載されていそうなタイトルを生成してみた
2021-08-25 | GPT-2をファインチューニングしてニュース記事のタイトルを条件付きで生成してみた。
2021-08-23 | 【Python】GPT-2で日本語文章を自動で生成する

記事

2023-02-27 | 【GPT徹底解説】#2 教師ありデータはもう必要ない!GPT-2登場 ~ChatGPT凄さの根源~
2021-08-27 | (動画) 【深層学習】GPT-2 - 大規模言語モデルの可能性を見せ、社会もざわつかせたモデルの仕組み【ディープラーニングの世界vol.33】#113 #VRアカデミア #DeepLearning
2021-07-29 | 言語モデルと綴る、実在しない二◯二一年七月日記
2021-05-16 | (動画) りんな GPT-2 の fine tuningをGoogle Colabの無料枠で試す方法
2021-02-03 | GPT-2におけるテキスト生成
2020-12-11 | 日本語学習済みのGPT-2 pretrained modelを使って、入力文に続いて、どんな文章が生成されるのかを眺めてみた
2020-11-10 | gpt2-japanese の mediumモデルによる日本語テキスト生成
2020-08-05 | ロボットの書いた演劇が2021年1月に初演！ - techable
- GPT-2にシナリオを書かせるそうだ。日本の人工知能創作小説のときもそうだったが、人間がかなり手を加えないと難しい気がする。少なくとも「面白い」と感じる台本をGPT-2に書かせるのは無理なのでは。
2019-11-11 | 悪用されたらヤバイ！専門家が危険視する文章生成AI(人工知能)の完全版がリリースされる
2019-11-06 | 「危険すぎる」と話題の文章生成AI「GPT-2」の最新版がリリース、実際に使えるデモサイトも登場
2019-08-23 | 危険すぎると話題の文章生成モデル「GPT-2」で会社紹介文を生成してみました
2019-08-22 | 文章を自動生成する GPT-2 の 774M モデルを使ってみる