言語モデル:gpt:gpt-3

GPT-3

論文(arxiv)	Language Models are Few-Shot Learners
GitHub	https://github.com/openai/gpt-3

GPT-3とは

OpenAIが2020年に開発した言語モデル。Transformerを言語生成タスクで事前学習している。

ソースコード

2021-08-07 | GPT-Code-Clippy (GPT-CC) - GPT-Code-Clippy (GPT-CC) is an open source version of GitHub Copilot, a language model – based on GPT-3, called GPT-Codex – that is fine-tuned on publicly available code from GitHub.

GPT-3 API

2021-12-01 | OpenAI GPT-3 APIの使い方を解説
2021-11-16 | OpenAI GPT-3を活用したレシピ紹介
2021-10-22 | GPT-3 & OpenAI Codexの使用方法。文章からプログラムを自動生成する方法
2021-03-13 | GPT-3でタイトルや要約から記事本文を自動生成するレシピ
2020-06-14 | GPT-3がAPI経由で利用可能に

GPT-NeoX

GPT-NeoX	https://github.com/EleutherAI/gpt-neox	175B parameter GPT-3 replication

2023-07-19 | 大規模言語モデル(LLM)の作り方 GPT-NeoX編 Part 1
2022-10-17 | gpt-neox-japanese-2.7b による日本語テキスト生成を試す
2022-04-15 | EleutherAIが200億パラメータAI言語モデルのGPT-NeoX-20Bをオープンソース化

GPT-J 6B

Genji-JP 6B	https://huggingface.co/NovelAI/genji-jp	finetuned on our Japanese storytelling dataset based on EleutherAI's GPT-J 6B model.

2022-10-22 | NovelAI の Genji-JP 6B による日本語テキスト生成を試す

使ってみた

2023-03-10 | GPTが出した回答の確からしさを見えるようにしてみる
2023-01-14 | Googleスプレッドシートと自然言語処理AI「GPT-3」を組み合わせてデータ作成を効率化
2022-11-30 | GPT3を使ってみた
2022-01-28 | 13億パラメータのGPT日本語学習済みモデルが出たので会話応答を生成してみた
2021-12-03 | GPT-3で遊んでみた
2021-06-24 | GPT-3互換のGPT-J-6Bで日本語推論
2021-06-23 | 超汎化言語モデル GPT-3のライセンスを日本でいち早く取得して使ってみた話
2021-05-05 | からあげDSアゲ太郎 #2　-世界最強の自然言語処理AI「GPT-3」のベータテスターになったのでからあげを題材にサンプルを3つ試してみる-
2021-05-02 | OpenAI API(GPT-3) 入門 (1) - 事始め
2021-04-04 | GPT-3による村上春樹風の文章自動生成
2020-09-30 | GPT-3にチューリングテストを試してみる
2020-07-26 | 超高精度な言語モデル「GPT-3」は本当に「人間そのもの」な会話ができるのか実験した結果は？ - Gigazine

各種解説

2023-03-03 | 詳説：GPT-3を利用して任意の文書を解析する
2022-12-12 | OpenAI開発のテキスト生成AI「GPT-3」がどんな処理を行っているのかを専門家が解説
2022-11-18 | 汎用化AIの方向？　ー　最先端の自然言語生成モデルGPT-3の解説
2021-12-01 | 超高精度の言語AI「GPT-3」は何がスゴい？要約、小説、コーディングなど広がる可能性
2021-11-16 | GPT-3とは｜無限の可能性を秘めた最先端モデルは何がすごいのか
2021-11-09 | 超高精度な文章を生成できるGPT-3は「もはや言語モデルとして唯一の選択肢ではない」との指摘
2021-10-27 | (動画) 高性能言語モデル「GPT-3」（2分で解説）
2021-10-11 | GPT-3による自動文章生成
2021-09-27 | 大規模言語モデルGPT-3は人間の能力に到達、しかしAIは重大な危険性を内包
2021-09-09 | 日本語の文章をAIに54種類書かせてほぼ全滅だったけれど
2021-08-10 | 説得力のあるフィッシング詐欺のメールを、AIが人間よりうまく“書く”時代がやってきた
2021-03-17 | 自然言語処理モデル「GPT-3」の紹介
2021-03-16 | 2021年AIトレンド予想～自然言語処理、GPT-3～
2021-02-25 | 「GPT-3」周辺で調べたことをまとめる（2021年2月）
2020-12-10 | (動画) 最新のAI技術がヤバい！～プログラミングも出来るGPT-3。エンジニアの仕事はなくなる！？～
2020-12-07 | 【論文解説】OpenAI 「GPT-3」を理解する
2020-11-19 | 次なるAIのブレークスルーは言語分野で起きる
2020-11-19 | 用途を広げる自然言語処理AI「GPT-3」の、既に見えた限界と課題
2020-10-10 | (スライド) GPT-3: Language Models are Few-Shot Learners
2020-10-08 | 文章生成AI「GPT-3」がRedditで1週間誰にも気付かれず人間と会話していたことが判明
2020-09-22 | 「人間の皆さん、私は怖くありません」─“人工知能”が英紙に寄稿、読者の反応は…
2020-09-10 | 「私は人間の敵ではない」人工知能が生成した文章が不吉すぎて震えるレベル
2020-09-04 | 人間より上手に記事やプログラムを書ける、話題騒然のAI「GPT-3」に巨大な弱点あり
2020-08-28 | OpenAIの言語モデルGPT-3は人間のように少ない事例で学習、AIを巨大にすると人間になれるか
2020-08-17 | 超高精度な文章生成ツール「GPT-3」は、“人間にしかできないこと”の定義を根本から揺るがした
2020-08-17 | 「あまりに高精度の文章を作る」として危険視されていた「GPT-3」の書いた記事がソーシャルニュースサイトの1位に浮上
2020-08-08 | GPT-3とは - note
2020-08-03 | 人間と見分けが付かないほど高精度な文章を生成するAI「GPT-3」について哲学者らはどう考えているのか？ - Gigazine
2020-07-29 | 自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか？ - Gigazine
2020-07-29 | 革命かパンドラの箱か、新AIツールGPT-3の波紋 (1/5)
2020-07-27 | GPT-3と自然言語処理の未来(ビジネス面の可能性から)
2020-07-25 | 【GPT-3】ツイートを自動で生成する方法が無いかまとめてみた
2020-07-23 | (動画) ビットコイン以来の衝撃 [OpenAI GPT-3]
2020-07-23 | チューリングテストもパスしそうな文章生成AI、GPT-3はプレゼン資料作りもこなす！
2020-07-23 | 未来への一歩を踏み出したオープンAI「GPT-3」の衝撃、熱狂に警鐘も
2020-07-22 | 「GPT-3」は思ってたより「やばい」ものだった。話し言葉でプログラミングまでこなすAI
2020-07-21 | GPT-3の衝撃
2020-07-20 | (動画) GPT 3 Demo and Explanation - An AI revolution from OpenAI
2020-07-01 | OpenAIが文章生成AIのGPT-3を商用化
2020-06-13 | OpenAIがGPT-3を強化したテキスト生成APIをリリース - AINOW
2020-06-12 | OpenAIが超高精度な言語モデル「GPT-3」用いたAIモデルをAPIとして利用可能に、Wikipediaの内容を「質問」で検索するデモムービーも
2020-06-01 | あまりに高精度のテキストを作り出してしまうため「危険すぎる」と問題視された文章生成言語モデルの最新版「GPT-3」が公開