===== GPT-3 ===== ^論文(arxiv)|[[https://arxiv.org/abs/2005.14165|Language Models are Few-Shot Learners]]| ^GitHub|[[https://github.com/openai/gpt-3]]| === GPT-3とは === [[企業:openai]]が2020年に開発した[[:言語モデル]]。[[言語モデル:transformer]]を言語生成タスクで[[:事前学習]]している。 === ソースコード === * 2021-08-07 | [[https://github.com/CodedotAl/gpt-code-clippy|GPT-Code-Clippy (GPT-CC)]] - GPT-Code-Clippy (GPT-CC) is an open source version of GitHub Copilot, a language model -- based on GPT-3, called GPT-Codex -- that is fine-tuned on publicly available code from GitHub. === GPT-3 API === * 2021-12-01 | [[https://data-analytics.fun/2021/12/01/gpt-3-api/|OpenAI GPT-3 APIの使い方を解説]] * 2021-11-16 | [[https://qiita.com/Axross_SBiv/items/ded1553e2d999b937d98|OpenAI GPT-3を活用したレシピ紹介]] * 2021-10-22 | [[https://qiita.com/sugulu_Ogawa_ISID/items/ffebe8e1692b6abfd4fe|GPT-3 & OpenAI Codexの使用方法。文章からプログラムを自動生成する方法]] * 2021-03-13 | [[https://axross-recipe.com/recipes/135|GPT-3でタイトルや要約から記事本文を自動生成するレシピ]] * 2020-06-14 | [[https://webbigdata.jp/ai/post-6070|GPT-3がAPI経由で利用可能に]] === GPT-NeoX === ^GPT-NeoX|https://github.com/EleutherAI/gpt-neox|175B parameter GPT-3 replication| * 2023-07-19 | [[https://zenn.dev/turing_motors/articles/dff1466194f4ac|大規模言語モデル(LLM)の作り方 GPT-NeoX編 Part 1]] * 2022-10-17 | [[https://note.com/npaka/n/n4651ee6d3c51|gpt-neox-japanese-2.7b による日本語テキスト生成を試す]] * 2022-04-15 | [[https://www.infoq.com/jp/news/2022/04/eleutherai-gpt-neox/|EleutherAIが200億パラメータAI言語モデルのGPT-NeoX-20Bをオープンソース化]] === GPT-J 6B === ^Genji-JP 6B|https://huggingface.co/NovelAI/genji-jp|finetuned on our Japanese storytelling dataset based on EleutherAI's GPT-J 6B model.| * 2022-10-22 | [[https://note.com/npaka/n/n5504d25abf07|NovelAI の Genji-JP 6B による日本語テキスト生成を試す]] === 使ってみた === * 2023-03-10 | [[https://acro-engineer.hatenablog.com/entry/2023/03/10/100000|GPTが出した回答の確からしさを見えるようにしてみる]] * 2023-01-14 | [[https://liquidjumper.com/google-sheets/googlespreadsheet_connect_to_gpt_3|Googleスプレッドシートと自然言語処理AI「GPT-3」を組み合わせてデータ作成を効率化]] * 2022-11-30 | [[https://qiita.com/Yu_unI1/items/112deff0583884cd2d85|GPT3を使ってみた]] * 2022-01-28 | [[https://qiita.com/MamoruItoi/items/a18abfedb79a57aeb91c|13億パラメータのGPT日本語学習済みモデルが出たので会話応答を生成してみた]] * 2021-12-03 | [[https://qiita.com/nyax/items/553bf5610c2d2202de22|GPT-3で遊んでみた]] * 2021-06-24 | [[https://zenn.dev/yu89mo/articles/899b0ad9ac6fc5|GPT-3互換のGPT-J-6Bで日本語推論]] * 2021-06-23 | [[https://dev.babel.jp/entry/2021/06/23/180135|超汎化言語モデル GPT-3のライセンスを日本でいち早く取得して使ってみた話]] * 2021-05-05 | [[https://qiita.com/fried_chicken_380/items/f65baa9a5449de9036e8|からあげDSアゲ太郎 #2　-世界最強の自然言語処理AI「GPT-3」のベータテスターになったのでからあげを題材にサンプルを3つ試してみる-]] * 2021-05-02 | [[https://note.com/npaka/n/nf8a38f49607e|OpenAI API(GPT-3) 入門 (1) - 事始め]] * 2021-04-04 | [[https://qiita.com/artisanbaggio/items/0a15f3e2b20b0708c4ab|GPT-3による村上春樹風の文章自動生成]] * 2020-09-30 | [[https://ainow.ai/2020/09/30/227763/|GPT-3にチューリングテストを試してみる]] * 2020-07-26 | [[https://gigazine.net/news/20200726-giving-gpt-3-turing-test/|超高精度な言語モデル「GPT-3」は本当に「人間そのもの」な会話ができるのか実験した結果は？]] - Gigazine === 各種解説 === * 2023-03-03 | [[https://qiita.com/Dataiku/items/84f54859857cc1b3d38c|詳説：GPT-3を利用して任意の文書を解析する]] * 2022-12-12 | [[https://gigazine.net/news/20221212-gpt-3-architecture/|OpenAI開発のテキスト生成AI「GPT-3」がどんな処理を行っているのかを専門家が解説]] * 2022-11-18 | [[https://qiita.com/DayuanJiang/items/648754fd8fbd030c173b|汎用化AIの方向？　ー　最先端の自然言語生成モデルGPT-3の解説]] * 2021-12-01 | [[https://news.yahoo.co.jp/articles/4e20e897f5ac1f59f181cd9a51e6ec544d52ff2d|超高精度の言語AI「GPT-3」は何がスゴい？要約、小説、コーディングなど広がる可能性]] * 2021-11-16 | [[https://ainow.ai/2021/11/16/260051/|GPT-3とは｜無限の可能性を秘めた最先端モデルは何がすごいのか]] * 2021-11-09 | [[https://gigazine.net/news/20211109-gpt-3-esque-models-developed/|超高精度な文章を生成できるGPT-3は「もはや言語モデルとして唯一の選択肢ではない」との指摘]] * 2021-10-27 | (動画) [[https://www.youtube.com/watch?v=H7-2mktmD98|高性能言語モデル「GPT-3」（2分で解説）]] * 2021-10-11 | [[https://ririxashiryu.com/2021/10/11/gpt-3%E3%81%AB%E3%82%88%E3%82%8B%E8%87%AA%E5%8B%95%E6%96%87%E7%AB%A0%E7%94%9F%E6%88%90/|GPT-3による自動文章生成]] * 2021-09-27 | [[https://ameblo.jp/itinvc/entry-12700480952.html|大規模言語モデルGPT-3は人間の能力に到達、しかしAIは重大な危険性を内包]] * 2021-09-09 | [[https://www.kotobato.jp/articles/technology/ai-text-generator-rytr-tortally-failed-but.html|日本語の文章をAIに54種類書かせてほぼ全滅だったけれど]] * 2021-08-10 | [[https://wired.jp/2021/08/10/ai-phishing-emails/|説得力のあるフィッシング詐欺のメールを、AIが人間よりうまく“書く”時代がやってきた]] * 2021-03-17 | [[https://www.intellilink.co.jp/column/ai/2021/031700.aspx|自然言語処理モデル「GPT-3」の紹介]] * 2021-03-16 | [[https://ai-media-bsg.com/gpt-3/|2021年AIトレンド予想～自然言語処理、GPT-3～]] * 2021-02-25 | [[https://upura.hatenablog.com/entry/2021/02/25/203000|「GPT-3」周辺で調べたことをまとめる（2021年2月）]] * 2020-12-10 | (動画) [[https://www.youtube.com/watch?v=jTYGnX_IDk4|最新のAI技術がヤバい！～プログラミングも出来るGPT-3。エンジニアの仕事はなくなる！？～]] * 2020-12-07 | [[https://data-analytics.fun/2020/12/07/openai-gpt3/|【論文解説】OpenAI 「GPT-3」を理解する]] * 2020-11-19 | [[https://www.dhbr.net/articles/-/7225|次なるAIのブレークスルーは言語分野で起きる]] * 2020-11-19 | [[https://techtarget.itmedia.co.jp/tt/news/2011/19/news02.html|用途を広げる自然言語処理AI「GPT-3」の、既に見えた限界と課題]] * 2020-10-10 | (スライド) [[https://speakerdeck.com/tomohideshibata/gpt-3|GPT-3: Language Models are Few-Shot Learners]] * 2020-10-08 | [[https://gigazine.net/news/20201008-gpt-3-reddit/|文章生成AI「GPT-3」がRedditで1週間誰にも気付かれず人間と会話していたことが判明]] * 2020-09-22 | [[https://courrier.jp/news/archives/213002/|「人間の皆さん、私は怖くありません」─“人工知能”が英紙に寄稿、読者の反応は…]] * 2020-09-10 | [[http://karapaia.com/archives/52294500.html|「私は人間の敵ではない」人工知能が生成した文章が不吉すぎて震えるレベル]] * 2020-09-04 | [[https://xtech.nikkei.com/atcl/nxt/column/18/00692/090300037/|人間より上手に記事やプログラムを書ける、話題騒然のAI「GPT-3」に巨大な弱点あり]] * 2020-08-28 | [[https://etechnologyreview.com/2020/08/28/openai%e3%81%ae%e8%a8%80%e8%aa%9e%e3%83%a2%e3%83%87%e3%83%abgpt-3%e3%81%af%e4%ba%ba%e9%96%93%e3%81%ae%e3%82%88%e3%81%86%e3%81%ab%e5%b0%91%e3%81%aa%e3%81%84%e4%ba%8b%e4%be%8b%e3%81%a7%e5%ad%a6%e7%bf%92/|OpenAIの言語モデルGPT-3は人間のように少ない事例で学習、AIを巨大にすると人間になれるか]] * 2020-08-17 | [[https://wired.jp/2020/08/17/ai-text-generator-gpt-3-learning-language-fitfully/|超高精度な文章生成ツール「GPT-3」は、“人間にしかできないこと”の定義を根本から揺るがした]] * 2020-08-17 | [[https://gigazine.net/news/20200817-gpt-3-blog-got-26-thousand-visitors/|「あまりに高精度の文章を作る」として危険視されていた「GPT-3」の書いた記事がソーシャルニュースサイトの1位に浮上]] * 2020-08-08 | [[https://note.com/kazu_t/n/n974a7faee9c0|GPT-3とは]] - note * 2020-08-03 | [[https://gigazine.net/news/20200803-philosopher-gpt-3/|人間と見分けが付かないほど高精度な文章を生成するAI「GPT-3」について哲学者らはどう考えているのか？]] - Gigazine * 2020-07-29 | [[https://gigazine.net/news/20200729-how-gpt-3-work/|自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか？]] - Gigazine * 2020-07-29 | [[https://www.itmedia.co.jp/business/articles/2007/29/news025.html|革命かパンドラの箱か、新AIツールGPT-3の波紋 (1/5)]] * 2020-07-27 | [[https://matsumoyu.hatenablog.jp/entry/2020/07/27/000544|GPT-3と自然言語処理の未来(ビジネス面の可能性から)]] * 2020-07-25 | [[https://www.grisoluto.com/entry/tweet-generate-gpt3|【GPT-3】ツイートを自動で生成する方法が無いかまとめてみた]] * 2020-07-23 | (動画) [[https://www.youtube.com/watch?v=MDQL2NfOYdU|ビットコイン以来の衝撃 [OpenAI GPT-3]]] * 2020-07-23 | [[https://techable.jp/archives/132357|チューリングテストもパスしそうな文章生成AI、GPT-3はプレゼン資料作りもこなす！]] * 2020-07-23 | [[https://www.technologyreview.jp/s/213942/openais-new-language-generator-gpt-3-is-shockingly-good-and-completely-mindless/|未来への一歩を踏み出したオープンAI「GPT-3」の衝撃、熱狂に警鐘も]] * 2020-07-22 | [[https://cubeglb.com/media/2020/07/22/gpt-3-gamechanger/|「GPT-3」は思ってたより「やばい」ものだった。話し言葉でプログラミングまでこなすAI]] * 2020-07-21 | [[http://deeplearning.hatenablog.com/entry/gpt3|GPT-3の衝撃]] * 2020-07-20 | (動画) [[https://www.youtube.com/watch?v=8psgEDhT1MM|GPT 3 Demo and Explanation - An AI revolution from OpenAI]] * 2020-07-01 | [[https://www.axion.zone/openai-releases-gpt3/|OpenAIが文章生成AIのGPT-3を商用化]] * 2020-06-13 | [[https://ainow.ai/2020/06/13/224050/|OpenAIがGPT-3を強化したテキスト生成APIをリリース]] - AINOW * 2020-06-12 | [[https://gigazine.net/news/20200612-openai-release-api/|OpenAIが超高精度な言語モデル「GPT-3」用いたAIモデルをAPIとして利用可能に、Wikipediaの内容を「質問」で検索するデモムービーも]] * 2020-06-01 | [[https://gigazine.net/news/20200601-gpt-3/|あまりに高精度のテキストを作り出してしまうため「危険すぎる」と問題視された文章生成言語モデルの最新版「GPT-3」が公開]]