マガジンのカバー画像

自然言語処理入門

773
本
自然言語処理関係のノートをまとめました。
運営しているクリエイター
npaka

Google Colab で RWKV-4-World を試す - RWKVパッケージ版

「Google Colab」で「RWKV-4-World」を試したので、まとめました。 前回1. RWKV-4-World「RWK…

npaka
npaka
11か月前
17

Google Colab で ORCA Mini 13B を試す

「Google Colab」で「ORCA Mini 13B」を試したので、まとめました。 1. ORCA Mini「ORCA Mini…

npaka
npaka
1年前
17

Google Colab で MPT-30B を試す

「Google Colab」で「MPT-30B」を試したので、まとめました。 前回1. MPT-30B「MPT-30B」は、…

npaka
npaka
1年前
17

text-generation-webui の LoRAファインチューニングのパラメータ調整ガイド

以下の記事で紹介されている、LoRAファインチューニングのパラメータ調整ガイドがわかりやすか…

npaka
npaka
1年前
41

text-generation-webui で RinnaのLoRAファインチューニングを試す

「text-generation-webui」で「Rinna」のLoRAファインチューニングを試したので、まとめました…

npaka
npaka
1年前
39

text-generation-webui の 設定項目まとめ

「text-generation-webui」にどんな設定項目があるのかをまとめました。 前回1. Text generat…

npaka
npaka
1年前
37

text-generation-webui で Rinna・OpenCALM・RWKV を試す

「text-generation-webui」で「Rinna」「OpenCALM」「RWKV」を試したので、まとめました。 1. text-generation-webui「text-generation-webui」は、大規模言語モデルを実行するためのWeb UIです。テキスト生成の「AUTOMATIC1111」になることを目標としています。 特徴は、次のとおりです。 2. インストールインストール手順は、次のとおりです。 (1) サイトから「oobabooga-w

npaka

Google Colab で OpenLLaMA-13B を試す

「Google Colab」で「OpenLLaMA-13B」を試したので、まとめました。 1. OpenLLaMA「OpenLLaMA…

npaka
npaka
1年前
22

Google Colab で OpenCALM-largeのLoRAを使わないファインチューニングを試す

「Google Colab」で「OpenCALM-large」のLoRAを使わないファインチューニングを試したので、ま…

npaka
npaka
1年前
23

Rinna 3.6B の量子化とメモリ消費量

「Google Colabでの「Rinna 3.6B」の量子化とメモリ消費量を調べてみました。 1. 量子化とメ…

npaka
npaka
1年前
36

Transformers の generate()のテキスト生成戦略

以下の記事が面白かったので、簡単にまとめました。 1. generate() の テキスト生成戦略「テ…

npaka
npaka
1年前
48

Rinna-3.6B で 文脈付きの質問応答 を試す

「Rinna-3.6B」で文脈付きの質問応答を試してみたので、まとめました。 1. JP Language Model…

npaka
npaka
1年前
42

OpenAI API の Function Calling を試す

「OpenAI API」の新機能「Function Calling」を試したので、まとめました。 1. Function Call…

npaka
npaka
1年前
121

Google Colab + CTranslate2 による Rinnaの高速推論を試す

「Google Colab」と「CTranslate2」による Rinnaの高速推論を試したのでまとめました。 1. CTranslate2「CTranslate2」は、Transformerモデルを効率的に推論するためのC++ および Python ライブラリです。 2. モデルの変換「Google Colab」でのモデル変換の手順は、次のとおりです。 (1) Googleドライブのマウント。 変換したモデルを保存したいのでGoogleドライブをマウントします。 #

npaka