プログラミング言語に特化したLLM 🌟StarCoderを試食してみた
試食方法
コード作成に特化したLLMとして公表されたStarCoderというモデルをText-generation-webuiを使っただけの、お気楽な方法で試食してみました。
実行環境
Windows11 - WSL2
RAM 128GB
GPU 24GB(RTX3090)
準備手順
Hugging FaceのページからStarCoderモデルをまるっとダウンロード。なお、使用許諾の合意が必要なので、webui内蔵のモデルのダウンロード機能は使えないようです。
ダウンロードしたモデルをフォルダーごとText-generation-webuiのmodelsフォルダー下にコピー
Load-in-8bitオプションをつけてモデルをロード
準備完了
試食開始
高度なコード生成ができると言われましても、正直どういう例題が相応しいのかよくわからないので、プログラミング言語の教科書の初級編にありがちなフィボナッチ数列の関数定義をお願いしてみました。
なお、webui側の影響なのか出力結果のインデントが乱れていたため、一部手作業で修正しています。フォーマットが変なのはわたしのせいです。
モデルパラメータ
パラメータは、webuiのデフォルト値から以下をいじりました。
temperature = 0.5
max_new_tokens = 1024
Python
A recursive function that returns the Fibonacci sequence in Python
Pythonで追加学習されたモデルなので、ま、当然できますわな。
Pascal
A recursive function that returns the Fibonacci sequence in Pascal
うむ。
C
A recursive function that returns the Fibonacci sequence in C.
実行は速そうですけど、再帰呼び出しを使ってくれてないなぁ。ちぇ😓
Lisp
A recursive function that returns the Fibonacci sequence in Lisp
lispのコードって、すっきりした見た目でいい感じ。
Z80 ASM
A recursive function that returns the Fibonacci sequence in z80 asm
アセンブラって 言ってみたかっただけです。正直、何を書いてるのか私には解りません💦 しつれいしましたー。
なお、実用は、VS Codeの 拡張機能のHF Code Autocompleteが良さそうです。推論エンジンのエンドポイントにHFのAPIのほかローカルに立てたAPIサーバーも指定できるようです。
おしまい🌠
この記事が参加している募集
この記事が気に入ったらサポートをしてみませんか?