見出し画像

Ollamaを用いてWindowsでLlama3を試してみる

LLama3が登場したことが話題になっています!
とりあえず簡単に触れるようにしたいと思い、色々調べたところ"Ollama"というツールを見つけたので試してみました!
誰でも簡単に使えるように記録として記したいと思います。

ollamaのインストール(Windows)

①ollamaのサイトにアクセス

②”Download”を押下する

Ollamaのスタート画面

③Windowsを選択して"Download for Windows"を押下する

*Windows版はまだプレビュー版です

④"OllamaSetup.exe"がDLされているのを確認して実行

OllamaSetup.exe

⑤実行すると下記のダウンロード画面が出てくるので、表記に従って”Install”を押下する

画面が消えたらインストール完了

Ollamaのセットアップ画面

⑥コマンドプロンプトを開く

コマンドプロンプト

⑦コマンドを入れて確認

バージョンが表示されていればOK!

ollama --version
バージョン確認結果

*追記:macやubuntuの場合はからあげさんの記事を参考にしてみてください!

Llama3を試してみる!

それでは実際にローカルLLMを試してみましょう!
試せるLLMはGithubのページに記載があります。
今回はLlama3の8Bのモデルを試してみます。
*空き容量が必要なので注意!

試せるLLMのライブラリ

①上記の"Download"と書いてあるコマンドを入れる

ollama run llama3
ダウンロードコマンドの入力
ダウンロード画面

モデルのダウンロードに少し時間がかかります。
*2回目以降も始めるときはこれを実行します!

②Send a message が出ればOK

③プロンプトを入力してみましょう!

春に最適な服装は?
函館の名物は?

日本のことはあまり詳しくないようです。

以上でローカルLLMの導入は完了です!
皆さんもぜひいろいろと試してみてください!

Xでも発信していますので、ぜひフォローをお願いします!
Xのリンク

この記事が気に入ったらサポートをしてみませんか?