nvidia jetson nano に ollamaインストールした。
やるぞ
使うヤツ
Nvidia Jetson Nano
Nvidia Jetson Nano Developer kit 4GB
Ubuntu 18.04.6 LTS
インストール
エラー出た
Installing NVIDIA repository...
curl: (22) The requested URL returned error: 404
無視していいらしい。
Install Ollama via standard Linux command (ignore the 404 error): curl https://ollama.com/install.sh | sh
Pull the model you want to use (e.g. mistral): ollama pull mistral
Start an interactive session: ollama run mistral
いまいち
mistral に
What is the highest mountain in Japan?
って聞いても途中であきらめたりするので、モデルを変える。
ラズパイ5でも動いたphi3にする。
ollama pull phi3
ollama run phi3
日本語も返してくれる。遅いけど。
まぁええんちゃう。
ラズパイ5がメモリ8GBで、nvidia jetson nanoが4GB
速度の違いはあんま覚えてない。
追記
ラズパイ5で動いてた記憶やったけど、
電源不足であんまり安定してないかも。