ローカルでもLLMって動くの？～お試しELYZA～

AIをローカルで動かせたらいいなぁと思ったことありませんか？
CHAT GPTあれば十分と思っていたんですが、セキュリティ考えるとローカルでも動かせるものがあればと思っちゃいますよね。

さらには、セキュリティよりもローカルで動かせれば費用が安く済むというのもあると思います。

とはいっても、どうせお高いGPUが必要なんでしょ？と思ったそこのあなたに朗報！

以外にローカルでもLLMって動くんですよ。

というわけで、今回はローカルでLLMを動かしてみました。

日本語LLM ELYZA!

どうせならということで、日本語LLMで最近リリースされていたELYZAを試してみることにしました。

ELYZAは、あの有名な東大松尾研発のAIカンパニーです。

ELYZA、「GPT-4」を上回る性能の日本語LLMを開発・公開

ELYZA | 未踏の領域で、あたりまえを創る

Llama3というモデルをベースに開発したそうですが、ローカルで動かすのってどうやるんだろうと思ったら意外に簡単でした。