OllamaでMeta社製のオープンLLM「Llama3」を試してみる

今回はこれまでで最も高性能なオープンに利用可能な LLMと名高いMeta Llama 3を試してみたいと思います。

🌐 Meta Llama 3の詳しい説明はこちら👇

Introducing Meta Llama 3: The most capable openly available LLM to date

Xでも話題です！

Introducing Meta Llama 3: the most capable openly available LLM to date.

Today we’re releasing 8B & 70B models that deliver on new capabilities such as improved reasoning and set a new state-of-the-art for models of their sizes.

Today's release includes the first two Llama 3… pic.twitter.com/Q80lVTeS7m

— AI at Meta (@AIatMeta) April 18, 2024

Claude 3 SonnetやGPT-3.5等と比較しても優れていると評価されているとか…！！
ということで早速このLlama3をOllamaで試してみたいと思います。

llama3

Ollamaを導入済みであればLlama3のインストールはこのコードを入れるだけ。

ollama run llama3

そしてchromeのollama-uiにアクセス。

返信はローカルなのもありめちゃ爆速です！
動画を撮ってみましたので体感していただけたらと思います。
結構早めと言われるわたしのタイピングがめちゃくちゃ遅く感じるくらい。

Meta社のLlama3お試し中。いいね、この爆速での返信と絵文字で親し気に話してくれる感じ、かわいらしくて全人類に気軽にオススメできちゃう。#Llama3 pic.twitter.com/zGjXUFR2FO

— SUTO💡 (@st_e_ai) May 12, 2024

なんか返信がかわいいのでそのままオーロラのことを聞いてみたらオーロラの絵文字で返してくれました。遊び心良し。（たまたまこの時、絵文字をつけてくれただけだけど笑）

にしても、こんな高性能なLLMモデルも無料で公開とかしちゃう世の中になったのですね。つくづくすごい。
２年前とかなんて、こんな世界になるなんて想像していかなったです。

ちなみにわたしの勝手な比較ですが、前回試したMicrosoft社の最軽量LLM「phi-3」よりちょっと話しやすい感じありました。

好みもあると思うので、自分に合ったLLMを見つけたり育てていけたりすると良いですね！

ちなみに、「Llama 3 8B」に日本語データで継続事前学習を行なったAIモデル「Llama 3 Youko 8B」というのを作られた企業さんもいらっしゃいました。

MetaのLlama 3を日本語でさらに学習したAIモデル、rinnaが公開

こういうのがオープンソースの良いところですよね！！
いろんなことがいろんな場所でどんどん進んでる！楽しい世の中ですね☺️
今日はここまで〜！