フランス発LLM『Mistral AI』って知ってますか？使ってみました

2024年8月19日 07:00

お疲れさまです。小野さんです。

今日は、AIチャットボットの「ミストラル」について紹介していきたいと思います。正直、これはちょっとマニアックな話題かもしれません。日本ではあまり広まっていない印象がありますが、最近注目を集めているAIモデルなんです。

ミストラルは、フランスのAIスタートアップ企業「Mistral AI」が開発した先進的な大規模言語モデルです。2023年12月に発表され、オープンソースとして公開されているんです。

現時点では英語とフランス語しか対応していないので、日本語での利用は難しいかもしれません。でも、その性能は注目に値するんです。

高性能
古い情報になってしまうかもしれませんが、GPT-3.5やLLaMA 2を上回る性能を発揮しているそうです。特に数学やコード生成、他言語ベンチマークで優れた結果を出しているんです。
長い文脈の処理が得意
32,000トークンという大きなコンテキストウィンドウを持っています。これは長い文脈を処理する能力が高いということですね。
多言語対応
英語、フランス語、ドイツ語、スペイン語、イタリア語などの複数の言語を理解し、処理することができます。
オープンソース
商業利用も含めて自由に使用できるオープンソースモデルとして公開されています。これは大きな特徴ですね。

正直、この辺りは専門的すぎて僕にはよくわかりません。でも、気になる人のために読み上げてみます：

新しいモデル「Mistral 8x7B」では、各層に8つのフィードフォワードブロックを配置しているそうです。各トークンに対してルートネットワークが2つのエキスパートを選択し、その出力を結合して処理するんだとか。

ルータネットワークがトークンごとに最適なエキスパートを選択することで計算効率が向上するみたいです。すべてのパラメーターではなく、一部のパラメーターのみを使用することで、メモリ使用量を削減しつつ高い性能を維持できるんだそうです。

僕のポンコツMacBook Airで試してみましたが、体感的にはClaudeよりちょっと遅いかな、という印象です。ネット環境があまり良くない状況での使用だったので、正確な比較は難しいかもしれません。

オープンソースであることが大きな強みだと思います。LLaMAも同様にオープンソースで注目を集めていますが、こういったモデルが切磋琢磨していくことで、AI技術全体の発展につながるんじゃないでしょうか。

ミストラルの今後の展望としては、さらなる性能向上や特化型モデルの開発、実用的なアプリケーションの増加が期待されています。

ミストラルは、まだ日本ではあまり知られていないAIモデルですが、その性能とオープンソースという特徴から、今後の発展が楽しみなモデルです。AIに興味がある方は、ぜひチェックしてみてください。

以上、ミストラルについての紹介でした。ありがとうございました。

＊チャンネル登録よろしくお願いします＊

いつも記事を読んでくださり、ありがとうございます。皆さまのいいねや温かいコメントが、私の励みになっています。これからも楽しんでいただける記事をお届けしていきますので、今後ともよろしくお願いいたします！