Amazon BedrockにMistral AIのMistral Large (2407)が公開されました。

寝る前にX(旧Twitter)で見かけて、今朝早めに目が覚めたので確認してみました。

Mistral AI社から、Mistral Large 2という新しい生成AIが公開されました。

Large Enough

Mistral Large 2 has a 128k context window and supports dozens of languages including French, German, Spanish, Italian, Portuguese, Arabic, Hindi, Russian, Chinese, Japanese, and Korean, along with 80+ coding languages including Python, Java, C, C++, JavaScript, and Bash.
Mistral Large 2 is designed for single-node inference with long-context applications in mind – its size of 123 billion parameters allows it to run at large throughput on a single node. We are releasing Mistral Large 2 under the Mistral Research License, that allows usage and modification for research and non-commercial usages.

Mistral AI >Large Enough 

Mistral Large 2 には 128k のコンテキスト ウィンドウがあり、フランス語、ドイツ語、スペイン語、イタリア語、ポルトガル語、アラビア語、ヒンディー語、ロシア語、中国語、日本語、韓国語など数十の言語と、Python、Java、C、C++、JavaScript、Bash など 80 以上のコーディング言語をサポートしています。

Mistral Large 2 は、ロング コンテキスト アプリケーションを念頭に置いた単一ノード推論用に設計されています。1,230 億のパラメーターのサイズにより、単一ノードで大規模なスループットで実行できます。Mistral Large 2 は、研究および非商用目的での使用と変更が可能な Mistral Research License に基づいてリリースされます。

日本語が含まれているのが嬉しいですね。「研究および非商用目的での使用」というのが気になりました。

Availability timeline of Mistral AI models

Amazon Bedrockで使えるようなので、さっそく確認しました。

バージニア北部リージョン

オレゴンリージョン

オレゴンリージョンでは、Mistral Large (2407)がリクエスト可能なので有効化していきます。名称に2が付かないのが謎です。

以上で、最新のMistral Large (2407)をAmazon Bedrockで有効化できました。

最後にプレイグランドで確認します。

プレイグランドのモデル選択

チャットのプレイグラウンド

Mistral AI社の公式ブログに日本語にも対応していると、記載がありました。そこで「おはようございます。大阪は熱いです。あなたは誰ですか。」と入力しました。

何故か枠が小さいです。

[{"type":"text","text":"おはようございます。大阪は熱いです。あなたは誰ですか。"}]
おはようございます！大阪の暑さは確かに有名ですね。私はAIアシスタントです。お手伝いできることがあれば教えてください。何か質問やお話ししたいことがありますか？

日本語のやり取りも問題なさそうですね。

なおAmazon公式からのブログ記事は7/25の朝4:52時点では見つけられなかったです。

今回は、初の宇宙最速記事を狙ってみました！