Command R+がAzure上で利用可能に

以下の記事が出ていました。
最近話題のCommand r+がAzureで早くも利用可能になっているようです。

Command R+ from Cohere first on Azure AI

以下は本記事を翻訳し引用

Azure AI StudioにCommand R+が追加された
元の記事から引用

Cohereの最新のLLMであるCommand R+が、Azure AIのModels as a Service（MaaS）の一部としてモデルカタログに統合されたようです。

Azure上でCommand R+を利用できるようになったことで、高度なAI機能をグローバルな企業に拡張する能力が高まり、AIの未来が革新的であるだけでなく、包括的かつ安全であることを保証します。このコラボレーションは、AIをより身近で効果的にするという私たちの共通のビジョンを証明するものです

Cohere CEOであり共同創業者のAidan Gomez氏

Command R+の概要

Command R+は、Cohereが提供するエンタープライズ向け生成AIスイートの一部です。検索支援生成（RAG）に高度に最適化されており、効率と精度のバランスを取ることで、企業がコンセプト実証から本番レベルのAIへと移行できるようにしています。Command R+は、カスタマイズされた正確な言語モデルを構築するために、社内データとドキュメントを活用することを計画している企業向けに構築されています。近日中にモデルカタログで利用可能になるCohere EmbedとRerankと組み合わせることで、Command R+は、ドキュメントやエンタープライズデータソースからの情報を必要とする高度なAIアプリケーションに対して、最高の精度を提供します。モデルの出力には明確な引用が付いており、ハルシネーションのリスクを軽減し、ソース資料からの追加のコンテキストを明らかにすることができます。

Command R+は、日本語、韓国語、中国語などのアジア言語の習熟度を含む、10の主要なビジネス言語での流暢さを誇っています。これらの利点により、顧客は知識アシスタント、カスタマーサポートチャットボットなど、独自のデータを活用し、様々な言語で多様な人々、組織、市場にサービスを提供する高度なアプリケーションを構築することができます。

Azure AI Studioでの可能性の解放

Azure AI Studioのツール（Azure AI Content Safety、Azure AI Search、プロンプトフローなど）とCommand R+のコラボレーションにより、責任あるAIの実践と効率的なAIの実践が向上します。以下は、Azureとのコラボレーションの中でCommand R+が提供するシームレスな統合と堅牢なサポートシステムを強調する主な利点です。
・セキュリティとコンプライアンスの強化
・コンテンツの安全性の統合
・LLMフローの評価の効率化
・デプロイと推論の簡素化

これらの機能は、企業がCommand R+のようなAIテクノロジーの可能性を効率的かつ責任を持って活用し、セキュリティとコンプライアンスの高い基準を維持しながらイノベーションを推進できる環境を提供するというAzureのコミットメントを示しています。

スケーラブルでインテリジェントなエンタープライズAIシステムをリード

モデルカタログの拡充と新たなパートナーシップの構築を続ける中で、私たちは引き続き、世界中の企業がAIの変革力を活用し、理解し、コミュニケーションを取り、革新するインテリジェントなシステムを構築できるようにすることに注力しています。

Command R+の詳細については、Cohereのブログをご覧ください。Command R+を使い始めるには、AI Studioのモデルカタログにアクセスしてください。

Azure AIで可能なことの限界に挑戦し続ける中で、今後の更新にご期待ください。

FAQs

Azure上でCohereモデルを使用するコストはいくらですか？

プロンプトとコンプリーショントークンの数に基づいて課金されます。モデルをデプロイする際に、Marketplaceのオファー詳細タブでCohereのオファーの価格を確認できます。また、Azure Marketplaceで以下のモデルの価格を確認することもできます。
・Command R+
・Command R
・Embed v3-Multilingual
・Embed-v3-English

コストは入力と出力のトークン数で決まるようですね。

推論データはCohereと共有されますか？

いいえ、Microsoftは推論リクエストやレスポンスデータの内容をCohereと共有することはありません。

Azure内で閉じているので、不本意に学習に使われるなどはないと思われます。

Azure上のCohereモデルにはレート制限がありますか？

Cohereモデルには、1分あたり200kトークンと1分あたり1kリクエストの制限があります。これで不十分な場合は、Azureカスタマーサポートにお問い合わせください。

個人で使う分には問題ないと思います。
サービスで使う場合は、Azureと要相談ですね。

Cohereモデルをファインチューニングすることはできますか？

まだできませんが、ご期待ください。

待ちきれない人はローカルで動かして、いろいろしてみましょう。

GPT-4やClaude 3と盛り上がっているところに、ローカルでも動かせるCommand R+まででてきました。早速、Azure上でも利用できるようになったと、スピード感がすごいですね。