BedrockのClaude3をLangChain経由で使ってみる

はじめに

先日、BedrockでAnthropic社のClaude3が使えるようになりました。
Claude3には3種類のモデルがあります。
・Opus　：最も高性能
・Sonnet ：応答の速さが特徴
・Haiku　：コストパフォーマンスに優れている
現在(投稿時)は、真ん中のグレードである「Sonnet」が使えるようです。
数週間以内にすべてのグレードが使えるようになるとのこと。
さっそく、LangChain経由でClaude3 Sonnetを使ってみたいと思います。

モデルのリクエスト

AWSマネージメントコンソール上でClaude3が使えるようにリクエストしましょう。

LangChain経由で試す

※尚、LangChainやPython周りおよびAWS CLIのセットアップなどは割愛させていただきます。

コードの中で、model_idの記載方法が少し変わりました。Claude3を選択する場合は以下のように書きます。

model_id="anthropic.claude-3-sonnet-20240229-v1:0"

簡単なPythonコードを書きます。

from langchain_community.chat_models import BedrockChat
from langchain.schema import HumanMessage

chat = BedrockChat(
    region_name = "us-east-1",
    model_id="anthropic.claude-3-sonnet-20240229-v1:0"
)

result = chat(
    [
        HumanMessage(content="麻婆豆腐の作り方を教えて"),
    ]
)

print(result.content)

現在、Claude3が使えるのはオレゴン と バージニア北部の2リージョンのみとなります。今回は、バージニア北部リージョンを選択してます。

実行コマンドは以下です。

python3 app.py

Claude3から回答が返ってきました。

はい、麻婆豆腐の作り方を説明します。

【材料】(2~3人前)
・木綿豆腐 1丁
・豚ひき肉 100g
・長ねぎ 1本
・にんにく 1かけらみじん切り
・しょうが 1かけらみじん切り
・ラー油 適量
・豆鼓(からし) 適量
・酒 大さじ1
・しょうゆ、みりん 各大さじ1
・砂糖 小さじ1
・鷹の爪 適量
・ごま油 大さじ1

【作り方】
1. 豆腐は2~3cm角に切り、水気を切っておく。長ねぎは小口切りにする。
2. フライパンにごま油を熱し、豚ひき肉を入れて炒める。
3. にんにく、しょうがを加えてさらに炒める。
4. 2に酒、しょうゆ、みりん、砂糖を加え、さっと炒め合わせる。
5. 4に豆腐と長ねぎを加え、手早く混ぜ合わせる。
6. 火を止め、ラー油とからしを加え、全体を軽く混ぜる。
7. 器に盛り、鷹の爪をかけて出来上がり。

麻婆豆腐は辛味のきいた濃厚な味付けが特徴です。辛さ、甘さの調整は好みで行ってください。ラー油とからしを最後に加えるのがポイントです。

※ 2024/3/14 追記

Claude3 Haikuが利用できるようになりました。

モデルは以下のように指定すると利用できます。

model_id="anthropic.claude-3-haiku-20240307-v1:0"

まとめ

今回は、BedrockのClaude3をLangChainから叩いてみました。
GPT-4の性能を上回ると評判のClaude3がAWSで使えるようになりましたのでこの機会に試してみてはいかがでしょう。
この記事が誰かの役に立てば幸いです。

参考

イノベーションの解放: AWS と Anthropic が協力して生成 AI の限界を押し広げる (Amazon Bedrock で Anthropic Claude 3 が利用可能に) | Amazon Web Services

関連記事

AWSの生成AIサービス「Bedrock」を使ってみる
AWSの生成AIサービスBedrockを使って画像生成をやってみる
AWSの生成AIサービスBedrockを使ってRAGをやってみる