広沢元

SEを12年やったのちITコンサルになって10年目。主にテクノロジー関連や学びの生態系…

広沢元

SEを12年やったのちITコンサルになって10年目。主にテクノロジー関連や学びの生態系について書きます。

Claude3のOpusではなくSonnetを使うことにした理由

みなさんこんにちは。ケンブリッジ・テクノロジー・パートナーズでコンサル兼テクニカル・アーキテクトを担当している広沢です。 Claude3のOpusがAWSのBedrockにローンチされたので早速検証しました。 意外な結果となり私自身も驚きました。 まず結論 RAGにおいてSonnetとOpusを比べると、回答の品質差はほぼない OpusはSonnetに比べてレスポンスが約1.7倍遅い Opusはスロットリングが頻発する（発生率55%） 非機能面も含めると総合的には

広沢元

    • Claude3とGPT-4をコスト面から比較、コスパが良いのはどのLLM？

      みなさんこんにちは。ケンブリッジ・テクノロジー・パートナーズでコンサル兼テクニカル・アーキテクトを担当している広沢です。 前回の記事ではClaude3とGPT-4の能力を比較し、文章のコンテキスト理解力という点においてClaude3（Opus）が頭一つ抜けているという検証をした記事「Claude3とGPT-4どちらが上か、あるいはタケノコの里」を書きました。本日はこの記事の続記事です。もしよろしければ前の記事もお読みください。 今回は、能力と切り離せない「コスト」の話をし

      広沢元

      • Claude3とGPT-4どちらが上か、あるいはタケノコの里

        みなさんこんにちは。ケンブリッジ・テクノロジー・パートナーズでコンサル兼テクニカル・アーキテクトを担当している広沢です。 Claude3という生成AIのモデルをご存じでしょうか。 2024年3月4日にAnthropic社が公開したモデルで、GPT-4を上回る能力があるということで話題になっています。 Claude3の解説については様々な記事が出ているので、ここでは割愛して、今回の記事ではClaude3がどれほどの能力があるのかを「文章のコンテキスト理解」という側面で実際に

        広沢元

        • AWS 大阪リージョンが一般使用可能になると何が美味しいのか考察してみた

          こんばんは。ITコンサルのはじめです。 昨日AWSの大阪リージョンが一般利用を開始しましたね。 利用者にとって何がうれしいのかを少し解説していきたいと思います。 まずはAWS公式の発表から自分で詳しく知りたい場合は以下のリンクからどうぞ。 AWSのリージョンとはAWSのリージョンは全世界に25個あり、日本には2つあり、1つは東京で、もう一つは昨日一般使用可能になった大阪です。 リージョンが2つあると何が良いことがあるのかというと、リージョンが違うとAWSの障害の影響を

          広沢元

        Claude3のOpusではなくSonnetを使うことにした理由

        広沢元

        • Claude3とGPT-4をコスト面から比較、コスパが良いのはどのLLM？

          広沢元

        • Claude3とGPT-4どちらが上か、あるいはタケノコの里

          広沢元

        • AWS 大阪リージョンが一般使用可能になると何が美味しいのか考察してみた

          広沢元

          コンサルの私がシステムを作った理由②～先人の偉大さを知ることによる成長～

          前回「コンサルの私がシステムを作った理由①～コンサル駆け出しの私がボロボロになった理由～」からの続きです。 前回は「自分から色々な人に話しかけにいくのがあまり好きではない」という私の特徴から、コンサル駆け出しの私に対してPMからもらった「自信持ちすぎ」というフィードバックをうけて、「システムを作った」という私がフルボッコになった状況の説明をしました。 今回は、「話しかけにくい」→「システムを作った」という流れが何故生まれたのかを説明していきたい。 まず私がコテンパンにや

          広沢元

          コンサルの私がシステムを作った理由②～先人の偉大さを知ることによる成長～

          広沢元

          コンサルの私がシステムを作った理由①～コンサル駆け出しの私がボロボロになった理由～

          いまの会社に入って自分自身で作った社内システムがある。 会社の知財と言えそうなドキュメント、メール、メッセージ、動画、写真をクロールして横断的に全文検索できるシステムだ。簡単にいうとGoogle検索の社内版だ。昔Google Desktopサーチとかあったけど、あんな雰囲気のもの。 私の会社はいわゆるコンサルファームなのでお客さまの業務をよりよくするため、他社・他業種の経験・事例をお客さまの困りごとに合わせて転用して業務改革を進める。 しかし、私はコミュニケーションがあ

          広沢元

          コンサルの私がシステムを作った理由①～コンサル駆け出しの私がボロボロになった理由～

          広沢元