API Connect で外部の AI サービスの利用を管理する新たな機能が提供されます！

AI利用を適切に保護、管理するための新たな機能として”AI Gateway for IBM API Connect”の提供が発表されました。

生成AIは、多くの組織において生産性の向上とサービスの革新に大きく貢献しています。一方で、急速に拡大するAI利用を組織がいかに適切に保護、管理するのかが課題となっています。

AI Gateway for IBM API Connectでは、組織内外で利用する様々な業務アプリケーションとAIサービス間のAPIによる通信を一元管理し、保護するための機能を提供します。この機能により、生成AIの迅速かつ責任のある利用をサポートするだけでなく、リクエストレートの制限やAIサービスからの応答をキャッシュすることにより、AIサービスの利用にかかるコストの削減を期待することができます。

また、今年の下半期にはLLM APIを管理する機能が追加予定で、watsonx.ai APIを一元管理できるようになる予定です。

AI Gatewayは、API管理基盤市場におけるリーダーとして認められているIBM API Connect(*)の機能として提供される予定です。まずは2024 年 6 月に API Connect on AWS SaaS でのリリースを予定しています。
(*)Gartner Magic Quadrant ８年連続リーダー
The Forrester wave Leader ranking

AI Gateway for IBM API Connectの詳細はこちらをご参照ください。

API Connectの管理画面からAI Gatewayの機能を利用できます。

AIの利用状況がグラフィカルに表示されます。