【動画紹介】Einstein Copilotは信頼性をどう確保しているの？〜SalesforceジャパンYoutubeチャンネルから

今回はSalesforceジャパンさんのYoutubeチャンネルからSalesforceの提供するAI機能である「Einstein Copilot」の信頼性に付いて説明した動画を紹介します。

AIに対する不安

対話型のAIアシスタントは仕事の効率化を実現するが不安もある。

・AIの回答は信頼できるのか？
・自社のデータは保護されるのか？
・ビジネスの導入しても大丈夫なのか？

AIに対する不安

AIの回答は信頼できるのか？

プロンプトテンプレートワークスペースによるグラウンディング

グラウンディング
・生成AIの想像力は見当違いの回答をしがち
・プロンプトにビジネスの情報を加え生成AIの想像力に方向性が加わる
・生成AIの造像力を生かした回答がいっそうビジネスに沿ったものになる

自社のデータは保護されるのか？

・全AIパートナーとデータの保持はしないことで合意
　AinsteinTrustLayerを超えて他社のAI２利用されることはない
・AinsteinCopilotが使うデータはユーザー権限に依存
　SalesforceがLLM全体に権限をかぶせている
⇒データのセキュリティは万全

ビジネスの導入しても大丈夫なのか？

分析ツールで評価・監視

・Sandboxを使ってどのように動くか安全に試すことが出来る
・CopilotビルダーならCopilotの動作をテストできる
・アクションの内容はApex、フローなどで動作を制御できる
・段階的にロールアウトして信頼できるグループから試験利用
・内臓の分析ツールで評価と監視ができる

⇒それをもとに改良を重ねる

セールスフォース・ジャパン