メガバンク、AIガバナンス強化　健全性向上へテスト導入

メガバンクが人工知能（AI）のガバナンスを強化する。AIの活用開始前と稼働後に、人権侵害や誤った回答の表示を防ぐテストを自動化し、モデルの健全性を維持・向上したい考え。検証や運用が進む生成AIなどの信頼性確保に向け、2024年中にもテストツールを導入する見通しだ。

米Robust Intelligence（ロバストインテリジェンス）の「AIテスティング」を活用する。同社は「3メガバンクのうち2行で関心が高く、早ければ24年内の提供へ交渉を進めている」という。

数百のテストケースからプロンプト（命令文）の入力や、テキストの生成といった出力結果の組み合わせ確認を自動化する。例えば、入力する文章や語順の違いで回答に差異が生じるかを確かめ、健全性を3段階で評価する。禁止した出力結果を表示するなどの脆弱（ぜいじゃく）性に加え、ハルシネーション（幻覚）のリスクを低減できる。