IBMのAI倫理 – その原則と実践　（2020/3/18、ブログ更新のお知らせ）

※米国IBMからブログ更新のお知らせが来ました！

+++++
IBMのAI倫理 – その原則と実践
+++++

様々な企業がビジネスの現場でAIソリューションを活用し始めています。数年前までは実現可能性や効果を検証する技術検証（Proof of Concept : POC）が中心でしたが、今では多くの企業が業務の本番環境でAIを活用するようになってきました。こうした本番環境でのAI活用において課題として挙がってきているのが、そのAIの判断を「信頼」することができるのかという問題です。「信頼」することができなければ、業務の重要な意思決定の支援をAIに頼ることはできません。AIは教師データを学習させたモデルによって予測する技術であり、教師データを変更すると予測結果が変わることが、信頼性確保の難しさを生み出しています。

では、そもそも信頼できるAIとは何でしょうか？特にIBMはビジネス領域へのAI適用を推進していることもあり、かねてよりAIの信頼性を重視し、AIの原則や倫理について継続的に検討・発信しています。例えば2017年1月のダボス会議において、IBM会長、社長兼CEOのジニー・ロメッティは「AIやコグニティブ・システムの目的は人間の知能を拡張すること」と発表しました。すなわち、AI脅威論として語られるような、人間を置き換えるものとしてのAIではなく、人間と協調し、より高い価値を生み出すためのAIの開発をIBMは推進するとメッセージしています。また、翌2018年1月のダボス会議では、データの扱いに関するIBMの原則と実践を発表しました。AIの学習に使うお客様データはお客様に帰属し、IBMが勝手にそのデータを流用することはないというメッセージです。同じく2018年には、AIの信頼と透明性に関する原則や実践的ガイドを発表しています(*1)。 (BAIには公平性や説明性が求められ、設計、開発、運用においてこれらの要素を満たすのはAIの設計者や開発者の役割であると呼びかけを行っています。

(*1):2018年9月21日 AI倫理のためのガイドを発表　　https://www.ibm.com/…/everyday-ethics-for-artificial-intel…/ <https://www.ibm.com/…/everyday-ethics-for-artificial-intel…/>

IBMはこうしたメッセージの発信を通じて、信頼できるAIに求められる要素を定義し、継続的にテクノロジー業界に対して働きかけを行っています。

昨今、自社でAI原則を定義し公開する企業も徐々に増えてきていますが、その原則を実現する具体的な技術を持つ段階に至っている企業はそれほど多くはありません。ここからは、IBMが提供するAI製品・サービスがどのようにAI原則の実践を支えるかを具体的に紹介します。

まずはWatson APIについて。Watson APIはお客様企業がAIアプリケーションを開発する際にすぐに使える機能を部品(音声認識や自然言語処理など)として提供する製品です。お客様はすぐにAIソリューションの開発に着手できるという手軽さがある反面、自社の業務に関わるデータをIBMのクラウド環境に投入することに懸念を持つお客様もいます。この懸念に対して、Watson APIは大きく3つのアプローチで対応しています。まず1点目ですが、Watson APIの学習のためにIBMのクラウド環境に投入するデータは、お客様の明確な同意がないままIBMが他社に横展開することはない、ということをAPIの契約時に明確に定義しています。2点目として、お客様は、各APIの使用時に発生するトランザクションをIBMのクラウド環境にログとして残さないよう明示的にオプトアウトすることも可能です。3点目として、業務に関するデータをクラウド環境に上げることに懸念がある場合には、Watson APIをお客様の持つオンプレミス環境に構成し活用することも可能です。AIの学習に使用するデータはまさにお客様のビジネス上の知見そのものであるため、そのデータがどう扱われるのかをお客様が把握し、判断することができる仕組みをIBMは提供しています。

次はWatson OpenScaleについて。Watson OpenScaleは、まさにAIの公平性や説明性の課題に対処するために2018年から提供している製品です。お客様はWatson OpenScaleを活用し、自身で開発したAIモデルが本番環境でどのように稼働しているかをモニタリングすることで、AIモデルの品質を確認することができます。AIモデルの開発時には想定どおりに挙動することを確認していても、本番環境で未知のデータに対して想定した予測ができるかどうかはわかりません。また、リリースした当初は想定どおりに挙動していたとしても、時間の経過とともに入力データの傾向が変わり、AIモデルの予測精度が悪化していく可能性があります。その観点から、Watson OpenScaleは開発時ではなく本番環境での運用時のAIモデルのモニタリングにフォーカスした機能を提供しています。なお、Watson OpenScaleは精度だけではなく公平性についてもモニタリングの対象としており、特定の特徴を持つ入力データに対して想定しない予測の偏り（バイアス）が発生していないかを確認することもできます。また、個々のトランザクションに関して、AIモデルの予測結果に対してどの入力パラメータが強く影響したかを明らかにし、説明性を確保する仕組みも提供しています。

世の中でAIの適用範囲が広がり、より高度な意思決定の支援に活用されるようになるにしたがい、今回説明した仕組みが大切になるとIBMは考えています。ぜひ一緒に信頼できるAI適用を進めていきましょう。

Takashi Tanaka/ 田中 孝
Senior Manager, Data and AI Technical Sales IBM Japan

IBM、ibm.com、Watson Openscaleは多くの国で登録されたInternational Business Machines Corporationの商標です。他の製品名およびサービス名等は、それぞれIBMまたは各社の商標である場合があります。現時点での IBM の商標リストについては、http://www.ibm.com/legal/copytrade.shtml <http://www.ibm.com/legal/copytrade.shtml> （US）をご覧ください。