AI監査を実施するために求められるスキルと検討要素
※このインタビューは2024年2月5日に収録されました
政府組織でもAIを利用した新しい取り組みが広がりつつあります。
今回は米国政府で広く要職に就き、AI関連の取り組みの推進にも尽力されたパメラさんに、米国政府のAI推進についての取り組みとガバナンスの重要性についてお伺いしました。
前回の記事より
エネルギー省に赴任する前には、米国特許商標庁でお仕事されてこられたと思うのですが、こちらではどういったお仕事をされていたのかお伺いしてもよろしいでしょうか？
米国特許商標庁でAI利用を推進していた理由
Pamela: 米国特許商標庁ではアプリケーションエンジニアリングと開発に関する部署のディレクターを務めていました。この部門での役割はセキュリティ部門の副代表を担っていた時と近い仕事に関わっていて、アーキテクチャと開発、技術とイノベーション、そしてエネルギーに関する特許や商標の申請に関してエンジニアリングや開発業務との関わりを橋渡しするような活動に従事していました。
誰かが特許や商標を申請した場合には、全て私が所属する部署で承認に関する処理を行っていました。申請に関しては、グローバルで申請されたものや国際プログラムのもとで申請されたものもあり、膨大な数の申請数を処理する必要がありました。
私が関わっていた仕事というのは、新しい技術や仕組みを導入して特許や商標の申請があった際にいち早く、正確に処理をできるようにすることが求められていました。
丁度そういった業務に関わっているタイミングで、AIを導入する話が進んだこともあり、新しいAI技術を利用して特許や商標の調査を効率的に素早く実施できるような仕組みの検討を積極的に進めるようになりました。
私が米国特許商標庁で担っていた役割はこれまでにお話しした通りです。米国特許商標庁での業務を進めていくためには、膨大なポートフォリオと複雑なプロジェクト、そして数多く存在する古いシステムを整理し、更新していく必要がありました。
ここで紹介した様々なプログラムに関わることができたのは非常に光栄ですし、私が責任者を務めていたシステムが上手く機能する様になったことについては非常に良かったと思っています。
Kohei: これまでの知見を共有頂きありがとうございます。パメラさんの政府内での経験は非常に貴重だと思います。
現在はこれまでの経験を通してIsAdvice and Consultingを立ち上げて活動されていると思います。こちらの会社ではクライアントの方々に対してどういったサポートやアドバイスをされているのでしょうか？
AI監査を実施するために求められるスキルと検討要素
Pamela: クライアントにも様々な方々がいらっしゃいますが、あるクライアントはAI監査人になりたいということで私に相談をしてくださっています。効果的な研修トレーニングを運用するにはどうすれば良いのかという課題です。
私はForhumanityグループが提供する認証AI監査人の資格を有しているので、その視点からアドバイスを行います。具体的には、AI監査人になるためにどういった要素が必要であるかをコンサルティングしたり、サービス評価を実施したりします。
実際には、私自身が監査を実施することもあります。私もAI審査を実施していたこともありますので、AIとサイバーセキュリティを組み合わせた場合に対応するソリューションが安全かどうかについて検証を行っています。
冒頭でお話ししたように、AIの導入を進めている組織は安全にAIを利用することを優先的に取り組み始め、今では上流から下流まで広くAIが与える影響について検討を進めています。
私がクライアントへアドバイスする場合は、上流から下流まで広く検討した上で、リスクを提言するにはどうすれば良いかをアドバイスしています。例えば、規制に対応することが全てではないですが、AIを導入する際に検討が必要な規制の話についてはよく取り上げます。
規制以外にも倫理的な側面や公正性をAIサービスのデザイン段階から検討できているかを伝えています。勿論、導入するソリューションの安全性は優先的に取り組みます。
私がクライアントと併走する場合には、戦略について検討するセッションも準備しています。それ以外にデジタルトランスフォーメーションに関するセッションもあります。AIや機械学習は必ずしも全ての案件に当てはまるわけではありません。別の角度から取り組みを始めることが良いケースもあるのです。
このようなコンサルティングやアドバイスを提供しています。加えて、コーチングやトレーニングも行っています。よくあるのがコンフィデンシャルコーチングと呼ばれる方法で、クライアントが自分の考え方やキャリアについて相談して下さることもあります。
こういったコンフィデンシャルコーチングやトレーニングも提供しています。私のチームには法務の専門家もいるので、クライアントの労働法についても理解した上でサービス提供を行っています。
アルゴリズムを搭載したシステムを提供する場合には、対象の従業員への影響や生活を考慮した上で決定することも必要なため、私たちの場合は専門家の観点からもアドバイスを実施しています。
規制の知識以外にも求められる多様な専門性
私が一緒に働いている弁護士の方はパートナーと呼んでいいか線引きが難しいですが、法的に深く判断が必要な場合には彼女の視点からアドバイスをもらい、法的に求められる内容と法の観点からの整理を参考にしています。
具体的には、組織内でどういったことを検討しておくことが必要であるかという問いや、問いを通してどういった解を出していくのかについても尋ねるようにしています。そして、検討した内容を職場でどのように実装していくかについて考えます。
実装する際には必要なスキルについても検討しますし、サプライチェーン全体で導入を検討する際には依頼するベンダーについても考慮するようにしています。
ベンダーについての検討を進めていく場合には、ベンダーを審査するための基準について検討したり、対象となるソリューションが信頼できるものであるか否かを判断するようにしています。
そして、リスクを適切に管理するために重み付けを設定する要素についての整理を行ったりしながらクライアント組織と一緒にアドバイスやコンサルティングを交えつつ、監査を進めていくことになります。
Kohei: クライアント企業にとっては非常に有益なサービスですね。政府機関でAIを導入する際には事前にリスク評価を実施しているとは聞いています。その経験を民間でも活かして取り組まれているところは非常に素晴らしいですね。パメラさんの活動が気になる方は、ウェブサイトもチェックしてみてください。
では次のテーマに移っていきましょう。ここからは政府動向についてお伺いできればと思います。先程パメラさんが米国エネルギー省で経験されたお仕事についてお話し頂きました。
パメラさんがエネルギー省でお仕事されている間には人工知能の分野を中心として、AIに関する発展した会議体の運営にも関わられていたと伺いしました。ここからは具体的にどういった取り組みを米国エネルギー省で実施していたのか教えて頂けますか？
〈最後までご覧いただき、ありがとうございました。続きの中編後半は、次回お届けします。〉
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫
この記事が気に入ったらサポートをしてみませんか？