AIと人の関係性と未来に向けて共に歩んでいくためにできること
※このインタビューは2024年2月5日に収録されました
政府組織でもAIを利用した新しい取り組みが広がりつつあります。
今回は米国政府で広く要職に就き、AI関連の取り組みの推進にも尽力されたパメラさんに、米国政府のAI推進についての取り組みとガバナンスの重要性についてお伺いしました。
前回の記事より
実際に信頼できるAIを実現していくためにどのようなアプローチが求められ、プライバシーの観点からはどういった取り組みが有効になるのでしょうか？
信頼できるAIを実現するためにプライバシー保護でできること
Pamela: 最後にAIがどのようなパフォーマンスを導き出すのかということです。よくビジネスパフォーマンスという言葉を聞かれることはあるかと思いますが、AIパフォーマンスについて考えた時にどのような影響がありそうかを考えることが必要になります。
AIパフォーマンスを計測するためには、継続的にAIモデルのモニタリングを実施していくことが必要です。定期的にテストを実施しながら、要素を少しづつ変えていく作業が求められます。
社会や市場環境の変化に合わせながら要素を上手く変化させていくことが必要です。これは現在のバイアスの概念と未来のバイアスの概念が常に変化していくことと繋がっているので、少しづつ微調整する作業が求められます。
このように継続的な調整作業が必要になるのです。信頼されるソリューション開発を行うためには、まず信頼の構築が必要になります。AIについての理解を深めることも大切ですが、AIの精度だけでなくビジネスについても十分に検討することが求められます。
ビジネスについて考えるということは、対象となるサプライチェーン全体の中でどういったデータが含まれるのかを考え、データソースが信頼できるものであるかを検討し、定期的にデータソースを取り巻く環境が変化していないかを理解することが重要です。
信頼できるAIを通して提供するインパクトが世の中をより安全にする付加価値へ繋がっているかが鍵になります。
Kohei: とても面白いお話ですね。私もバイデザインを通じたアプローチを色々と検討してきていますが、社会の変化とサービスという軸でデザインを考えることは非常に大切だと感じています。ここからは最後の質問に移りたいと思います。最後は未来のAIが抱える展望についてのお話しです。
米国の大統領令によるAIに対する新しい動きや、欧州のAI規制についての動きなど新しい制度設計についての議論が進みつつあります。こういった動きは、今後のパラダイムシフトに置いて非常に大きな影響を及ぼすことになるのではないかと考えています。
私からお伺いしたいことは、世界全体の動きを踏まえてAI業界がどのように変化するのか聞いてみたいと思います。今後安全なインターネットを実現するために新たに挑戦すべきことやアイデアがあればお伺いしてもよろしいでしょうか？
安全なインターネットを実現するための挑戦
Pamela: 私はAIへの敵対的な攻撃への理解が重要ではないかと考えています。モデルドリフトやデータドリフトに注力したり、データポイズンやインヴェージョン攻撃等が該当します。こういった専門用語を全て理解するのは難しいのですが、より幅広いテーマについて把握することが必要になります。
加えて、アルゴリズムに適用したデータモデルについて検討することも必要ですし、正確に処理が進むようにデータとアルゴリズムの互換関係を整理しすることも必要だと思います。その際には信頼できるモデルと信頼性の評価についてはデューデリジェンスを取り入れながら具体化してくことが必要です。
少し誇張して話をしてしまいましたが、テクノロジーのトレンドは常に変化し続けています。テクノロジーの変化は非常に早く、機敏な動きが求められるようになってきています。
こういった背景から、私たちがガバナンスについて考える際には起こりうる脅威とイノベーションを比較しながら検討することが重要です。脅威とイノベーションをバランスよく考えていくことが我々に求められていることです。
AIによる安全で責任あるイノベーションを起こしていくためには、より多くのテクノロジーについて考えることが必要になります。
テクノロジーの発展と合わせて、新しいツールもどんどん誕生してきています。このような新しい動きの中で、全体のデザインや研究を始めとした初期段階から様々なリスクについて検討を行い、できる限り最小のリスクや被害を想定した設計を行うことが重要になります。そして、社会的な責任と持続可能性についてはより一層の努力が求められるのです。
ここまで紹介してきたことは私たちがテストを実施する際に事前検討するべき内容で、より良い結果を導き出すためには非常に重要な要素になります。ソリューション開発を進めていく中で、社会にどのような影響を及ぼす可能性があるかについては考慮しておくことが必要になります。
社会的にどんな影響があるのかというテーマは研究者の方々にとっては悩みの種になるでしょう。ただ、世界は常に変化してきています。これまでに調査フェーズから表に出てこなかったケースについても倫理面に配慮しつつ取り組んでいくことになると思います。
ここまで話してきたことは、私が未来に向けて考えていることです。プライバシーとAIについてはお互いに関連し合いながら前に進んでいくことになると思います。
私がここまでに話をしてきたセンシティブな情報については、まさに今電気自動車や充電インフラ、インフラシステム全体に置いて議論されている話です。
この分野は既に多くの情報が公表されています。さらにプライバシーについて考える機会も増え、プライバシーの重要性に気づき始めた人も増えてきていると思います。サービス提供者も設定を通してプライバシー保護のレベルを変更できたり、利用者のプライバシー要求に答えていく必要が高まってきています。
AIと人の関係性と未来に向けて共に歩んでいくためにできること
ここまでお話しできなかったのですが、最後にインフォームドコンセントについても触れておきたいと思います。インフォームドコンセントを推進していく流れは、確かに前進して行くと思います。
（動画：CPDP 2020: AI and Informed Consent: the challenges ahead.）
ただ規約に同意するのか、インフォームドコンセントを用いて同意するのかに関わらず、同意についての理解を進めて行く必要性は高まってきています。ただ情報を閲覧することに対する同意なのか、それとも保有することに対する同意なのかも線引きが必要になります。
私は同意に対する理解の促進を積極的に行って行く必要があると考えているのですが、この領域は未来のイノベーションとも結びついていると思います。私個人としては、多くのイノベーションが生まれ、責任ある企業やガバナンスが広がることでより安全な環境づくりに繋がって行くと思います。
Kohei: パメラさんの考えに私も賛同します。イノベーションとガバナンスをバランスよく考えて行くことがこれから事業者や政府には求められると思います。特にAI領域については、関係者に対してのアカウンタビリティがより重要になって行くと思いますね。
最後にパメラさんから視聴者の方へのメッセージを頂きたいと思います。これまでに素晴らしい経験をされてきたと思うので、ぜひ視聴者の方々へメッセージをお伝え頂いてもよろしいでしょうか？
Pamela: 勿論です。皆さんにはぜひ夢を追って欲しいと思います。もし何かを強く変えていきたいと考えているのであれば、強く願って挑戦して欲しいと思います。そうすればきっと道は開かれるはずです。
私は新しい道を歩んでいくために、様々な経験を積み重ねて行くことが必要だと考えています。例えば、私が自分の会社を起こして事業に取り組むのも一つのケースだと思います。
これまで自分で会社を立ち上げることを考えたことはありませんでしたが、今回改めてチャレンジすることを決めました。自分で起業することを選ばない人も多くいますからね。ただ、AIを学びたい人が徐々に増えてきているので、AIスキルを学ぶことは新しいビジネスの機会に繋がって行くと思います。
AI開発が進む一方で、AIが引き起こす課題への懸念も高まってきています。私はAIが信頼できないものであれば、AIを利用することもないし、AIに関わることもないと思います。私は世界中で求められ始めているAIと信頼性について取り組み、AIの課題へ対応することが必要になると思います。
私たちが幼少期から様々なことを学び成長してきたように、AIも永遠に学び続けることが必要になると思います。
私たちの社会が子供達へどういった影響を与え続けているかについて考え、どうすればより良い体験や知識を伝達し、成長に繋げて行くことができるかどうかを考えるべき時に来ていると思います。常に子供のように学び続けるのですから。
私が幼い時に母親が教えてくれたことを今でも覚えています。日々成長して行く中で、メンターや専門家の人たちの知見が私を成長させてくれました。
自分たちが子供だった時を思い出しながら、テクノロジーが目指す意思決定にどのように貢献できるのかを考え、取り入れて行くことが必要になると思います。なぜなら、常に学び続けることになるからです。これが私からのメッセージです。
Kohei: ありがとうございます。未来に向けて、新たな挑戦をして行くことはとても大切だと思います。より安全なインターネット環境とイノベーションを推進して行くために、今日のメッセージを大切にしたいと思います。
改めて本日はご参加頂きありがとうございました。パメラさん。今日は色々とお話でき非常に勉強になりました。各国のプライバシーコミュニティの皆様にもご紹介したいと思います。
本日はお時間を頂き、ありがとうございました。
Pamle: ありがとうございます。
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫
この記事が気に入ったらサポートをしてみませんか？