欧州がAI倫理の次に見据える新しい世界
欧州評議会で行われているAI規制の話は、AI社会に向けて大きなインパクトをもたらす可能性がありそうです。
後半もIT法学に長年携わり、現在はイスタンブールビルギ大学ロースクールの学部長も務めるLeyla先生に欧州評議会のAI規制に関する動きとAIとデータ保護のバランスの話をお伺いしていきます。
Kohei: 欧州委員会は発表したドキュメントは私も拝見しました。それ以外に欧州委員会が過去に発表したガイドラインをいくつか拝見しているのですが、ガイドラインを読み進めるとデータ保護対策はやることがあまりにも多いと感じます。
欧州のリーダーが進めるデジタル空間の制度設計
今日拝見したニュースでは欧州委員会でネット空間に繋がったデバイスのサイバーセキュリティに関する法案の議論も行われていると知り、欧州ではデータ保護だけでなく、幅広いデジタル空間の制度設計を進めていると感じます。
ただ規制を強化するだけでなく、新しいデジタル市場を生み出すための指針となる環境設計に取り組んでいると知り、現場でどういった議論が交わされているのか興味が湧いてきました。
ここからはLeyla先生が関わっている機械学習の取り組みをお伺いしたいと思います。先生は現在欧州評議会のCAHAI（Ad hoc Committee on Artificial Intelligence）のメンバーとして活動されています。CAHAIでは欧州評議会のプロジェクトとして機械学習の規制にどのように向き合っているのでしょうか？
Leyla: そうですね。CAHAIは欧州評議会が行う一つのプロジェクトです。いくつかのトピックにそれぞれ委員会が立ち上がっています。例えば、データプライバシー関連の委員会やデータ保護局に関する委員会がわかりやすいと思います。それ以外には欧州のデータ保護会議やAIに関しても同様の会議を実施しています。
2020年にはCAHAIと呼ばれているATO委員会が立ち上がり、私は欧州評議会のCAHAIにトルコ代表として参加しています。
私たちはCAHAIで主に二つの役割に取り組んでいます。1つ目が未来に必要な要素を定義していくことです。要素を定義していくために、私たちは3つの異なるサブグループを設けています。法の枠組みを議論するグループ、政策を議論するグループ、政策のコンサルティングと啓蒙を議論するグループです。私は法の枠組みと政策を担当しています。
図：CAHAIで運用されているグループ
次の月曜日と火曜日に法の枠組みに関する議論を実施する予定で、欧州評議会で議論をすべき未来のAIに関するテーマ選定を2日間で行う予定です。私たちが1つ目に取り組んでいるのはこのテーマですね。
2つ目がAI会議を開催することです。会議をまとめるためには一定の合意形成を行う必要があるのですが、現在は世界共通でAIとは何であるかの定義がないので合意をまとめることはとても難しいことです。
合意するには沢山の課題を解決していく必要があります。私の場合は課題が山積みだからこそとてもやりがいがあると感じています。新しい枠組みを設計することは、私にとっても新しい挑戦の一つです。
欧州評議会に参加している加盟国の意見をまとめていくためには、専門性も必要です。意見をまとめるために7つの異なるサブグループも立ち上がっていて、サブグループ内で半年の間別々のテーマに関して議論を行いドラフトにまとめてきました。
来週のミーティングの後は、11月に最後のミーティングを行う予定です。
※本インタビューは2021年9月17日に録音された内容です
先程紹介したドラフトは欧州評議会の関連部門と共有したいと考えています。この取り組みを世界で初めてAIと法の枠組みをまとめた内容で発表します。欧州委員会がAI法案を提出したことは記憶に新しいですが、欧州委員会よりも多くの加盟国（ロシアやトルコ等）が参加している欧州評議会がAIと法の枠組みを発表することは関係者の数という意味でよりインパクトがあります。
欧州評議会55のメンバーが参加する会議では、AIを始めとしてとても重要なアジェンダを議論し進めています。
※インタビュー内では55メンバーと紹介されていましたが、欧州評議会は47の欧州メンバーです。
Kohei: 素晴らしい動きですね。多様な国が集まって議論を進めていくことはとても大変だと思いますが、社会と新しいテクノロジーがより良い形で交わっていくために、多様な人たちが集まりAI規制の在り方を考えることはとても大切だと感じました。
AI社会で忘れてはいけない個人の権利とプライバシー
AIがどうあるべきかを考える際に避けて通れないのがプライバシーの問題です。私はプライバシーを守りながら、AI技術が発展していく世界が望ましいと考えていますが、相互に発展していくことは難しい問題の一つであるとも感じています。AIが発展するためにはより幅広いデータを必要とする一方で、個人のプライバシーとの境目が一体どこにあるかを考えていく必要があります。データ保護の規制が強まる中で、AIと規制はどのように共存することが望ましいのでしょうか？
Leyla: 先日参加してもらったAI summer schoolでそのテーマを取り上げました。Summer Schoolの講師で国連で Special Rapporteur on data protection and privacyの役割を務めるジョセフ・カナタチ先生がとても重要なメッセージを発信されていました。
“私たちはAIを語る前に考えるべき重要なことがあります。データ保護やプライバシー問題は私たちに課された大きな責任であります。AIを適切に導入するためにはデータ保護とプライバシーで取り組むべきことが沢山あります”
AIを活用する際に個人データを取り扱うケースもあるので、データ保護とプライバシーはAIを導入する際に避けて通ることができない問題です。
図：データの偏りが生まれてしまう
例えば若い子持ちの女性がいて、その人は別のグループから阻害されている状態（境遇を誰かに話すことができない状態）だとします。プライバシー問題でデータを公開する人のデータをAIで処理した場合にAIが導き出す答えに自然とバイアスがかかってしまいます（特定のグループから対象が外れた状態）
データの偏りによってバイアスが強くならないために、安心してデータを公開できるやめにデータ保護やプライバシー対策を事前に検討することが適切にAIを運用するためにはとても重要だと考えています。
AIを現場で運用する際に私たちは適切なバランスを考える必要があります。データ主導型の経済を推し進めていくために、データ分析システムやコミュニケーションシステム等を利用するケースが増えてきていますが、データ処理を素早く行うためにもデータ保護環境を事前に検討し、準備する必要があります。
これからは、4Gから5Gへ移行していく中で新たなコミュニケーションシステムの導入が進むと考えられます。データを取り巻く環境が変化することでこれまでAI主導で活用ケースの検討が進んでいた環境から、私たちの社会活動と密接に関わっていく機会が増えると考えられます。
AI利用を推進していくためにデータのクラスタリングや個人データの定義が必要になっていくと考えています。そういった変化の中でGDPRがデータ保護とプライバシーの世界標準として広がっていくと想定しています。実際に欧州以外の国でもGDPRを真似た国内のプライバシー法が施行されています。
私は法律で基準を定めるだけでなく、プライバシーやデータ保護を権利として尊重していくことが必要だと考えています。しかし、現在のデータ環境では多くの間違った解釈や現場での運用が起きている状態です。
多様な人たちが集まってルールを作ることができる未来
プライバシーを本で読み学ぶことや法律を準備することも大切だと思いますが、現場でプライバシーを守りながら日々運用していくことは本の内容とは全く異なります。全ての民間企業、政府、 NGOにとってプライバシーは重要なテーマでなので対話を通じてルールを作っていく必要があると思います。データ保護とAI規制をバランスよく進めていくかはこれから重要な問題になると考えています。
Kohei: 私も同じ考えです。初期から完璧な制度を作っていくことは難しいので、少しづつ議論を前に進めていくことが必要だと思います。今が丁度データ保護とAI活用のバランスを次の10年に向けて議論を始めていく時期だと考えています。
次に先生が新しく発表された取り組みを教えてください。MINDプラットフォームと呼ばれる取り組みを大学内で実施されると発表されていましたが、何を目的として新しい取り組みを始められるのでしょうか?
Leyla: 質問頂きありがとうございます。私は欧州評議会CAHAIでコンサルテーションとアウトリーチワーキンググループに関わっているのですが、MINDは私が関わっているグループの手助けになるプラットフォームとして使って欲しいと思い発表しました。MIND上で調査やカンファレンス、セミナー等を実施することでCAHAIの掲げるミッションを世界中のステークホルダーの方に届けていきたいと考えているからです。
図：MINDプラットフォームの役割
大学発のプラットフォームとしてトルコの人たちがCAHAIのコンサルテーション、アウトリーチグループに参加できる機会を作りたいと考えています。プラットフォーム上でセミナーやイベントを開催したり、コンサルテーションのサービスを提供することも考えています。トルコのコミュニティとステークホルダーを繋ぐことで、CAHAIで掲げるミッションを実現できるように働きかけていきたいと思います。
MINDはCAHAIの掲げるミッションを支援することを目的としています。特にアウトリーチ、コンサルテーショングループが考えるミッションです。それ以外にもMINDではトルコのコミュニティで議論されている重要なテーマを共有していきたいと思っています。
関連するステークホルダーの人たちをプラットフォームに呼び込んで、クローズドな議論だけでなく、オープンな議論が生まれる仕掛けも準備したいと思っています。トルコ政府が国のAI戦略を検討する上で必要な情報のサポートも検討しています。
政府も国のAI戦略を準備することが重要であると気づき始めているので、私たちは政府の戦略設計でサポートできればと考えています。ここまでが私たちが考えているロードマップです。私たちが重要だと考えているのは、政府やその他のステークホルダーが連携して国のAI戦略を検討し、具体的なアクションに繋げていくことです。
Kohei: 素晴らしいですね。具体的な方法を確立して新しい動きに繋げていることは非常に参考になります。先生の取り組みを参考に、私たちの国でも各国の専門家と連携する動きが進んでいくと良いと思いますね。
最後に先生のメッセージを視聴者の皆さんにお届けしたいと考えています。AIや倫理に関する取り組みを進めている人たちも聞いてくださっているので、ぜひ皆さんへメッセージをいただけませんか?
欧州がAI倫理の次に見据える新しい世界
Leyla: かしこまりました。AIと倫理に関する議論は世界中でまだ始まったばかりです。AIと倫理は切り離せない重要なテーマだと思います。企業のポリシーや各国のAI戦略を見ると、多くの企業や国がAIに関する倫理的な定義を発表し、年々AIを取り巻く環境も変化してきていると感じます。倫理の話はシステム設計時だけでなく、システムを利用する際にも十分に検討される必要があると考えています。
今はAI倫理に留まらず、AIへの規制を強化する動きが始まっていて、大きなパラダイムシフトが起きています。欧州委員会が発表したAI法案が象徴的だと思います。欧州評議会のCAHAIでは既にAIと倫理をテーマにした議論をまとめて、AIを取り巻く環境のパラダイムシフトを見据えた法や情報の取り扱いを規制とバランスを取りながらどう考えるか議論を始めています。
国がAI戦略を先導することは大切ですが、国が先導する際には規制の考え方を変える必要があると思います。企業や市民、政府機関等多岐にわたるステークホルダーを交えて規制の議論を促進するべきです。AIの倫理的な活用方法を検討することは良いことだと思いますが、政府主導で決めていくのではなく様々なステークホルダーや考え方が議論の過程に参加する必要があると思います。
倫理的に問題があるので罰を与えるだけでなく、新しくルールを制定してより厳しくデータ利用を見ていく必要があると考えています。新しいルールはより厳しく、そして結束したものにしていく必要があります。私がCAHAIで活動しているときに日本の政府機関の方に色々とご支援をいただき非常に感謝しています。
（動画：Ad Hoc Committee on Artificial Intelligence (CAHAI) of the Council of Europe）
各国のAI活用の状況をまとめるレポートの作成で協力して下さったお陰で、素晴らしいレポートを完成させることができました。レポートはCAHAIのページに載せています。
CAHAIの活動をご支援下さったことにとても感謝します。日本政府の方の活動はとても重要な活動で、私たち以外の国の取り組みを知る上でもとても参考になる素晴らしいレポートが出来上がりました。ありがとうございました。
Kohei: 素晴らしいメッセージをいただきありがとうございます。日本の政府の方とも既に活動されていたことは知りませんでしたが、今後も様々な形で未来のAIとデータ保護に向けて協力できることがあると思います。Leyla先生、本日は改めてインタビューにご参加いただきありがとうございました。
Leyla: こちらこそご招待いただきありがとうございました。日本とトルコで新しい取り組みをご一緒できると嬉しいです。ぜひ、新しい分野で連携していきましょう。
Kohei: ありがとうございます。
Leyla: ありがとうございます。バイバイ。
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫
この記事が気に入ったらサポートをしてみませんか？