欧州AI法案が抱える欠陥を修正する必要がある理由

※このインタビューは2022年5月19日に収録されました

テクノロジーを導入していく中で、機械による自動化のリスクも合わせて考えていく必要があります。

今回はアイルランドの市民団体アイルランド市民自由協議会（ICCL）でテクノロジーフェローを務めるクリスさんに、AI法案とプライバシー、そしてプライバシーテクノロジーに関してお伺いしていきたいと思います。

Kohei： 皆様。本日もPrivacy Talkにお越し頂きありがとうございます。本日はクリスさんに参加頂きました。本日のインタビューでは顔認識AIとプライバシー技術に関する話を伺っていきたいと思います。クリスさん。本日はお越し頂きありがとうございます。

Kris： 招待頂きありがとうございます。 

Kohei： ありがとうございます。始めにクリスさんのプロフィールを紹介したいと思います。 

クリスさんはアイルランド市民自由協議会（以下ICCL）でテクノロジーフェローとして、アルゴリズムによる意思決定の技術政策に関わっています。ICCLに所属する以前は、ダルムシュタット工科大学で暗号技術やプライバシー技術、インターネットインフラのセキュリティに関する研究員として活動されていました。

改めて、本日はお時間を頂きありがとうございます。では早速今日のアジェンダに移っていきたいと思います。まず始めに、クリスさんが研究員として活動を始めたきっかけについてお伺いしたいと思います。

クリスさんは技術と政策の双方の観点からプライバシー研究をされていると思うのですが、なぜこの分野で活動を続けようと思ったのでしょうか？

デジタル政策には技術理解が必要な理由

Kris： 私が博士として活動していた時は、主に技術の研究を行っていました。技術の研究を深めていくにつれて技術だけでなく、政策に関しても検討する必要がわかりました。当時は技術研究が中心だったので政策研究に注力はしていませんでしたが、政策について気にはなっていました。

研究員から博士号を取得しようと思った際に改めて技術だけでなく、政策についても学ぶ必要が出てきました。

これまでの経験から技術だけでなく政策に関しても学ぶ必要性を感じ、政策の研究も始めたことがきっかけです。

これまで技術と政策の双方を研究してきた立場から、私はもっと技術の知見が政策に盛り込まれることが必要であると考えています。技術政策は私が貢献できる分野であると考え、現在積極的に取り組んでいます。

Kohei： ありがとうございます。技術と政策の双方を理解して取り組むことができる人は非常に少ないと思います。ICCLではどのような役割を担っているのでしょうか？

Kris：私はICCLで、特に欧州域内の人工知能システム規制（AI規制）に関する研究に関わっています。私が担っている役割の一つにデジタル関連の規制案をレビューする役割があります。

例えば、欧州委員会が提案したAI法案についてのレビューは私が関わっています。

この法案は欧州委員会が2021年4月に人工知能に関する規制案を提出し、現在は欧州議会と欧州評議会で修正案を文書化しているところです。今後提出された規制案を法律化するために、レビュー案をもとに修正が行われる予定です。

図：規制案を法制度化するためのステップ

私の役割は、デジタル規制案が法案から法律化する前の過程で、修正が必要な項目を見つけて、政策立案者へ訂正するように要望を行うことです。

Kohei：なるほど。

Kris：私はこれまでの研究を通して技術の専門性を高めてきたこともあり、技術者視点で規制の課題を見つけ、修正提案を行っています。

政治的な問題に囚われず、技術的な課題をもとに修正提案することができる人はあまりいないのではないかと思います。

欧州AI法案が抱える欠陥を修正する必要がある理由

Kohei： なるほど。クリスさんはこれまでに政策決定者に対していくつか修正提案を行っていると思います。欧州では技術者というよりは、政策者の視点で複数のデジタル関連規制案が提出されていると思います。

修正提案の中で、AI法案に対して提案された内容を拝見させて頂きました。欧州委員会へも修正提案を行っていると思いますが、修正提案に対して政策立案者から返答は返ってきているのでしょうか？修正提案の内容も教えて頂けると幸いです。

Kris：わかりました。宏平さんが紹介頂いた提案は数ヶ月前に実施したもので（インタビュー実施数ヶ月前）、ICCLで同僚のJohnny Ryan氏が欧州委員会へ事後の執行に関する問題点を指摘した内容です。 

AIが実装されたサービスが公開された後に、外部からAIが問題なく機能しているか精査し、問題があれば事業者に対して法的な執行手続きを実施することができるかどうか規制案に明文化されているのかを中心にレビューしていました。

その中でいくつか見つけた問題点を指摘しました。

指摘した内容の中には、法案に明記されている市場監視監督官と呼ばれる政府機関が担うことができる権限が、適切な執行を行うためには不十分ではないかというものが含まれます。

現在提案されているAI法案は、では欧州域内の製品安全規制とAI規制が適応されることになります。

図：適切な運用を行うために必要な執行権限

私たちが懸念していることは、法案の中でAIを導入したサービスに問題が確認された場合の法的執行手続きが明確に記載されていない点です。

GDPRと比較するとAI法案では執行手続きに関する内容が非常に曖昧に記載されており、特にGDPRよりも執行権限が非常に弱い点は問題であると考えています。

私たちはこの問題点に関する修正案を取りまとめて、欧州議会と他の欧州域内をリードする委員会、市民自由委員会へ修正提案を行いました。議会では私たちの提案を考慮して、いくつか修正案も議論が進んでいます。

欧州域内の政府機関への執行力が無いまま法律の運用が行われる可能性を私たちは懸念しています。ですので、現在のAI法案における執行制度は問題点が多いということを、欧州委員会の政策立案メンバーに対して周知していく必要があります。

政策立案にはドイツやスペイン、アイルランド等の様々な国のメンバーが参加していますが、欧州委員会が発表した内容では各国のメンバーに対する執行権限が明確に示されていないことを懸念しています。

法律によって被害者が救済されるために必要なこと

ここまでお話しした問題点を修正し、欧州域内各国で執行ができる方法を各国の政府機関へ周知する必要があると考えています。ここまでが一つ目の修正点です。

次の問題点は、被害を被った個人が執行機関に苦情を申し立てることが難しい点です。

これは先程紹介した執行権限とは別の問題です。私たち個人は被害を被った際に苦情を申し立てる権利を有しています。この場合の権利とは、人工知能システムに欠陥や問題があった際に苦情を申し立てる権利です。

個人データに関しては、GDPRで定められている手続きに沿って、被害を被った個人が苦情を申し立てることが可能です。

私たちが修正を依頼しているのは、GDPRで認められている個人データ保護に限定せず、個人の権利を侵害する場合に関して幅広く個人が苦情申し立てを行うことができる権利を認めるべきであるという内容です。

データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。

Interviewer, Translation and Edit　栗原宏平
Headline Image template author 　山下夏姫