全ての人が法律で救われる社会を実現するためにできること
※このインタビューは2024年3月18日に収録されました
テクノロジーによる自動化がより発展していく過程で、倫理的な議論がより重要になりつつあります。
今回はイタリアのローマに本部がある国際開発法機構 (IDLO) で専門家として活動されているマキシムさんに、法や哲学の観点から見るべき倫理的な視点についてお伺いしました。
全ての人が法律で救われる社会を実現するためにできること
Maksim: わかりました。国際開発法機構は発展した平和や持続可能な開発機会の創出に向けた法の設計を広げていく世界で唯一の国際組織です。
（動画：About IDLO）
私が担っている役割は、プロダクトに関する知識の開発や調査、法の設計に関する政策書類の取りまとめ、正義や持続可能な開発に関連した課題や政策取りまとめを行っています。
また、調査設計に関するマネジメントにも関わっていて、リサーチを通して検討するアウトプットの質を担保するための活動を行っています。組織の考え方として、「正義の文化を創る」ことを掲げているのですが、私はその考え方を体現するための仕事を担っています。
私たちの組織では様々な分類のトピックが山積していて、似たような調査分野が重複することもあります。その中には、女性や少女に関する正義、気候問題、不正腐敗、習慣や非公式な問題、経済開発や医療、食料問題、デジタルイノベーションを含めた幅広いテーマが特に開発途上国では日々議論されています。
私が最近関わっているのはデジタル政策における不正腐敗に関する問題と法的な変革についてのテーマで、公判前拘留等が該当します。広く人々が中心である正義についての議論が求められる分野です。私が現在関わっているのは、このような分野になります。
Kohei: 法律の領域でも国を越えた調整や議論が重要になることがよくわかりました。これまでのマキシムさんのご経験をお伺いでき、非常に参考になりました。
次の質問は、これまでの倫理的なルールづくりについての変化についてお伺いできればと思います。先程の自己紹介でも少し触れましたが、マキシムさんはユネスコのAIと倫理に関するプロジェクトにも参加されていたと伺いしました。
現在もAIの取り扱いと倫理面の配慮について広く議論が交わされていますが、これまでユネスコではAIと倫理についてどのような議論が行われてきたのでしょうか?
AIの発展と倫理的な考え方が共存するためには
Maksim: そうですね。まさにユネスコではAIと倫理に関する推薦書をアウトラインとして取りまとめていました。人工知能と倫理に関する定義や価値を整理して世界の共通理解として発信していくことが、私たちの取り組みの重要なポイントでした。
本質的には、倫理的な価値や定義を宣言するだけでなく、運用可能で具体的な政策として取りまとめていくことも必要になります。議論の重要なポイントとしては、AIシステムがどのようなライフサイクルを辿っていくのかという点です。
このライフサイクルの考え方が本質的で、今でも議論されていますが新技術の誕生とともにバイアスや差別等の問題が広く普及し始めました。これはプロダクトの利用者が、プロダクトの持つ構造的な不平等性や排他性によって引き起こされた負の側面によって被害を被ることになったケースを表しています。
例えば、AIの利用を推進するマネジメントチーム、技術開発チーム内での多様性の欠如が原因として考えられます。私たちが公開した推薦書の中では、透明性やアカウンタビリティ、責任性を複数のカテゴリーで求めています。データプライバシーやジェンダー、環境、医療、教育、経済、文化を始めとしたいくつかの政策テーマが該当するかと思います。
AIと倫理の考え方の中で「釣り合い」という考え方が非常に重要な意味を持ちます。 私はこの考え方が非常に重要であると初期に提案し、現在も支持しています。現在のドキュメントでは「釣り合い」の定義が「被害を引き起こさない」ものとして再定義されています。
（動画：Ethics of AI: Challenges and Governance）
この考え方は推薦書の第一の定義で紹介されていて、適切なAI利用を推進していくためには必要不可欠な考え方として設定しています。特定の目的を設定してAIシステムの利用を広げていく際にも、システムで達成し得る目的を設定し、必要以上の利用を求めないこととしています。
想定した目的とかけ離れた利用が促進する場合には、十分に釣り合いを検討した上で停止を求めることも検討が必要です。
設計前でこれからの内容を考慮することは、データやリソースを広く利用するAIを活用する際に検討が必要になります。環境やデータバイアス、プライバシー、説明責任、透明性や起こり得るその他の問題事項の影響度合いを十分に理解しておくことが求められます。
実際にはいくつかの研究では、説明できるアルゴリズムを設計したとしてもディープラーニングのようなブラックボックスの仕組みと予測精度においては大差がないことも説明されています。そういった状況下では、ブラックボックス技術に解釈性に必要なコストを求めるには値しないと思います。
その場合には一定数アルゴリズムの計算に付加価値をもたらすことも難しいでしょう。私はAIツールを利用する段階で、どのツールが最適であるかを審査し、その上で最適な比較を行うことが必要であると考えています。
ここまで私が話をしてきたことを踏まえて、現在はドキュメントが公開されて実利用に応用することができるようになっています。既に複数のツールも利用できるようになっており、私がお勧めしたいのは読解評価手法というものです。
それ以外に倫理影響評価と呼ばれるものもあります。この評価基準は、採用を検討しているルールが既存の法制度や政策、対象国での公的機関に準拠した形になっているかを測るものです。同様に、推薦書の中で紹介されているような価値と定義とのバランスについても言及しています。
実際には倫理影響評価を行う対象は公的機関だけでなく、民間でも実施することが必要になります。AIと倫理に関するビジネス会議も同時に開かれていて、ユネスコと民間企業が連携してAI利用に関する開発の推進を様々な分野で進めています。現在、ビジネス会議には私が記憶しているだけで、マイクロソフトやテレフォニカを始めとした複数の企業が参画しています。
倫理的な視点を実装するための活動
他にもAIと倫理を実装するための活動が並行して進められています。ユネスコに限らず、国連組織全体でもAIと倫理については検討が必要です。実際に、私たちが推薦書を設計するにあたり、国連組織に加盟する大規模な機関からはコンサルティングを受け、フィードバックがあった内容を反映しています。
最近では、国連事務総長の下で人工知能に関するハイレベルのアドバイザリーボディグループが発足し議論が進められています。このグループでは人工知能に関する国際的なガバナンスと推薦文書についての分析が行われることになると思います。
（動画：UN Chief on launching the Advisory Body on Artificial Intelligence (26 Oct 2023) | United Nations）
内部では、人間性のためのAIガバナンスに関するレポートが公開され、国際的なAI開発と実装に関する議論が本格的に進められています。このレポート内では、国際的なAIガバナンスの強化を広範囲のリスク精査、データやコンピューティング容量等に関する国際的な協調を始めとして、持続可能な開発目標に照らし合わせた形で議論が進められています。
こういった活動により、世界中でのアカウンタビリティやシステム保証の向上に繋がって行くものであると考えています。今年の末までには最終レポートが公表されるだろうと思います。
9月にはSummit of the Futureと呼ばれる会合を開催する予定で、国連に関係する組織が広く参加し、世界中のリーダーが協力して国を越えたコンセンサスに向けての議論を提案して行くことになると思います。その中で、未来に向けた安全性や変革についても議論されることになると思います。
一方で、レポートを取りまとめて行く中で国際的に活動を後押しして行くことにもなると思います。AIのような技術がもたらす利益とリスクを把握した上で、具体的な対策を検討して行くことが期待されています。
最後に、AIを含めた新しい技術に対する規制を強化するような動きは徐々に強まって行くのではないかと考えています。技術と言っても対象が広いので、特にAIについて話ができればと思います。
私が個人的に考えていることは、データを中心とした技術活用において監督する仕組みを強化する流れが進んでいくだろうと思います。AIについては世界レベルでこのような動きが加速して行くと思います。
Kohei: ありがとうございます。マキシムさんがユネスコでAIと倫理についての取りまとめを推進されたことで、多くの企業がAIと倫理について考えるきっかけになったと思います。直近でも欧州議会からAI法案に関する大きなアップデートが紹介されています。今後、法制化が進んでいくにつれてAIとデータ保護についての議論は活性化して行くだろうと考えられます。
次にAIと倫理を考えて行く上で、データ保護についてはどのように取り組んでいけば良いか聞いてみたいと思います。マキシムさんのこれまでの経験からAIと倫理について、データ保護とどのように関わっていくと考えられますか?
〈最後までご覧いただき、ありがとうございました。続きの後編は、次回お届けします。〉
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫