ChatGPTへの懸念と可能性、そしてAI倫理の必要性
※このインタビューは2022年12月20日に収録されました
各国の法規制に限らず、国際機関でもAIについての新しい動きが始まっています。
今回はフランスパリにあるユネスコでデジタルトランスフォーメーションのディレクターを務めるマリエルザさんに、国際機関における新興技術への取り組みについてお伺いしました。
ユネスコがAIと倫理に取り組む理由とその現在地
Marielza: ご質問ありがとうございます。まさに仰って頂いたようにAIについては、多くの人々に影響を与える可能性があり、AIによる負の影響についても考えておく必要があります。
（動画：Do you know AI or AI knows you better? Thinking Ethics of AI (original version)）
大切なことですが、気づかないことでもあります。それでも、私たちの住んでいる社会や生活を大きく変化させることにつながるかもしれません。
同時にAIを活用することによって、顧客に合わせたサポートを提供したり、何百万人の子供達に同時に最適な教育を提供したり、適切な仕事を提供したり、環境問題やコロナ対策にも大きく貢献する可能性があります。便益の反面、リスクも考えられるのです。
考えられるリスクとして、国の中での格差拡大に繋がってしまう可能性があります。例えば、限られた国だけで先進的なAI技術が開発され導入に至っている現状があります。
他の多くの国々ではAI技術にアクセスすることが非常に限られてしまっているのです。開発されたAIを使いこなすこともできません。そうなると、別の国が開発したAI技術の利用者としてでしかサービスに触れることができず、最終的には格差に繋がってしまう可能性があります。
国によっては、十分にデータが揃っておらず、不十分な量のデータしかシステムで処理できない可能性も考えなくてはなりません。
そうなると、システムにアクセスができない人たちに対しては適切にフィードバックが行われず、女性を含めた少数派の人たちのデータがAIに組み込まれないことになってしまいます。そして、導入先のシステムによっては、誤情報を拡散してしまう可能性も秘めているのです。
ChatGPTへの懸念と可能性、そしてAI倫理の必要性
私たちは現在ChatGPTにも注目していて、システムによってどれだけの誤情報が生まれているのかを確認しています。ディープフェイクは人工知能の力によって生まれているケースも多々見られるようになってきていることがわかっています。
これはAIによる負の側面です。私たちは負の側面を理解して、取り組まねばなりません。同時に、AIを利用することによって平和や新しい社会の開発につながるようなことも考えていく必要があります。2021年11月には193のユネスコ加盟国が人工知能の倫理的な利用に関する内容を採用し、積極的に実施を始めています。
ユネスコの取り組みは人工知能と倫理に関する世界的な標準を初めて提案した試みだと思います。他にも170ほど同様の取り組みがありますが、世界各国から集まって議論したケースは無いと思います。世界各国の知見を通して、一つの規律を考えていくことはとても大切だと思います。
提案した規定は各国で共有しています。AIは既に世界中で幅広く利用が進んでいるため、人々の権利や尊厳を尊重しつつ、利用が促進されるようなことを考えています。
ユネスコが提案した倫理に関する規定によって、各国のデジタル導入に向けての制度設計に繋がることを指針として取り組んでいます。倫理的な規定を定めるにあたっては、専門家や市民団体、テクノロジー企業や加盟国が連携して取り組んでいます。
（画像：連携して新しいものを生み出す）
全てのステークホルダーで議論を進めていく中で、新たにAI利用における均衡が保たれているか否かを検討したり、政策を設計する際には具体的に内容と照らし合わせる等を行い、AI利用におけるリスクについても議論を行いました。
政策を検討する際には、教育や文化、コミュニケーション、情報を含め多岐に渡る領域で検討を行い、データ保護等の要素を含めて検討を行いました。中でも以下の二つの要素は事前に議論を実施しました。
一つ目が可読性の評価です。人工知能について考える際に、倫理的に可読性の評価が実施されているかを事前に検討する必要があります。各国が必要性を理解して、倫理的な判断を人権をベースにしたフレームワークをもとに人工知能を実装する際に取り組むようになることが必要ですね。
それ以外には、影響評価を実施してシステムを導入する前に、誰に対して影響が及びそうか否かを想定し、リスクをできる限り小さくしておくことが必要になります。
想定されるプラスの面に関しても、なぜプラスの影響を最大化できるのかについても考える必要があります。原則について考えるだけでなく、実際に運用まで考えて対策することが大切です
人工知能を開発するための原則を定めることに止まらず、システムを開発する際のライフサイクルや導入方法を始めとした標準設定にも目を向けることが大切です。人の尊厳や権利、生活に良い影響を与えるための仕組みを考えることです。
Kohei: ありがとうございます。ユネスコの取り組みは多様性があり、異なる地域の少数派の人たちにも目を向けた素晴らしい活動だと思います。１カ国で幅広い取り組みを推進して行くことは難しいと思うので、国際機関としての活動はとても大切ですね。
各国の組織が連携して、ユネスコが開発する国際的なフレームワーク作りを支援することによって、より幅広い視点が原則の中に組み込まれることになるのだと思います。
マリエルザさんの活動は各国での考えを取りまとめるために、とても大切な活動だと思います。次にお伺いしたいのは、ユネスコの活動の中で重要なテーマに関するお話です。表現の自由は、私たち一人一人が元来持っている基本的な権利の一つだと思います。
私たちのプライバシーと表現の自由の権利を守るために、何が必要か教えていただけませんか？
私たちの表現の自由を守るためのプライバシー
Marielza: 表現の自由はとても大切なテーマの一つです。質問いただきありがとうございます。プライバシーは国連人権宣言の第12条で基本的な人権として認められています。
市民的及び政治的権利に関する国際規約の第17条を始め、多くの国際的な条約や地域ごとの取り決めの中でも認められているのです。プライバシーは人間の尊厳や表現の自由、結社の自由の中でまさに基礎となる考え方です。
皆さんは自由に自分を表現することができるのです。もし貴方が表現することを恐れているなら、それは誰かの監視され、自らの表現によって告訴されてしまう等があるからかもしれません。
今では、世界各国の多くの国々でプライバシーの権利が認められ、憲法に定められています。各国で定められている内容はOECD（経済協力開発機構）や欧州評議会で開発された法規則を基本として設計されています。
ただ、プライバシーの権利を定義することはとても難しいことで、定義が多岐に渡り文脈や環境等によって解釈が異なることが問題になります。
最先端のデジタル情報通信技術の発達によって、先程話に出た通り私たちが住む世界はデジタル環境が当たり前になってきていて、私たちの情報を幅広く収集し分析されています。これからのデジタル社会に向けて効果的な制度設計が必要です。
監視技術への懸念とプライバシー問題
デジタル化が急進的に進んでいくことで変化していく私たちの表現の自由や知る権利、プライバシー権について考えていくことが必要で、新たな技術の進展によってデジタル化が進みデータ保護の問題も深刻化してきています。
私たちがビッグデータと呼んでいるものは、正に膨大なデータが本質的な価値を持っていることを記しています。
ビッグデータは時に私たちのプライバシーを侵害しデータを収集し、本来は法律によって保護されるべき情報についてもデジタル技術によって知ることができてしまいます。そんな時代だからこそ、私たちの権利課題を考える必要があるのです。
私たちはビデオ録画やタッピング、生体情報収集システムやデータマイニング等の監視技術が広がっていくことを懸念しています。こういった技術を活用することで人間の活動を幅広く監視し、私たちの行動にも影響を及ぼすことになっていくでしょう。
このような問題は数多くの国で勃発し、法律はテクノロジーの発展に追いつくことができず、本来保護すべき分野についても保護が追いついていないことは大きな問題です。UNESCOでは制度が整っていない国に対して、十分な制度設計のために必要なフレームワークを設計し、必要な知見を提供しています。
加えて、デジタル世界の権利を保護するために、人権を軸にしたフレームワークに従ってより開かれたデータに関する取り組みを支持し、オープンデータによっての問題解決へも取り組んでいます。
コロナでパンデミックが発生した際に、科学者の方々は協力してコロナウイルスの対策方法をいち早く検討し、世界中に広がったことを覚えていると思います。こういった活動を達成できたのは、国を越えてデータを共有し一早く解決策に辿り着くことができたことが大きな理由です。
ただ、世界中でデータを共有する際にもきちんとデータを保護し、プライバシーを守る必要があります。しっかりとデータを保護する環境を準備することによって、人々はデータの悪用や監視等を恐れることなく、信頼してデータを共有し解決策に導いていくことができるようになるのです。
UNESCOではこういった環境づくりを進めていくために数多くの取り組みを推進していて、各国で働く政府職員のためにフレームワークの設計にも最近は取り組んでいます。
このフレームワークは人工知能とデジタルトランスフォーメーションを推進するためのコンピテンシーフレームワークと呼ばれるものです。データ管理やデータフレームのデザイン、データ取得や分析等を設計する際の参考になるフレームです。
フレームワークを設計する際にも、私たちの個人の権利を保護するためにプライバシーやデータ保護はとても重要な要素になります。開発するフレームワークに、個人の権利を未然に組み込むことによって各国でも同様の取り組みが実現できるようになるのです。
同時に、私たちは世界中でマイノリティの人たちが自らを守ることができるような手助けも行っています。多くの国では情報に関する効果的な監督制度が無いことに加えて、執行体制が整っていません。法律だけが整備されているだけではなく、予算を準備し政府体制を整えて監督し執行する必要があります。執行体制は本質的な要素なので、私たちは世界中で支援を進めています。
Kohei: ありがとうございます。今の社会では表現の自由やプライバシーについて様々な議論が生まれていると思います。特にジャーナリストのプライバシーについては厳格に保護していくことが必要だと思います。プライバシーが保護されない環境では、発信していくことに対して抵抗するような機運も出てくるのでは無いかと思います。
プライバシーを含めた表現の自由を守っていくためにどういった解決策が考えられますか？表現内容を幅広く伝えていくためにどういった要素が必要になるのでしょうか？
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translation and Edit 栗原宏平
Headline Image template author 山下夏姫
この記事が気に入ったらサポートをしてみませんか？