プライバシー、セキュリティ、倫理の議論でプロダクトの理解を広げる
都市でテクノロジーを運用して行くためには、様々な市民の体験を前提として設計する必要があります。
インタビュー第三弾は、ニューヨーク市で都市開発に関わるKarenさんに街づくりに必要なテクノロジーと倫理の話を聞いていきたいと思います。
Kohei: テクノロジーを利用した都市像が重要である一方、人工知能の公共性には解決すべきバイアスの問題があると思います。NYの都市開発計画では、テクノロジー環境の整備に人工知能を積極的に取り入れていますが、住民のプライバシーやデータによるバイアスの問題にはどう取り組んでいますか？
以前IBMのインタビューでお答えした内容を拝見しました。人工知能と開発のスキルに言及していたかと思いますが、（Karenさんの）都市開発者の目線で重要な点も伺えると嬉しいです。
Karen: そうですね。おっしゃる通り、都市開発の中心にテクノロジーを据え置くと、プライバシーやデータバイアスの問題は重要なテーマです。
住民のデータが十分に守られるのはもちろん、システムの安全性とテクノロジーがもたらす便益のバランスを比較して議論することが求められます。 便益と不便益のバランスを考えるのは簡単ではありません。ですが、私たちは取り組む必要があると思っています。
人工知能の解析結果を住民が信頼しなければ、テクノロジーは機能しない
Karen: ここでは、人工知能を用いて得られる便益の具体例を紹介してから、今進めている取り組みを整理してお話しします。
私たちの社会で人工知能が機能するには、十分なデータ量がまず必要です。医療やモビリティ、環境変化、都市工学など様々な分野で人工知能の応用が検討されています。とりわけコロナのように人の移動が止まる状況では、データを確保するために、領域を一定の基準で限定するなど現実的な検討が必要です。
一つのケースを紹介しましょう。
ご紹介頂いたIBMのポッドキャストでも話しましたが、私たちが予定していた都市開発計画にもコロナは大きな影響を与えています。もし2ヶ月早く、世界保健機関（WHO）が感染拡大を予測できたならば、拡大前に抑止できた可能性があります。
カナダの人工知能開発企業 BlueDot は、拡大懸念を予測して通知していました。医療情報、渡航情報、感染拡大と分散状況の情報を人工知能に読ませることで、水面下の動きを理解するのでしょう。BlueDot が開発した人工知能は拡大の数週間前に（感染を）予測し通知していましたが、拡大抑制には繋がりませんでした。
編集部：拡大抑制しなかった理由をここでは述べていませんが、
この後、テクノロジーが機能するには住民がテクノロジーを理解することが重要だと述べています。テクノロジーが機能すれば、感染拡大を予測し、リスクを最小限に抑えることができます。
そのためには、倫理的にデータを集めて解析することが必要です。バイアスを減らすのは喫緊の課題ですね。 人工知能が導出したデータは、住民が状況を理解して（行動を）判断するために重要ですが、それが十分に機能するには、データが信頼に足るものだと住民に理解してもらう必要もあります。
図 住民と企業とのデータの信頼が求められる
データ（マネジメント）の透明性、仕組みとして構築されたアカウンタビリティ、どのような意思決定がなされているか十分に説明するなど（企業がやるべきことは色々ありますね）。
そして住民が（データの信頼性を）理解するには、デジタルリテラシーを高める必要があります。最終的に教育の問題に行き着くのです。
・どのようなデータが人工知能で処理されるのか
・テクノロジーによって誰が恩恵を受けるのか
これらは明確にされるべきです。コロナの現状を踏まえ、これまで（人工知能の）開発を進めていた NYC Center for Responsible AI のプロジェクトは一時延期になりました。一方で、コロナは（人工知能の開発の）将来に向けた大きな検討材料でもあると思います。
ここまで、人工知能とデータの仕組みについて話しました。
技術が社会にもたらす影響を議論するには、心理的安全性が必要
Karen: ここからは、人工知能の活用を検討するための現実世界での取り組みを紹介します。
人工知能の活用を進めるために最も注力しているのは、データサイエンスとコンピューターサイエンスの高等教育に倫理のプログラムを入れることです。倫理を学ぶことで、自分たちで開発した分析結果がどのように社会に影響を与えるかを学生に自ら理解してもらいます。
この教育プログラムは、他にも開発者やデータサイエンティスト、人工知能のエンジニアにも実施しています。
教育機会に倫理を加えると、何かを開発して世に出すだけでなく、その先にある影響に目を向けられるようになります。ツールを開発するだけでなく、そのツールが社会にどのように関わり、どう役立つかを理解することは日々の仕事でも活かせる内容です。
私たちが第一に考えているのは、教育と仕事の環境です。
次に大事にしているのが場作りですね。
心理的安全性は大切です。政府関係者と開発者など、異なるバックグラウンドを持つ人たちが、人工知能の開発や分析の実証を共にする場作りをしています。
場作りでは、様々な専門家がグループになり、人工知能について議論します。各産業の代表者や、政策立案者、政府関係者、法律家にも同席してもらいます。
図 多様な体験を持つ人たちが集まり、テクノロジーの議論を行う
気をつけているのは、専門家だけでなく、地域の住民が参加し、社会の現場で起きる影響について話せることです。社会（都市活動）に技術を浸透させるために、テクノロジーやデータへの不安を出してもらいます。
場作りには、意見を言いやすい安心の環境が大切です。
ラボの研究や、サンドボックス制度を利用した実証実験の結果を、人工知能の開発現場にフィードバックします。開発現場では、人工知能を利用すべきか、何のために利用するか、どこからどんなデータを集めるかを開発検討のフェーズから議論します。機械に読ませるデータが社会にどう良いのか議論するのです。
住民の便益を考えるためにプライバシー、セキュリティ、倫理のバランスを議論する
Karen: （技術が社会にもたらす）作用はどのようなもので、コミュニティにどんな影響があるのか、そうした影響度を計測して人工知能を教育することは重要なテーマです。社会や住民への影響を議論の中心におき、よい影響をもたらすための開発を議論して繰り返します。
この過程から、重要に感じていることがあります。
データ活用を検討する際に、プライバシー、セキュリティ、倫理のバランスを明確にすることです。
図 プライバシー、セキュリティ、倫理のバランス
バランスを明確にしてから開発する必要があると思います。プライバシー、セキュリティ、倫理の観点から見て、実社会でテクノロジーの利用を制限する場面も出るでしょう。開発現場にはその対応が求められます。ポジティブな社会的影響を考えるためには、事前にこれらのバランスを議論するべきです。テクノロジーは社会課題を解決しますが、多角的な視点で課題を明確にすることも大切ですよね。
私たちは、よいプロダクトを世に出し、市民の理解を得て使われるための唯一の方法はこれだと思います。
サンドボックスのように一部規制を緩和して行う取り組みの検討にも、様々な産業や市民に参加してもらうことが大切です。人工知能を活用したアプリケーションの開発にも、利用者である住民コミュ二ティの意見を反映することが求められます。
そうして開発されたプロダクトは、住民に便益をもたらし普及するでしょう。NYC Center for Responsible AI では、この二つの活動を既に実施しています。コロナの影響で残念ながら今は活動が止まっていますが。
（街全体がコロナ対策に集中しているので、今の状況を早く脱して経済回復することが最優先です。特に小規模事業者は厳しい状況のところが多く支援を欲していますから。）
ここまで紹介してきた未来への投資はコロナ後も継続していく予定です。
NYの都市開発計画は、住民の便益を優先したプロダクトやテクノロジー開発を軸にしています。NYに住む誰もが（サービスを）利用できる環境が大事です。将来生まれるイノベーションにより、住民にとって便益のある機会と、それを取り巻く起業家のイノベーションの仕組みが好循環を生むと良いと思います。
Kohei: そうした計画が進んでいるのですね。
コロナ対策に追われつつ、各国がこれからの形を模索していると思います。コロナの感染は10年、20年と続かないと思っています。ですが、街全体の構造はこれから徐々に変化するでしょう。導入するテクノロジーを住民への便益の視点から審査するNYの都市開発の仕組みは参考になりました。
テクノロジーを導入する前に、住民と専門家で審査することは政策立案においても大切な手順だと思います。日本でも新しいまちづくりの動きが始まっているので、テクノロジーと住民の便益を考えるのに参考になりました。ありがとうございます。
テクノロジーだけで全ての課題を解決することはできない
Kohei: 最後に、視聴者の方にメッセージをお願いできますか。政策や都市開発に携わる方々も（視聴者のなかに）数多くいると思います。これまでの現場での活動や考え方など、テクノロジーと住民便益の視点でメッセージを頂けると幸いです。
Karen: わかりました。今回のインタビューでは、私たちの取り組みをお話ししました。
NYではアイデアのサンドボックスのような場所を作り、その場所に政策立案者や政治家をはじめ多様な人々が参加します。それぞれの考え方を取り入れて良いものを作ることが大切です。
そうした場で話を聞くと、データや人工知能、その他のテクノロジーに対する多様な意見が出ます。（サービス）開発過程で人々を巻き込む大切さを実感しますね。政策を検討する人たちも、テクノロジーによってもたらされる便益の理解を深めることに貢献しています。
住民を含む多様な視点からテクノロジーが実現する世界を理解することは重要性を増しています。
機械の中でアルゴリズムが動いている仕組みや精査されるデータを十分に理解して議論するのは、開発者だけでなく法律家や他の専門家にも求められます。経済学者、政策立案を進める責任者、倫理に携わる人など多様な視点が議論の場に集まることが必要です。
そして、テクノロジーが社会にどのような利便性と価値を生み出すのか考えることも必要です。もちろん、テクノロジーによって起こり得るマイナス面の議論も必要ですね。
図 異なる考え方の中での共通認識とは
また、異なる立場の人たちで共通認識を作ることも求められます。法律の規制が必要となる領域ではプライバシーなど個人の権利とデータ利用のバランスを考え、事前に検討すべきですね。
ーーーーーー
今日のデジタルメディアを例に出すと、私たちが日々消費するコンテンツに基づいて、新たなコンテンツがフィードを通じて流れています。そうしたバイアスのかかったコンテンツの仕組みを使わず、自分の考えとは異なる政策情報や問題に触れるためには試行錯誤が必要でした。
私が ActionCam を世に送り出したのは、テクノロジーの話題を題材に政策立案者と対話し（政策を共に作る）きっかけを作りたいと思ったからです。
社会全体を見渡し、一体この政策は誰に影響があるのかを事前に理解し、試行錯誤して最適解を見つけることが必要です。試行錯誤がなければ、テクノロジーを用いて最大限の便益を得るのは難しいでしょう。
テクノロジーはツールの一つでしかありません。
ツールを良く使うか悪く使うかを決めるのは私たちです。良い使用例を増やし、悪い使用例を減らすために、テクノロジーやデータに関する対話を世界規模で進めることがこれから必要になると思います。
人工知能は、まさに今データの問題で岐路に立っています。標準的な（データの）利用方法を世界全体で模索し、共通認識を育てていく分野です。政策立案者がテクノロジー分野に入っていくことを、今後も支援したいです。その中で、データで良い結果をもたらす活動もしたいと思います。
仕事環境の開発やテクノロジー分野の職の創出により、多くの人々が関心を持って（テクノロジー）環境に入ることも必要です。（テクノロジーの）技術向上と再教育の機会開発を世界全体で進めたいと思っています。
最後に、テクノロジーだけで全ての課題を解決するのは難しいです。人々を交え、どのテクノロジーが最適かの共通認識を作ることも難しいです。これは住民にとって必要な議論なので、データ利用に関する議論は各分野の人々と協力して進めていきます。
Kohei: 素晴らしいメッセージですね。ありがとうございます。
今はコロナで厳しい状況ですが、コロナ後を考えると経済回復の方向性を描く必要があります。そのためにも、テクノロジーと社会の議論は必要です。今後、国を越えた渡航も回復するので、都市間協力も必要になりますね。
人々が移動するようになれば、一都市だけでデータを共有する世界から感染の陰性証明など国を越えてデータを共有する世界になるでしょう。その際には、協力してデータの取り扱いを考える必要があると思います。
そうした未来に向けて、良い環境を整えていきたいですね。社会全体が繁栄するには、協力することの重要性が増すと思います。
Karenさん、本日はNYからお越し頂きありがとうございました。
Karen: Koheiさんありがとうございました。
Kohei: ありがとうございました。
Karen氏インタビュー記事 Vol.1
「テクノロジーによる思想の分断に、情報入手の民主化で歯止めをかける」
Karen氏インタビュー記事 Vol.2
「テクノロジーによる産業創出の生態系に融合するNew Yorkの都市開発」
データプライバシーに関するトレンドや今後の動きが気になる方は、Facebookで気軽にメッセージ頂ければお答えさせて頂きます！
プライバシーについて語るコミュニティを運営しています。
ご興味ある方はぜひご参加ください。
Interviewer, Translator 栗原宏平
Editor 今村桃子
Headline Image template author 山下夏姫
この記事が気に入ったらサポートをしてみませんか？