＜SXSW2019＞SXSW予報（1）Ethics 〜人類と機械の共存〜

【HPブログより転載】

SXSWのセッションを楽しむコツは、自分の専門領域”外”を横断的に見てみる事です。トラック（カテゴリー）をまたいで、共通するテーマを自分なりに見つけてみると、未来の兆しが見えてきます。SXSW2019特集記事の後半は、未来予報のインターン齋藤雄太さんの視点から書いた全6記事をお送りします。

宇宙人視点の人類史といま

人類は約１万年ほど前に狩猟民族から農耕民族へと生活スタイルをシフトし、小麦と人間の共同生活が始まった。この農業革命は、”人間の視点”から見ると小麦を上手く活用し、手に入る食料の総量を増やし、人口の爆発的増加を可能にしたと見ることができる。しかし、もし”人間中心の視点”から離れて考えれば、この出来事は人類が小麦に奴隷化された歴史の１ページとして見ることもできるのではないだろうかという問いを立てたい。事実、農業による食料の増加は、より良い食生活やより長い余暇には結びつかなかったのではないかという研究結果が多く出ている。人口爆発と飽食はエリート層の誕生を促し、多くの農耕民は平均的な狩猟採集民よりも苦労して働いたにも関わらず、見返りに得られる食べ物は削減していた。多くの人々は農耕生活に移行することでより良い生活を得られると信じてせっせと働く生活へと踏み切った、にも関わらず実際はその逆の現象が起こった。宇宙人視点で見れば、人類が小麦を栽培化したというよりも、人類が小麦に家畜化されたとも映るのではないだろうか。これに関する見解は2016年に世界中で大ブームを巻き起こした「サピエンス全史」で詳しく解説されているので是非ご覧いただきたい。翻って現代はどうだろう。農業革命時代に生まれた人類と小麦の関係性は、今の人間とコンピュータの関係に非常に似ているのではないかと思える。人類は”彼ら”のためにデータをせっせと生成し、彼らの手足となってコンピュータを組み上げ、スマホにして常に持って歩いてあげ、年間に数億の個体を世界中にバラまいている。小麦の時と同じように、どちらが主体かがわからない関係性となっている。このコンピュータと人間の奇妙な関係性については「静かなる革命へのブループリント: この国の未来をつくる7つの対話」にて、メディアアーティストで現代の魔法使いと話題を読んでいる落合陽一氏が面白い見解を論じているので是非参考にいただきたい。そしてこの情報革命は、人工知能・ブロックチェーン・Internet of Things（IoT）といった現代と近未来を象徴する新しい技術の発展によって加速している。さらに、この情報革命が向かっている方向性、最終的なゴールとは「シンギュラリティ」と呼ばれる、人工知能が発達し、人間の知性を超える技術的特異点である。そして、我々は今まさにその人工知能にその”知性”を与えるレースのスタート地点に立っている。

現時点でのAIに関する倫理的論点

壮大なストーリーで話を展開させていただいたが、既に多くの人工知能が我々の日常生活にひっそりと浸透し始めている。例えば、私は読書が好きなので、アマゾンでKindle本を探すことがあるが、既にご存知の方も多いように、アマゾンはユーザーの購入履歴や閲覧履歴からオススメの商品を紹介する推薦システムを導入しているため、興味を誘う本のリストを表示し、ユーザーの衝動買いを誘う。しかし、よく考えてみると、本をいくつか購入したところで、それらを実際に読み始めるまではパソコンのクラウド上にあるだけで、購入しようがしまいがそこに実質的な違いはない。そのため私は読みたい本があっても欲しいものリストに入れるだけで、購入ボタンをクリックすることで得られる衝動的な欲求には走らないように気をつけているが、アマゾンがいかに自分の嗜好を理解しているかについて驚くと共に、それに振り回されないように自分で意識をしなければいけないと感じている。しかし、私を含め、多くの人は、このように人工知能が嗜好を理解してくれることによって、自分の知らなかった好みの商品に出会えることを喜んで受け入れるのではないかとも想像する。こういった人工知能の社会への導入に関する議論を進める上で重要になってくるのは、確かに、もし「シンギュラリティ」が来れば人間を介さずにAIによってあらゆる意思決定がされていく危険性があるものの、現時点では「AIがAIの意志で何かをしている」のではなく、AIの裏には結局人がいて、「その人間がAIを使って何を目論んでいるか」ということを考えることが大事な論点となってくると思う。そして、そこに関する議論が今まさに世界中のリーダーの間で活発行われている。まず、倫理的な議論の際によく挙げられる思考実験として、「トロッコ問題」というものがある。以下の状況を想像してみてほしい。線路を走っていたトロッコ（電車と思ってもらえればいい）の制御が不能となった状況において、このままでは前方で作業中の5人が犠牲となってしまう。この時たまたま線路の分岐器の側に立っているあなたはトロッコの進路を変えることで5人を救うことができる。しかし、進路を変えることで、別路線で１人作業をしているB氏が5人の代わりに犠牲となってしまう。犠牲となる人数は減るものの、B氏を犠牲にして5人を助けることは倫理的に正しいことだろうか、という思考実験である。これが、もし完全自動運転のトロッコであった場合、トロッコはどういった決断を下すようにプログラムを組むべきだろうか。このように、これから完全自動運転が社会に普及していく上で、搭載される人工知能がどのような判断の価値基準を持つべきか、または事故が起きた時の責任の所在に関する法律の制定などの論点は、これからの社会のあり方に繋がる重要な議論である。

SXSWのセッション紹介

こうした議題について考え始める上で、我々を入り口へと導いてくれるものとして、Intelligence Future部門の「Ethics and Responsibility in the AI and IoT Age」がある。このセッションでは、今後IoTやAIを中心としたテクノロジーが我々の生活に浸透していく上で、どのようなプライバシー侵害やサイバー犯罪への備えが必要となるか、今後規制を敷いて行く中で、どういった倫理的な価値基準を置くべきかといった議論をする。セッションのスケジュールページはコチラから.。次にVR/AR/MR部門の「Ethics in the Age of Virtual Humans」では、Deep Fakeと呼ばれる、ディープラーニングを使って顔を転写する新手法を誰もが簡単に利用できることによりフェイクニュースの拡散が加速する危険性や、マシンラーニングをトレーニングするための個人情報の搾取問題にに関する倫理的な問題を議論する。こうしたVR/AR/MRなどの新しい技術やそれらの普及の黎明期となる現在において、どのような価値観を新しい技術に植えつけていくかは将来の方向性を大きく左右する非常に重要な議論である。以下のYoutubeの動画は、Deep Fakeを利用して作られたオバマ大統領の架空のインタビュー動画である。これらの技術の精度がいかに高いかを実感することができる。セッションのスケジュールページはコチラから。

参考:AIによって生成されたオバマ元大統領のフェイク動画

未来へ

農業革命と情報革命を比較するという壮大な人類史にお付き合いいただいたが、シンギュラリティが来るのは何十年、もしくは何百年も先のことだから今から考えても仕方がないのではないかと考える識者が多いのも事実である。しかし、昨今の人工知能ブームの向かう方向性は明らかにシンギュラリティへ向けた技術の発展であり、世界中の優れた研究者や企業がその実現に向けて本気で取り組んでいる。そして、今現在人工知能をいかにトレーニングするかといった小さな無数の判断が、10年20年単位で考えた時に世界全体の大きな方向性の違いを生むだろう。そうした中、我々日本人も一地球人としてこうした議論に積極的に参加し、世界と人類の向かう方向性を考えていくことは我々の子供や孫の世代にどのような世界で暮らしてほしいかといった”未来”への継承に繋がる重要なことであると考えられる。