尾原和啓さんの『アルゴリズムフェアネス』を読んで
『アルゴリズムフェアネス』
楽天時代からの友人である尾原和啓さんの新著「アルゴリズムフェアネス」を読み、山口周さんとの対談イベントに参加してきました。
来た！楽しみ〜
— Ryota Matsuzaki 松崎良太 (@rmatsuzaki) February 1, 2020
#アルゴリズムフェアネス pic.twitter.com/HBewgAHweN
もともとユバル・ノア・ハラリの「ホモ・デウス」「21 Lessons」を読んでからというものの「ビッグデータを利用するアルゴリズムがデジタル独裁政権を打ち立て、あらゆる権力がこく少数のエリートの手に集中する一方、大半の人は搾取よりもはるかに悪いもの、すなわち無用化に苦しむかもしれない」「感情や欲望が生化学的なアルゴリズムにすぎないのなら、コンピュータがそのアルゴリズムを解読できるだけでなく、それを人間よりもはるかにうまくできるはず」といったキーワードにモヤモヤと考えさせられていた中で、この本にはとても注目していました。
次のようなことに少なからず興味を持つ方にとって、本書は前述の「21 Lesson」と等しく、必携の書と言えるのではないでしょうか。
・アルゴリズムが支配するのか、アルゴリズムが自由をもたらすのか
・国家とアルゴリズム（を提供する企業）、個人の関係の現在と未来
・歴史や文化に根ざす、各国政府や国民のアルゴリズムに対する見方
ハラリの本が、AIやアルゴリズムがそれを自在に活用する一部の「選ばれしエリート」と「無用化された大多数の人々」を分断するディストピア的な未来を予見し、それを案じているとすれば尾原さんの解く未来はずっと楽観的です。
旧来、国家が個人や企業から税金を徴収し、代わりに自衛力や社会インフラを提供する形で人々に様々な形での「フェアネス」を提供してきましたが、それが現代になり、国家並みの権力を手に入れたインターネットプラットフォーム企業が複数現れ、外部からはわかりにくい「アルゴリズム」を通じて社会インフラとも言えるサービスを提供するようになったことで、今一度何が「フェア」なのかを議論する必要性がでてきたというのが根底にある問題意識と言えます。
➀「監視すること」の重要性
GAFAやBATは、膨大なデータを元に独自のアルゴリズムを通じ、各種の便利なサービスを人々に提供しています。彼らは競合環境の下「アルゴリズムによるフェアネスとは何か」を常に意識しながらも、それぞれ自分たちの定義するフェアネスを志向しています。一方で、ユーザーである個人はそうしたアルゴリズムを提供する企業に対して盲目的にそれを信じるのではなく、個人としてもきちんと監視すべきであり、「国家」「企業」「個人」が三つ巴になりお互いがお互いを監視することで社会的な安定が保たれるというのが尾原さんの議論です。
自分にも思い当たる経験があります。創業間もないUber本社を訪れた時に創業者のTravis KalanikとRyan Gravesが一つのミーティングルームの壁にサンフランシスコの地図を映し、そこに自社が管理する全ての車をプロットしていたのを覚えています。それを彼らは「God View（神の眼）」と呼び、まるで魚影のように「朝はこっちのエリアにUberを呼ぶ人がたくさんいて、車は逆にこちら側に集中している。夕方は朝とは全く違った分布になる。事前にドライバーに対して、こっちの方により需要があると伝えられたら効率がよくなると思うんだ」と言っていました。
彼らは間違いなく、アルゴリズムを通じて社会をより良くしよう強い想いを持っていたわけですが、その後この「God View」を使って一部の社員が勝手に政治家や有名人、自分の元カノなどをトラッキングしていたことが明らかになったことで日本の公正取引委員会にあたる米国連邦取引委員会（FTC）で問題視され、今後20年間にわたり第3者からの監査報告を受けることが義務付けられたことは、企業に委ねられていたフェアネスが国家や個人からの監視を受けることになった事例と言えるかもしれません。巨大IT企業の提供するサービスがインフラ化したからこそ、社会の公器としての責任も負うようになったということでしょう。
また、本書ではさらに、地政学的な背景を説明しながらアメリカ、ヨーロッパ、中国それぞれの国の各社インターネットプラットフォーム企業との付き合い方、個人情報に関する考え方がわかりやすく説明されています。なぜ中国では全ての個人行動がポイント化されることで信用力を得ることにさほど抵抗がなく、またそれが大事なのか。なぜエストニア政府はこれほどまでにオープンで、ブロックチェーン技術へのサポートも盛んなのか。
そして、本書の大事なキーワードである「自由」。「支配」と「自由の選択」というキーワードが文中に度々現れますが、アルゴリズムとは、自由と豊かさをもたらしてくれるパスポートのようなものであり、一部の人だけが入手できるのではなく、インターネットにさえつながっていれば誰でも平等にほとんど無料で使うことができるものです。
他方、そうして誕生した新たな「自由」を貪欲に求めに行く人たちと、そうでない人たちがいることも事実です。冒頭で触れた尾原さんと山口周さんとのイベントの中で参加者に向けられた最初の質問は、「この中で何人の人がオンライン大学（MOOC）で学んでいますか？」というもの。今や東南アジアの人たちが貪欲にこうしたオンライン大学で知識を得ている中で、そうしたメリットを享受しきれていない自分たちがハッとする瞬間でした。
②エグジットする自由
「使う自由と使わない自由」というと、個人に与えられた権利としての「エグジット」という行動の大切さについても本書では言及されています。個人が企業のアルゴリズムを不服とするのであれば、そのサービスをボイコットすれば良いし、もし国家のアルゴリズムを不服とするのであれば、その国を離れれば良い、というわけです。
そうはいうものの「そんなことを言っても、使い慣れたサービスを一人だけ止めるわけにはいかないし、そもそも住み慣れた日本を離れるなんてことはできるわけがない」という声が聞こえてきそうですが、ハワイやブラジルへの集団移民の例をみても、そうしたことが過去にあったことも事実です。今で言えば「都会にいてもコストは高い。インターネットで誰ともいつでもつながることができるのであれば、生活コストを安くしながら地方で生活する方が豊かな生活ができるよね？」という流れとも重なります。今後そうしたことがかつての大規模海外移民ブームのようになるのかもしれません。
③互恵社会
これは本書だけでなく尾原さんの著書の多くに登場する価値観ですが、感謝と互恵をベースに成り立つ「ありがとう」をベースにしたユートピア的な未来の到来を信じているのも彼らしいところです。
もともと現代社会は巨大な互恵ネットワークの元に支えられています。クレジットカードはその一例です。自分自身の信用（クレジット）をベースに、初めての店でも、自分の過去に積み上げた信用（支払いをきちんとしている支払履歴）をベースにつけ払いができます。一方でクレジットカードを利用するためには、自分自身の個人情報の開示が必要不可欠です。住所、家族構成、車の所有の有無や収入など、カードを発行する時にこうした質問をされた覚えがあるのではないでしょうか。
これをさらに進めていくと、そこには一定の信頼関係の元に成り立っているアルゴリズムと人々が共存し、お互いを認め合い、価値を提供し合う豊かな未来が開けている気がします。
④フェアとエクイタブル
少し脱線してしまいますが、たまたま先日別のイベントで、「フェア」と「エクイタブル」を議論する機会がありました。その時の問いは「機械（AI）により仕事を失う人々のために、どのように経済をより公平（エクイタブル）にすることができますか？」というものでしたが、フェアとエクイタブルは日本語だと両方とも「公平」にはなるものの、実際には少し違うという話が印象的でした。その後ネットでみつけたこの絵のような感じでしょうか。
「公平（フェア）を期すために、みな同じ試験を受けてもらいます。あの木に登ってください。」
同じように見えて、等しく扱うこと（フェア）ではなく、たとえ扱い方は違っていたとしても妥当でバランスが取れている（エクイタブル。衡平（こうへい）とも言う）世の中であるべきではないでしょうか。個人的には本書で尾原さんが定義している「フェアネス」とは、表面上の平等ではなく、よりエクイタブルな意味に近いものなのではないかと感じたので補足させていただきます。
まつざき
最新のKEY-VI SIONは、メルマガでお読みいただけます。
メルマガ登録はこちら
この記事が気に入ったらサポートをしてみませんか？