『操られる民主主義 デジタル・テクノロジーはいかにして社会を破壊するか』
その利便性ゆえに活用の範囲が広がり続けるデジタル・テクノロジーが、民主主義を脅かすものとなっているという警告を発しているのが本書で、ここでは民主主義の根幹にある選挙制度を中心に書いていこうと思います。
選挙へのテクノロジーの介入
選挙結果に重大な影響を及ぼす存在としてグーグルを名指ししたのは、世界の国政選挙で得票差を調べたアメリカ行動調査技術研究所（AIBRT）の心理学者ロバート・エプスタインです。グーグルは検索結果の表示順位を変えることで、投票結果を25%まで上昇させることができると本書にはありました。大元の調査にあたっていないので、この25%がどういう意味をもつのかがいまひとつ不明ですが、アメリカの大統領選挙は拮抗していることが多く、25%もあれば、選挙結果を変えるだけの力があるということだと考えられます。
グーグルが過去にそのような行為に及んだとか、あるいはこれから行うという証拠はなないと前置きしつつ、「この説は情報を支配する者は誰であろうと強大な権力を手にすることを物語る」と言います。
日本でもグーグルを使っている人は多く、私もそうしていましたが、1月にこのブログでスノーデン関連本のご紹介などから始めたデジタル監視社会についての読書を通して、グーグルについて知るようになり、知れば知るほど、私は気味の悪さを感じるようになりました。それで前回の投稿では、「グーグルを使わないほうがいいわけ」といったテーマで書いており、以下のサイトからお読みいただけます。https://note.com/happy_miharu/n/n4cfeb476fb35
グーグルが日本の選挙にも介入している可能性は否定できず、そういった問題も、グーグル傘下のYouTubeの検閲の問題などとあわせて、国会などで取り上げてもらいたいですね。
仮説ではなく、インターネットがアメリカの大統領選挙で重大な影響を与えた具体例として、本書では2016年のトランプ勝利に注目しています。いくつかの激戦州で、ヒラリー・クリントンに競り勝てるような戦術を、ビッグデータを活用してたて、それが功を奏したといったことが取り上げられています。
トランプの選挙対策本部には、ケンブリッジ・アナリティカという、コンサルタント会社が加勢していました。商業ベースの情報源から購入したインターネットの閲覧履歴、購入記録、所得記録、投票記録、フェイスブックや電話調査で収集された記録などをデータベース化して、それに共和党から提供されたデータをあわせて、有権者の説得可能性を軸にいくつもの集団をターゲットしていったそうです。（そもそもこんな情報が売買されていること自体が問題ですよね。）
たとえば、国産車を選ぶ人はトランプの潜在的な支持者になりうるという推論をもとに、車の購入履歴を調べ、直近でフォードを購入した人物を抽出し、その人物が投票しているかなども加味してグループ分けし、広告を展開したりしたそうです。児童の安全に不安を覚える働く母親という集団ができれば、幸せだけれども一抹の不安を覚える一家といった場面を設定して、「あなたと同じように、トランプも胸を痛めています」といった温和なナレーションを打ち出したりしたそうです。
そんなふうに、ビッグデータをもとに、アルゴリズムを設定し、ターゲットを絞って、そこに刺さりそうな広告を打つといったコンテンツを統合したはじめての選挙ということで、その背後にいたのが、クリック率や目標達成率に取りつかれたアナリストたちで、彼らの分析によって、受け取るメッセージが決められ、動かされていたようです。
アルゴリズムの問題
このデジタルの頭脳でもあるアルゴリズムについて、著者の指摘をいくつか列挙していきます。
アルゴリズムは、ユーザーがクリックしがちなコンテンツを提供できるようにデザインされている。それはコンテンツとともに、広告を売り込める可能性が狙いだ。
ユーチューブでレコメンダシステムを設計していたＡＩスペシャリスト、ギョーム・チャスロットによれば、このシステムのアルゴリズムは、「何が真実か」あるいは「何が公正か」という基準ではなく、視聴時間によって最適化されているという。「それ以外のものはなんであれ、邪魔者と見なしていた」。最近受けた「ガーディアン」の取材でチャスロットはこたえている。
こうした“非決定”に基づく決定が多分に暗示するのは、軽度の確証バイアスでさえ、自己永続性の循環に陥ってしまう可能性だ。左翼政治に関するリンクをクリックしたとしよう。アルゴリズムはこのクリックで左翼政治に関心を持つと解釈し、関連リンクをもっと表示する。目前に選択肢があれば、相手がもう一度クリックする可能性がさらに高まる。そして実際にクリックすれば、またもや別のサインとして受けとめられる。
チャスロットが退社後に行った調査によると、対立をあおる内容の動画が増えるよう、ユーチューブが組織的に取り組んでいるという話だが、こんなことはユーチューブも認めはしないだろう。
アルゴリズムは、開発を担当した者が構成した問いからかならず演算を始める。その結果、アルゴリズムは開発者の偏向を再生する傾向からどうしても逃れられない。
アルゴリズムが改善を図るにつれ、コンピュータは最善かつ、少なくとも人間の決定に比べれば、コストパフォーマンスにも優れた解決策を繰り返し生み出すようになる。その結果、コンピュータの不公平が目に見えないものであっても、私たちの生活において重要性をますます高めていく。
アルゴリズムは、開発者というより、その開発者を動かしている組織や人の意向を反映した結果をうみだしていくということですね。今、世界でお金をもっていて組織を動かしている人たちというのは、グローバリストと呼ばれる人たちで、その人たちがかかげる課題の一つが人口削減です。
アルゴリズムが人口削減を目指している人の意向を反映する結果をうみだすのであれば、最近読んだAIへの警告もあながち誇張ではないと思えて、とても背筋が寒くなりました。その警告というのは、最近までトロント大学でコンピュータサイエンスを教えながら、Google 社でAI 研究に携わっていたジェフリー・ヒントン博によるもので、BBCのインタビューのなかで以下のようなことを言われたそうです。
私の推測では、今から 5年から 20年の間に、人類は約半分の確率で、AI が人間を支配しようとする問題に直面しなければならないでしょう。
これは人類にとって「絶滅レベルの脅威」につながるでしょう。…私たちにとって非常に憂慮すべきことになっているのです。
私が最も懸念しているのは、これらが自律的に人を殺す決定を下せるようになることです。https://indeep.jp/are-we-training-new-skynet/
人を殺す決定をAIがするようになるというのが、どういう筋道ででてくるかわかりませんが、実際のところ、In Deepのこの記事でも、過去の記事でも指摘されているとおり、今のイスラエルのガザへの攻撃ではAIがイスラエル軍の司令官となっていて、軍人はそれを追認しているだけといった報告もあり、すでに人を殺す道具として使われているわけです。
これがこの先どうなっていくのかわからず、AIの能力については、人知を超えることはないという人と、この人のようにそうではないという人がいて、私はどちらが正しいのかわかりませんが、アルゴリズムという、ほとんどの人が気にもしないようなことが、大きな脅威であることをまずは知ってもらいたいですね。
この脅威は「ディープラーニング」によってましていくと思われるので、尚更です。これまでの機械学習は、人間が法則を用意し、そのルールに則って機械にデータを処理させることで学習モデルを認識していくものでしたが、人間がルールを用意しなくとも、独自に学習モデルを認識する機械があるそうです。人間の脳内のニューロンの層が、神経回路を通じてパターンを特定したり、瞬間的にイメージを結んだりする活動を模したのだそうです。
そうなると、AIの学習に携わる人たちすらいらなくなっていくわけです。機械は利益配分を要求しないから、資本家に対する金銭的な見返りがますます大きくなって、貧富の格差が拡大していくことになり、それも民主主義にとって一つの脅威だと本書は指摘しています。社会のなかで守るべき資産をある程度もつ、分厚い中間層が存在していたことで、民主主義が機能していたからです。
テクノロジーから民主主義を守るために
本書によれば、私たちは選挙キャンペーンにおいて、政治的コンテンツが「ヒット」するかどうかの「ターゲット」でしかなくなりつつあり、その結果として、民主政治を成り立たせている土台が崩れようとしています。
大衆政党による政治では、幅広い計画を持つ政党によって、十人十色でさまざまな関心をいたく国民をひとつにまとめ、政策方針を整えてきたけれども、ビッグデータはそれとは違ったものを指向していると次のようにあります。
ビッグデータが指向するのは、これまで以上に個別化されたモデルだ。その集団の人となりを割り出し、彼らが関心を向けるものを見つけ、それに正確な狙いを定める。政治の世界では一貫して説得型広告が用いられてきた。（中略）現在、特定集団の有権者にターゲットを絞れるようになると、何百万という有権者に大量の広告を送るかわりに、彼らの関心に基づいた、具体的な見通しや公約と誓約が発信できるようになった。
これこそ劇的な変化であり、その影響は広い範囲に及んでいる。重要なのは誰もがみな同じメッセージを受け取ることであり、そうでなければ、他の人間がどんなメッセージを受け取っているのかは少なくとも知っている必要がある。知っているからこそ、同時代の問題をめぐって私たちは議論を交わせられるのだ。誰彼かまわず送られ、個別化されたメッセージしか受け取れなければ、公開討論が共有できなくなってしまい、何百という烏合の衆にすぎなくなる。
2016年の選挙が個別化の始まりだとしたら、さらなる細分化の可能性も懸念されています。サイコグラフィックスという人間の性格的特徴を解明し、それに基づいた広告を設計する方法が、使われたか否かも議論されたそうです。
この細分化の傾向はモノのインターネット化（IoT）でさらに進む可能性があります。冷蔵庫は持ち主が何時に食事をするのかを学習し、車は所有者のこれまでの移動先を知るようになり、家電製品は声の調子からおおまかな怒りのレベルを推測できるようになることなどによって、よりきめ細かな情報提供ができるようになるからです。
これらの傾向がいきつく先の技術（テクノロジー）と権威主義が結びついた政治を、著者は次のように表現しています。
その制度はごく少数の技術専門集団が動かし、まごうかたなき権力と権威の中央集権化はますます図られている。本当の自由のかわりに、コントロールされた自由のもとで、私たちは穏やかでそつなく、しかもさり気ないテクノ・オーソリテアリアニズムへと導かれていくのだ。
私たちの大半はそれに気づくこともないだろうし、ほとんどの者が気にもとめようとしない。
多くの人が気づかないまま進行しそうな事態としての懸念があるなかで、テクノロジーから民主政治をいかに守るのかという課題に私たちは直面していて、まずは現実を知り、知らない人に伝えていかなければならないわけで、このブログもその活動の一つです。
そして、個々人が日々の積み重ねのなかで地道にできることとして、本書の指摘にある活字文化の復権が一つの鍵になると感じており、その一節を最後に取り上げます。
書き言葉、つまり、活字人間は静かで、クールで論理的だとマルクハーンは言っていた。注意深い分析を基にして、彼は物事を順序立て、それらを分類していた。情報を伝達するメディアについても考え抜いていた。（有名な「メディアはメッセージである」というテーゼはその成果だ）。書き言葉に比べ、電気による情報、とくにテレビは聴覚に訴える（マクハーンの時代、テレビはインターネットに相当した）。それは音と画像であり、さらに総合的な感覚の経験である。読み書きする人間が知性的なら、電気の人間は感情的で、聴覚や触覚などの感覚に依存しているとマクハーンは説いた。
このあと別の論と照らして、活字人間のほうが民主主義に向いているという論を展開しており、それは読書の習慣が全くなかった私が読書好きになった今、腑に落ちるところでもあります。テレビやインターネットからはなれて、本を読んで、民主主義を共に守っていきましょう。
この記事が気に入ったらサポートをしてみませんか？