フランク・パスカーレ『ブラックボックス化する社会／金融と情報を支配する隠されたアルゴリズム』

☆mediopos2897　 2022.10.23

もともと政府もメディアも企業も
オープンであったためしはなく
隠したい情報は秘密にされたまま
「ブラックボックス」のなかにあり
数多くのフィルターの通された情報しか
開示されることはないが

インターネットが普及した現在の
「情報と金融をコントロールする
隠されたアルゴリズム」の世界では
私たちはますます巧妙な仕方で管理化され
「ブラックボックス化」が進んでいる

著者のフランク・パスカーレは
その「ブラックボックス」の内部で
行われているさまざまな「悪行」を
明るみにだすための制度を築こうとしているが
（本書の原書が刊行されたのはすでに七年前）

とくにここ数年の
政府・メディア・企業の情報の
「ブラックボックス化」による
監視社会化は激しさを増している
しかもその方法は「隠されている」というよりも
むしろなりふり構わないほどあからさまでさえある

少しばかり情報へのリテラシーがあれば
疑ってしかるべき場合でも
とくに日本のような
「教育」の行き届いた
教えられたことを信じやすい人びとは
とくに教育程度の高いとされる人たちほど
開示され指示された情報に対して
疑うことさえしないまま従順に従ってしまう

そういう人たちにとって
「ブラックボックス」はむしろ
「ブラックボックス」のままのほうが
じぶんで考えなくても良い分好都合なのかもしれない

そしておそらくそれは
ある種の「善良さ」に由来している
そこには「知る必要性」などなく
「みんなで渡ればこわくない」のである

おそらく現在のような状況は
ある種の破壊的なものとなるまで
つまり「みんなで渡ったけれどこわくなった」
ということになるまで
変わることはないのかもしれない

そしてそのときはじめて
メディアも政府も企業も
変わらざるを得なくなるのだろうが
いまはまだ「みんなで渡ればこわくない」と
危険な道を渡ろうとしているようにしかみえない

■フランク・パスカーレ（田畑暁生訳)
　『ブラックボックス化する社会／
　　金融と情報を支配する隠されたアルゴリズム』
　（青土社　2022/6）

（「第１章　序————知る必要性」より）

「強力な企業や金融機関、政府組織が「不開示合意」「適切な方法」「言論統制法」等のもとで自らの行動を隠しているのに対し、市民の生活は徐々に裸にされてしまっている。私たちのオンラインでの行動はすべて記録されている。そのデータが誰に、どのくらい開示されるのかといった問題が残っているに過ぎない。匿名化を行うソフトウェアは多少の扶けにはなるが、「隠れよう」とする行動自体が、監視当局にとっては目印となっているのではないか？　監視カメラや、データ業者、センサーのネットワーク、「スーパークッキー」等が、私たちの運転速度、飲んでいる薬、読んでる本、訪れたサイトなどを記録している。法律は、ビジネスの世界での営業秘密を守ることには熱心だが、個人のプライバシー保護については比較的寡黙なのである。
　本書が焦点を当てるのはこの不均衡である。(･･･）
　私たちはまずこの問題を十分に理解しなければならない。「ブラックボックス」という言葉はそのために有用なメタファー（隠喩）であり、それ自体二重の意味を持っている、一つは、飛行機や列車、自動車などが搭載している、データ記録機器である。そしてもう一つ、入力と出力は観察できるが内部の仕組みがわからない、ミステリアスな装置をも意味する。私たちは日々、この二つの意味に直面している。企業や政府によって行動を追跡されるが、その情報がいったいどれほど遠くまで運ばれ、どのように利用され、どんな結果をもたらすのか、私たちにはまったく明らかではない。」

「知識は力である。自分を隠しながら他者を観察できれば、それは最も強い力となる。企業は観客や従業員になり得る人の詳細な個人データを得ようとするが、企業自身の統計や手続きに関する情報は、当局に対して必要最小限しか開示しない。ネット企業は利用客についてますます多くの情報を集めているが、その記録に対して利用者が権利を行使しようとすると、規制と争う姿勢を見せる。」

「ビッグデータのブラックボックスを解明するのは容易なことではない。ＩＴ企業や金融機関がその手法を進んで開示しれくれたとしても、理解するのが難しいのである。従業員の生産性、ウェブサイトの関連性、投資の魅力などに関わって彼らが出した結論は、多数のエンジニアが導出した公式によるものであり、法律家たちによって守られている。
　本書において私たちは、ブラックボックスを閉じておくための主要な三つの戦略について探求する。その三つとは、「実際の」秘密、法的な秘密、そして「不明瞭さ」である。「実際の秘密」は、隠れたコンテンツと、それへの承認されないアクセスとの間に、障壁を建てる。私たちがドアに鍵を掛けたり、メールをパスワードで保護したりするのと同じである。法的な秘密とは、ある種の情報を秘密にしておく法律上の義務がある事柄である。（･･･）「不明瞭さ」とは、秘密が明かされねばならない時に、それを何とか誤魔化そうとする試みに関わる。」

（「第５章　観察者を観察する（そして改良する）」より）

「ネット企業と金融機関は、私たちの情報経済の基準を定めている。これまで彼らはその力を、商業世界を詳しく理解することに使ってきた。グーグル設立者の一人でありセルゲイ・ブリンはかつて、「完全な検索エンジンは神の心に誓い」と述べた。グーグルが地図、電話ソフト、ひいてはホーム・マネジメントに投資するにつれ、グーグルの見る、聞く、追跡する、感知するといった力は成長する。データ業者も同様のゲームを行っており、私たちについての情報を束ねている。取引パターンを即自に、包括的に知りたいフラッシュ・トレーダーから、戦略的に重要企業のハブに位置する「専門家ネットワーク」まで、ウォール街の「知りたいという欲望」も空前だ。ライバルより多くを知ること、あるいは、ライバルよりただ早く知ることが、巨大な収益を生むカギになる。
　しかしもし、経済上での成功が「情報の優位」よりも、「生来の生産性」に基づいていたとしたらどうであろうか？　何を生産する「べきか」という実質的な判断から離れ、ウォール街やシリコンバレーが財やサービスに対して置く神秘的な価値付けに、私たちは導かれてきた。しかし、中立で客観的とされる彼らのアルゴリズム・メソッドは、富と注目に関するある種のヒエラルキーを強化する方に、予想通り偏っている。」

（「第６章　知的な社会に向けて」より）

「依然として秘密を尊重する風潮の中で、悪い情報が良い情報として通用したり、その結果として不公正で、ひどい場合には破壊的な予測がなされたりする。だからこそブラックボックスによるモデル化を広く利用することは、たとえそれがモデルを操る内部者によっては利益が上がるとしても、社会全体にとっては危険なのだ。無実の人が傷つけられることがある。抗弁できない。あるいは知らされることさえないかもしれない不正確な情報によって、何も悪くない人が「安全への脅威」「給与泥棒」「信用リスクあり」といったレッテルを貼られる可能性がある。不公正もしくは不適切な思考がアルゴリズムの力と結びついて失敗すると、モデル化は一層悪い影響をもたらす。」

「テクノロジーのオープンな利用は、公約としては難しい。米国政府は監視テクノロジーを市民に向けるのではなく。私たちのために、企業の貪欲や浪費をモニターする用途に使うことができるはずだ。テクノロジーや金融において人々の選択肢が広がることは、私たちの社会をより公正に、より分かりやすくするだろう。「真に人間的な目的を欠いた、非人間的な経済」に自分を合わせるのではなく。いかにして組織を、株主の価値の最大化かた、より高次の目的へと変えることができるかを問うてみよう。確かに威厳やデュープロセス、社会的正義を求めることには議論が付きまとう。既得権益を他人に分け与えたくない人々もいるだろう。にもかかわらず、金融や通信のインフラについての重要な意思決定は独立した評価者の目に晒すべきだと、私たち市民は要求する時である。さらに、一年なり一〇年なりしかるべき時が過ぎた際には、市民全員が見ることのできる公的な記録として残すべきである。
　ブラックボックス化したサービスは、驚異的に見える。しかしブラックボックス社会は、危険なほどに、不安定、不公正、非生産的なものだ。ニューヨークのクオンツも、カリフォルニアのエンジニアも、堅実な経済や安全な社会を築くことはできない。それは市民の仕事である。市民はそこで賭けられているものを理解してはじめて、この仕事を遂行することができるのである。」

（「訳者あとがき」より）

「著者が本書で問題にするのは「ブラックボックス化」、すなわち、一般人には中を見通せない秘密の意思決定やアルゴリズムが、金融機関やネット企業で多用され、普通の人々の人生に大きな影響を与えてしまっているという事態だ。原書の出版は七年前で、内容も基本的には米国が対象だけれど、日本においても禁輸資本やＧＡＦＡの支配は同じように強く、日本でも多くの人に是非読んでもらいたい内容である。
　巨大金融機関の幹部は、儲かればボーナスや株式などで多額の報酬を手に入れ、金融危機に陥っても政府資金で救済され、役員個人は退職金を奪って逃げてしまう。彼らはどちらに転んでも損はない。その陰で、住宅ローンが払えなくなり露頭に迷う庶民が続出した。「邪悪になるな」という理想を掲げていたグーグルがライバルになり得る企業の検索順位を落としつつロビー活動に精を出し、人々をつなぐことを理想としていたフェイスブックが人新を操ったり、権力の手先になったりする。アップルはアプリを承認するかどうかの詳細な基準を明かさないし、アマゾンの「おすすめ」アルゴリズムも謎に包まれている。ブラックボックスの内部で行われている悪業に対して、それを何とか明るみに出すための制度を築き上げようとする著者の努力に、私も大いに共感している。」