人工知能民主主義の不可能性――東浩紀『訂正可能性の哲学』ゲンロン
本書を手に取って、目次をざっと見た後に、最初に読み始めたのは第5章「人工知能民主主義の誕生」であった。私はずっとＳＦ作品の中で出てくる統治アルゴリズムに興味があった。例えばデイヴ・エガーズ『ザ・サークル』、林譲治『不可視の網』、アニメ『PSYCO-PASS』、映画『AI崩壊』などである。東浩紀の『一般意志2.0』が約10年前に出た時、それをとりあげた読書会に参加したが、東浩紀がテクノロジーによる民意集約をどう評価しているのかで、意見が分かれていたことを思い出した。『一般意志2.0』から十年越しに、『訂正可能性の哲学』を読み、ようやく理解した。東浩紀自身は『訂正可能性の哲学』の註で『一般意志2.0』についてこう書いている。テクノロジカルに民意を抽出できれば理想の民主主義は実現できるという「素朴な主張」をしていたが、「とはいえ当時のぼくには迷いがあった」（本書p.219の註26）。この「迷い」が、『訂正可能性の哲学』では、人工知能民主主義の不可能性に収斂する。この点が確認できたので、『訂正可能性の哲学』を読んでよかったと思う。
当たり前の話で恐縮だが、東浩紀の人工知能民主主義をめぐる議論は、うまく整理されていて議論を追いやすい。私がうだうだと考えていた問題にスッと筋が通されているので、大いに参考になる（悔しくもある）。私は『ポストヒューマン宣言』という本で人間以上の存在について考えたのだが、そこで中心的に議論したのは「ポストヒューマンはほんとうにポストヒューマンなのか？」だった。〈ポストヒューマンのパラドックス〉と命名したが、ＳＦに登場するポストヒューマンはけっこうな頻度で人間的な悩みを抱えていて「それって本当に人間を超越したの？」と思っていた。東浩紀の議論に寄せるなら、人間への過信と人間への絶望に共通している「人間の疎外」は、ＳＦのポストヒューマンたちも経験している。人間からの疎外が、理解不可能な域までたどり着けば人間からの超越となるし（が表象不可能である）、疎外を疎外として経験できれば、それはいつまでも人間なのだ。
ビッグデータ・アルゴリズムが対象とするのは「あなたに似た人」であって「あなた」自身ではない。ゆえにフーコー的な監視からの主体の生成にはならない、というキャシー・オニールを踏まえた指摘も実に興味深い（本書第7章）。ＳＮＳや行動履歴のビッグデータ分析は、もはや個人の監視ではない。個人はどこにもいない。あるのは統計的な確率で、個人のユニークさは外れ値（例外）として処理される。アルゴリズムに組み入れられるとしても、「次の行動」から算入される。ベンサム＝フーコーのパノプティコンは、監視者は監視対象を実際に見ていなくても、監視対象者は「監視されているかも」と監視者の視線を内面化する（ことで主体が生まれる）。ビッグデータ分析では、そもそも監視対象を監視していない。特定の個人を狙ってその人間をトレースする、という意味では。個人名はプライバシーとされ、伏せられる。個人データは断片化され、セグメント化され、アルゴリズムで分析される。たぶん、私たちは監視カメラを気にしなくなっている。監視カメラの向こうに誰もいないことを知っている。私たちの姿を映しているが、私たち個人を追いかけていないことを知っている。（犯罪があればトレースされるが。）私たちの断片化したデータが蓄積されることは知っているが、それがどう使われるのかは、わからない。だから私たちは監視カメラに写っていても、誰かのＳＮＳに写り込んでいても、あるいは自分から積極的にプライバシーを開示していっても、問題ない＝気にしない。ベンサムのパノプティコンは、監視者が肉眼で監視する設計だ。人間の身体的限界が、設計図に反映されている。パノプティコンを、監視カメラやビッグデータといった、一個人が肉眼で確認できないものに援用することは、実はそもそもできないのではないか。
東浩紀の本で私が最初に読んだのは、『動物化するポストモダン』だった。「大きな物語」ではなく、表層に「小さな物語」、深層に「データベース」、表層と深層のあいだを「萌え要素」がつなぐデータベースモデルは、言語モデルに近いのではないか、と思っている。表層には「文」、深層には「辞書」があり、文と辞書の間を往復するのは単語だ。文を組み立てるために辞書から単語を取り出すが、組み合わせ方によって新しい意味を帯びる。新しい意味は辞書に収納される。話者が自由に・無限に文を生成できる。東浩紀のデータベースモデルは、キャラクター論であり、それまでキャラクターの意味を統御していた作家という存在の権威が、同人文化やインターネット文化の台頭で、読者によって徐々に切り崩されていく過程を「大きな物語の機能不全」と位置づけていた。この二層構造とその間を要素が往復するモデルは、言語的だしキャラクター論にも使えるし、『訂正可能性の哲学』であれば共同体論にも援用できるのだろう。だからウィトゲンシュタインやクリプキの言語論が出てきたときに、私は『動物化するポストモダン』からの継続性を感じたのであった。
「訂正可能」は言語的には禁止と濫用と関係している。同じ言葉遣いをすれば共同体の仲間意識は生まれるが、共同体の仲間意識を維持するために同じ言葉遣いを強要する。濫用しないように禁止するが、禁止があれば濫用したくなる。現実世界で「訂正可能な共同体」とは、どのような形になるのか。考えれば考えるほど、難しく、良くわからない。本書では「クレーマー」と「ハラスメント」という言葉が、訂正可能性の契機として言及される。（「すべてクワス算だったと言い募るクレーマーの出現を排除できない。」220ページ、「２かける２の答えは５かもしれない。それはいままで築き上げてきた乗算の蓄積をすべてひっくり返しかねない、とんでもないクレームである。にもかかわらず、いままで繰り返し見てきたように、ぼくたちはそんなクレームを投げかける懐疑論者をけっして排除できない。」318ページ、「たとえば恋人にむかって愛の言葉を囁いているときは、恋愛のゲームのなかにいると思い込んでいる。けれども、現実にはそこにはつねに、第三者がやってきて、じつはおまえはいままでずっと別のゲームをプレイしていたのだ、相手は本当は恋人ではなく、おまえを愛しておらず、したがってお前の言葉も愛の言葉としては機能しておらず、おまえはずっとハラスメントをしていたのだと指摘される可能性がつきまとっている。」45ページ）。この例からは、「ハラスメント」は共同体から個人へ、「クレーム」は個人から共同体へ、言葉の意味付け変更が要請されている。ここではこれ以上、立ち入れないが、共同体が原理的に訂正可能であるのは良いとして、私たちは〈私―私たち〉の囲いをどこかでどうやって作らないことには、流動性が高くなってしまわないだろうか。「ハラスメント」あるいは「クレーマー」として共同体として認定するには、何をどうすれば良いのだろうか。今後の課題である（私の）。
この記事が気に入ったらサポートをしてみませんか？