ラリー・エリソンが創りたいオーウェル的悪夢

5,962 文字

ほんならみなさん、今日は億万長者が作り出すようなジョージ・オーウェル的な悪夢みたいな話をしていきますわ。まず背景をちょいと説明させてもらいますね。
Oracle社の共同創業者で億万長者のラリー・エリソンが、たぶんOracle社のアナリスト会議みたいなとこで発言したんですわ。ほんで、こんなこと言うたんです。
「我々は常時監視体制を敷くことになる。全ての警官が常に監視下に置かれ、何か問題があればAIがそれを報告し、適切な人物に通知する」
まあ、警察官が特別な立場にあるのは分かりますわな。免責特権があったり、権力を求める人間が集まったりするとこやし。アメリカでは警察官のボディカメラの導入が市民の自由のためにええ効果を発揮してきたんは事実ですわ。
せやけど、エリソンはこう続けたんですわ。
「市民も常に監視され、全てが記録・報告されることを知っているから、みんな良い子にしてるはずや」
おいおい、これ中国の社会信用システムちゃうんか？ほんまにびっくりしましたわ。
エリソンはさらに、AIが警察のボディカメラ、ドアベルカメラ、車のダッシュボードカメラ、交通カメラなどの映像を全部見張ることができるって話をしてたんです。そうやって、AIドローンが警察車両に取って代わる可能性もあるって言うてました。
まあ、ドローンのアイデアそのものは悪くないかもしれませんけど、多くのドローンは高速追跡に必要な速度や航続距離がないんですわ。ほんで、追跡対象が誰かにぶつかるまで追いかけ続けるだけやったらどないすんねん？エリソンは警察官やないんやから、そんなこと分からんのは当然ですけどね。
この発言は多くの人の眉をひそめさせましたわ。経済的な背景を説明すると、エリソンがこんな話をしたのは、Oracle社が独自のAIインフラを構築しているからなんです。確か、Oracle AI Cloud言うたっけ？
まあ、Oracle社はメインの事業以外にも手を出してきた歴史がありますわ。昔は仮想マシンの実験をしてて、クラウドインフラに参入しようとしてましたからね。今でもそのサービスはあるんやろうけど、VMwareやMicrosoft、Google、Amazon AWSなんかに比べたら大したことないですわ。
今回も「ほら、うちもAIできるで！」言うて手を挙げてるみたいな感じなんです。
さて、ちょっと考えてみましょか。億万長者が世界中を監視する妄想を抱いてる...これって何やねん？「言い間違いやった」とか「一時的な判断ミスや」とか「ただのノリで言うただけや」とか言うかもしれませんが、報道によると、エリソンはこの話をするときめっちゃ興奮してたらしいんですわ。
なんで億万長者が自社のAIインフラを構築することを考えたとき、まっさきに思いつくんが「全国民を監視しよう」なんやろ？これは億万長者が我々とは全然違う世界に生きてはるってことを示してると思いますわ。
億万長者には専属の警備員がおるし、プライベートな島やら地下シェルターやら持ってるし、ほとんどの人間から隔離された生活してはるんですわ。社会的に見たら、異常な存在なんです。
ここで「異常」言うたんは、億万長者が存在すべきやないとか、億万長者は非倫理的やとか、そういう意味やないですよ。それはまた別の議論になりますからね。億万長者はシステムの結果であって原因やないと思いますわ。
「異常」言うたんは、人間がそういう状況で生きるようにできてへんってことなんです。
みなさんの中には「サクセション」っちゅうテレビ番組のこと指摘してくれた人もおりましたな。億万長者やなくても、ただの金持ち家族でも、番組に出てくるような社会問題抱えてることが多いんです。
番組では、年取ったときに誰も本当にあんたのこと好きやないし、一緒におりたいとも思ってへん、みんなあんたの金が目当てなんや...みたいなこと描かれてますわ。
これが個人的に、今以上に金持ちになりたくない、有名になりたくない理由の一つなんです。今はごく普通の中流階級ですけど、これ以上有名になるのは勘弁してほしいんです。今の段階で十分有名すぎるんですわ。
ほんで、自分よりもはるかに金持ちで有名な人がおるって考えたら、どんな気分なんやろ...想像もつきませんわ。
ちょっと話が飛びますけど、「ホーム・アローン」っていう映画についてのビデオエッセイを見たことを思い出しましたわ。ミレニアル世代かそれ以上の年齢の人なら、マコーレー・カルキンが出てた「ホーム・アローン」の映画覚えてはるでしょ。続編もあったけど、オリジナルには及ばへんかったですな。
そのビデオエッセイでは、主人公が上層中流階級の家庭の子供やったことが、この映画が共感を呼んだ理由やって説明してました。「我々」対「奴ら」みたいな構図があったんです。
ちょっとそのエッセイの内容を要約するのは難しいですわ。何年も前に見たんで、うろ覚えなんです。でも、基本的には泥棒が「奴ら」、つまりあいまいな「他者」、中流階級や上層中流階級に入り込もうとしてる下層階級の不良分子みたいな扱いやったんです。
「奴ら」はそこにおるだけやなくて、いつも中流階級の生活に入り込もうと企んでる。しかも子供たちの安全も脅かすんや、みたいな。「ホーム・アローン」シリーズには、そういう深い恐怖感が組み込まれてたんです。
もちろん、「カルビン＆ホッブズ」読んで育った子供たちは、「泥棒をやっつけるためにどんなことができるかな？」って想像してたんですけどね。子供の視点からしたら、「悪い奴らがおるから、好きなようにしていいんや」みたいな感じやったんでしょう。
確かに映画にはちょっとしたサディズムも含まれてましたけど、同時に「他者化」のアイデアもあったんです。「自分は中流階級やけど、ここに下層階級の人間がおる。だから好きなように扱っていいんや。奴らは悪い奴やし」みたいな。
このラリー・エリソンの件を聞いてて、そんな雰囲気を感じたんです。エリソンは「ホーム・アローン」の主人公の家族みたいな感じで、「悪い奴らを全部締め出せ」って言ってるみたいやったんです。
これが、人々が「悪い奴」のニュースを聞いたときに「ざまあみろ」って反応する理由なんですわ。「警察に撃たれて当然や」とか「一生刑務所に入っとけ」とか。だって「悪い奴」やからね。
いったん誰かを「望ましくない」とか「悪い」とか「共感に値しない」って頭の中で決めつけたら、何をしてもええって正当化できてしまうんです。これは人間の基本的な心理で、部族主義の一種なんです。心理学101でも習うような基本的なことですわ。
私も大学で心理学を5週間だけ勉強しましたけど、それ以降もたくさん心理学の本読んできましたからね。
この「他者化」、つまり「自分からできるだけ遠ざけたい人々の階級がある」って考え方が、ここで起こってると思うんです。
ほんで、ラリー・エリソンの発言を聞いたときの最初の反応は「できるからって、すべきってわけやないで」みたいな感じでした。それに「だからこそ我々は法の支配下にある国に住んでるんであって、億万長者の気まぐれに左右される国やないんや」ってことですわ。
我々は政府の役割についての基本原則を紙に書いて残してるんです。言論の自由とか、適正手続きとか、そういうものです。
もちろん、世の中がどんどん複雑になって、アメリカ憲法の起草者たちが想像もできなかったような技術が存在する今、これらの考え方を見直す必要はあるかもしれません。
プライバシーとは何か、自由とは何か、言論の自由は両刃の剣なのか、そういったことについて考え直す必要があるでしょうね。
でも、このラリー・エリソンっていう人物、シリコンバレーの大物テックブロの一人が、文字通り全ての人間を監視して取り締まるっていう妄想（あえてこの言葉を使いますけど）を抱いてるっていうのは...
多分、エリソンは公共政策とか警察の法執行とか、そういうことをちゃんと勉強したことないんやと思います。「みんなを監視できる」なんて言える人間は、歴史も政治理論も憲法も勉強してへんのは明らかですわ。
テック業界の人間としては、「技術的に可能やから、やればええんや」って考えるんでしょうね。
こういう連中の多くは、こういう会話での細かいニュアンスとか反論を嫌がります。自分たちが超天才やって信じたいんです。ファンがそう言うてくれるからね。
確かに彼らは自分の分野ではめっちゃ頭ええんですよ。でも、ここにはいくつか問題があるんです。
まず「ハロー効果」っていうのがあります。これは「誤った権威」とも呼ばれますけど、「ハロー効果」の方が覚えやすいですね。
ハロー効果っていうのは...ちょっと定義を確認しますね。「ある分野での印象が、別の分野での意見に影響を与える傾向」らしいです。
例えば、めっちゃ魅力的な人がおったら、その人は頭もよくて信頼できるはずやって思ってしまうんです。お金持ちやったら、頭がよくて他のことも全部優れてるはずやって。
それがハロー効果です。「超成功してる」「自信に満ち溢れてる」っていうオーラがある人に対して起こるんです。
それから「誤った権威の誤謬」っていうのもあります。これは似てるけど違うものです。「権威への訴え」の誤謬とも言います。
これは「ある人の意見を証拠として使うけど、その人がその分野の正当な権威者じゃない」って論理的誤りのことです。
「私は医者です」って言う人がおったら...最近、ジョーダン・ピーターソンとか他の人たちに対する批判でよく見られますね。「彼は医者やから頭ええんや」みたいな。
ユヴァル・ノア・ハラリの新著「ネクサス」に対する批判もありますね。情報理論について書いてるんですけど、ハラリのファンからしたら「すごいやん！」って感じなんでしょう。
私も「サピエンス」の続編の「ホモ・デウス」読もうとしたんですけど、SF作家になりたいけどSF小説を書く勇気がない人が書いたみたいな感じでした。
「ホモ・デウス」では「こうなる、ああなる」みたいなことが書いてあるんですけど、ハラリは文化人類学者か歴史学者やのに。彼の教育背景がなんなのかよく分からへんけど、テクノロジーの専門家やないのは確かです。
テクノロジーの専門家として見ると、こいつ本当のことを言うてへんなって感じです。ただの推測やん、って。
「ネクサス」でも同じことが起こったみたいで、多くの人が批判してます。
情報理論やテクノロジーについてあんまり知らんのに、自分の専門分野からかけ離れたことを言うてるんですわ。
ほんで、ラリー・エリソンに話を戻すと、彼も自分の専門分野から外れてるんです。彼の専門はデータベースですわ。監視システムでも憲法でも人工知能でもないんです。
自分の専門外のことに手を出し続けてるんですね。Oracleの市場シェアを見たら分かりますわ。クラウドコンピューティングが得意やったら、もっと大きなシェアを持ってるはずです。
最後に確認したときは5%以下やったと思います。ちょっと調べてみましょか...
Oracleのグローバルクラウド市場シェアは2〜3%くらいですね。このハロー効果があるにもかかわらず、テクノロジーの天才と言われるこの人物が、2〜3%のシェアしか獲得できてへんのです。
まあ、インフラストラクチャー・アズ・ア・サービスのカテゴリーでは少しマシで、13.3%のシェアがあるみたいです。悪くはないですけど、クラウドコンピューティング全体で2〜3%っていうのはあんまりですわ。大したことないですね。
同時に、こういう連中の多くは自分の権威を勘違いしてるんです。自分の成功を勘違いして、「ここで天才やから、他のことでも天才なはずや」って思い込んでしまう。
彼のIQが180くらいあるかもしれませんけど、生の頭脳の力だけじゃ、経験不足や学習不足、他の分野での厳密な知識の欠如を補えへんのです。
これは私自身も陥ったことがある罠ですわ。人々が「デイブ、あんためっちゃ頭ええな」って言うてくれるから。
Dr. Anna Psychologyのビデオエッセイを見たんですけど、そこで自分が権威者やと思い込む人と、周りの人がその人を権威者やと思い込む心理について説明されてました。これからはもっと慎重になろうと思いますわ。
行動心理学者とも話したんですけど、専門家の心理について教えてもらいました。
こんなことが起こるんです。「デイブ、人工知能についてめっちゃ詳しいな。じゃあこれについてはどう思う？」って聞かれるわけです。そしたら社会的な期待として、「一つのことで頭ええんやから、他のことも全部理解してるやろ」みたいになるんです。
「ほな、そういう期待に応えなあかんのかな」って感じになってしまうんです。視聴者やコンサルティングを依頼してくる企業からの期待に反応してただけなんです。
これが転換点なんです。ラリー・エリソンやイーロン・マスクに「SpaceXを作ったんやから、この問題も解決できるやろ」「他のことについても教えてくれ」って言われるようなもんです。
頭のええ人間は全ての答えを持ってるって期待があるんです。そして私みたいな人間や、私よりはるかに成功してる人間にも、もっと多くの答えを持ってるはずやって期待がかかる。
ほんで、人々を失望させんために、その期待に応えようとして「はい、全ての答えを持ってます」って言うてしまうんです。ジョーダン・ピーターソンもイーロン・マスクも同じことをしてますわ。
私はこれからもっと慎重になろうと思ってます。あるポッドキャストで気候変動の話になったとき、「これは私の専門分野やないです」って言いましたわ。「技術面でどんなことが起こってるか、数字も見てますけど、専門家ほど詳しくはありません」って。
自分が知ってることと知らんことの境界線をはっきりさせると、実はプレッシャーがめっちゃ軽くなるんです。
つまり、ハロー効果があったり、誤った権威があったり、ラリー・エリソンやイーロン・マスクみたいな人々に群がる人々がおったりするんです。
確かにエリソンは頭の切れる人物で、自分の分野では成功の実績もあります。でも、彼の分野ってなんなんでしょうね？何が彼の分野じゃないんでしょうね？それが重要なんです。
彼がこの経験から学んで、世界中の人々を監視するっていうオーウェル的な妄想を捨ててくれることを本当に願ってます。確かにOracleのデータベースには全てを記録する能力があるでしょう。でも、できるからってすべきってわけじゃないんです。
これで終わりにしましょう。聞いてくれてありがとうございます。じゃあね。