国連がAIについて発言している - 彼らが言っていることはこれや | イアン・ブレマーとビラワル・シドゥ | TED

13,607 文字

想像してみてくれへんか。国家じゃなくて、一握りのテクノロジー企業に支配された世界を。主に利益に突き動かされて、人工知能の手綱を握ってる企業がな。地政学の専門家イアン・ブレマーが言うところの「テクノポル世界」や。アルゴリズムが私らの人生や経済、戦争までも形作る世界やねん。
これ、SF映画の話とちゃうで。今まさに突き進んでる未来の話なんや。で、問題は誰がルールを作るんかってことやな。
そこで国連が乗り出してきたんや。大胆な計画を持ってな。グローバルAIガバナンスってやつや。2024年9月19日にこの計画を発表したんやけど、ここで詳しく説明させてもらうで。
私は事前にこの報告書を読む機会があってん。色々考えさせられたわ。この計画はな、国連が全ての主権国家に守ってほしいガードレールみたいなもんなんや。原子力発電や航空業界みたいにな。
でも今回はもっと難しい。AIはテック企業が握ってる分野やし、日々進化してて、ベテラン研究者でもまだ完全には理解できてへんからな。人類最大の課題を解決する可能性もあれば、世界中に混乱をもたらす可能性もある強力な道具なんや。
つまり、テック企業連合が支配する、こんな強力で若い技術に対して、世界的な行動規範なんて通用するんかってことや。そして、主権国家で構成された80年近い歴史を持つ官僚機構である国連が、この仕事に適した機関なんかってことやな。
私はビラワル・シドゥや。ここはテディ・ショーや。AIが全てを変えていく世界で、どう生きて、繁栄していくか考えていくんや。
今日のゲストはイアン・ブレマーさんや。アメリカの政治学者で、この報告書の共同執筆者の一人やな。ただの政策通ではなくて、世界のリーダーたちと同じ部屋にいて、このテクノロジー革命の動きを肌で感じてる人物なんや。
デジタル時代のガバナンスと、主権から大手テック企業への力のシフトについても研究してきた人やな。国連は、この世界を変える技術に対して実現可能な世界的合意を打ち出せる唯一の国際機関やと信じてはるんや。
みんな、シートベルトをしっかり締めておいてな。私ら全員が作ってる未来への旅になるで。準備ができてようが、できてなかろうがな。
ほな、イアンさん。ようこそ。
イアン: ありがとう、ビラワル。楽しみにしてるで。
ビラワル: ええやん。この報告書は重要な時期に出たな。AIはもう映画の中の未来の話やないってのは明らかや。でも聞きたいんやけど、なんで国連が今この時期にグローバルAIガバナンスに乗り出したんや?
イアン: 実はな、この問題については事務総長と5年以上前から話してきたんや。アントニオ・グテーレス事務総長が就任した時、ガバナンスが全然足りてへん2つの世界的な問題があって、それを最優先課題にせなアカンって認識してたんや。
1つは気候変動や。これはもう起こってるけど、あまりにも遅すぎるし、地球上の大多数の人々にとってはリソースが全然足りへんのや。
2つ目が破壊的技術、特に人工知能やな。これは逆に速すぎるし、ガバナンスが全く欠けてるんや。
時間がかかった理由の1つは、国連が官僚的な組織やから、物事を立ち上げるのに時間がかかるってのもあるな。もう1つは、地政学技術の上級特使がいなかったからや。
でも、これはずっと事務総長の最優先課題やったんや。そして、この技術に莫大な資金が投入されて、単なる誇大宣伝じゃなくて、実際の使用例に対する本物の興奮が起こってきた。人間同士のやり取りの仕方を変え、イノベーションの仕方を変え、社会や世界経済の仕組みを変えていく。そういう状況で、グローバルガバナンスがないと、多くのものが失われるし、大変なことになる可能性が高いんや。
だから、過去18ヶ月くらいで明らかに緊急性が高まってきたんや。そういう意味で、この報告書は本当に重要な時期に出たと思うで。
ビラワル: そやな、まさにタイミングが良かったって言えるかもしれへんな。特にチャットGPTの時代、つまり大規模言語モデルの時代になって、一般の人でもこの技術を体験できるようになったのは最近の現象やからな。
機械が単に理解するだけやなくて、創造もできるようになった。そういう意味で、ガバナンスが必要な技術の範囲も広がってきたわけや。
報告書では、機会とリスクの共通理解が重要やって指摘してるな。もし観客のために機会とリスクの要点を絞るとしたら、どんなもんになると思う?
イアン: まず機会の方やけど、普通の人がAIを日常生活に影響するような形で使えるようになったってのはでかいな。チャットボットと対話したり、AIツールで創作活動をしたり、アートを作ったり、動画を作ったり、編集したり、アイデア出しをしたり。スマホやパソコンがあれば、誰でも少なくとも限定的にAIにアクセスできるようになった。
これは大きな変革やな。道具として、助っ人としてAIが使えるようになった。それ以上のものになりつつあるケースもあるで。友達や相談相手、アドバイザーにもなり得る。これが個人にとっての機会や。
そして企業や産業での使用例もある。イノベーションが起こり、新しいワクチンや電池が開発され、交通をより効率的に管理できるようになる。そういったことが全部可能になるんや。
実際、世界中の製薬、エネルギー、小売、運輸の大手企業のCEOたちと話をしたけど、今週や今月の時点で、既にAIを産業に導入して数十億ドルも節約できてるって言うてるで。
私の見方では、この技術は大げさに宣伝されてるわけやない。むしろ、まだまだ過小評価されてる。ほとんどの人がこれからAIがどんな形で導入されていくか、既に導入されてるかを知らへんからな。これが1つ目のポイントや。
2つ目はリスクの方やな。AIへの投資を主導してるのはほとんどが企業で、政府はあんまりやない。でもな、こいつらは利益に関しては資本主義者やけど、製品から生じる損失やコストに関しては社会主義者なんや。
私はな、利益も損失も両方に対して資本主義者であってほしいんや。そうやないと気候変動の時と同じ轍を踏むことになる。
気候変動の時は、産業界の大部分と、それに同調する政府が、地球上の天然資源を搾取して大金を稼ぐことには資本主義的やったけど、その損失は誰もの問題やって押し付けた。つまり、発展途上国や子供たち、貧しい人々の問題にしてしもたんや。
これは資本主義やない。これは強欲な寡頭政治や。
私らが必要としてるのは、AIの導入から生じる負の外部性、つまり失われる仕事や、再配置が必要になるスキルセット、悪意ある行為者や素人がAIを使って経済や国家安全保障に危険をもたらすような誤情報、そういったものに対処することを保証することや。
また、AIがもたらす機会が、単に比較的裕福な少数の人々だけに利用されるんやなく、市場が最も効果的に彼らにサービスを提供するだけにならんようにせなアカン。
これらのリスクは、対処せんかったら大きくなる一方や。そして、市場がガバナンスモデルを独占することを許したら、対処できへんようになってまう。
健全な自由市場経済というのは、企業が公平な競争環境で競争し、政府や規制当局が独立した公正な仲裁者として機能するもんなんや。でも、アメリカの経済システムもグローバル経済システムも、そういう風には動いてへん。
特に、規制が全くない新しい技術を導入する時には危険や。これが、国連が現在取り組もうとしてることの背景にある状況やな。
ビラワル: よう説明してくれたな。この技術が両刃の剣やってことがよくわかったわ。素晴らしい指摘やと思う。
大規模言語モデルは主に公開データで訓練されてるけど、企業や政府が持ってる潜在的な価値のあるデータはまだ使われてへんからな。その経済的影響はまだ見えてへんのや。
同時に、この技術はデジタル世界を完全に破壊する可能性もある。気候変動のアナロジーも面白いな。
2つのことについて聞きたいんやけど、まず関係者について、それから動機についてや。
以前、テクノポル世界に向かってるって言うてたよな。大手テック企業がデジタル世界で事実上の主権を持つ世界や。でも、既存の主権国家がデジタルと物理的な世界の両方を統治することも重要やろ?
権力のダイナミクスの変化について、AIがどう関係してるか説明してくれへんか?
イアン: もちろんや。人工知能について考える時、まず私らが使ってるボットやモデルは、主に民間企業が開発してるってことを覚えておく必要があるな。
これらの企業はビジネスモデルを持ってて、市場の力に反応する。主に収益性と、この分野での他社との競争に動機づけられてる。
それが、彼らが何を作るかを決定づけるんや。政府やほかのアクターが、市場以外の方法で彼らに動機を与えへん限りはな。
AIの爆発的な普及の最初の数年間は、政府は追いつくのに必死やった。グローバルなガバナンスモデルはなかったし、ほとんどが少数の先進工業国だけの話やった。
さらに、その多くは今日のAIの状況に追いつこうとしてるだけで、3年後や5年後のAIがどうなってるかを考えてへん。でも、そっちの方がはるかに能力が高くなってるはずなんや。
モデル、データ、優先事項、動機、行動が企業によって決定されてて、政府じゃないってことは、テクノポルな環境を作り出すんや。
つまり、2024年の今のAI環境について話す時、政府が主権を持ってる環境について話してるんやない。
もちろん、最終的には政府が法律を執行する能力を持ってる。これらの企業は仮想世界にだけ存在するわけやない。地域に存在して、銀行口座も持ってる。暗号資産だけで完全にオフグリッドってわけやないし、家も持ってるし、市民権もある。
だから、絶対に統治できへんってわけやない。でも、事実上の現実は、AIが何であり、それで何をするかについての決定は、圧倒的に技術者たち、少数の技術者たちによって行われてるってことや。
これは2つのことを意味するな。まず、政府のアクターや政府のアクターで構成される多国間組織が効果的なガバナンスを作りたいなら、実際に民間セクターと協力せなアカンってことや。
自分たちだけではできへん。知識がないし、スピードも足りへんし、何をすべきかわかってへん。彼らがやってることやからな。
そうせんかったら、彼らが事実上自分たちで規制することになる。これは難しい問題や。なぜなら、彼らの関心は、市民を良くても消費者として、悪くても製品として扱うことにあるからや。市民としてではない。
政府が人々のために働くなら、AIについては民間セクターと協力せなアカン。これが今日の現実や。
そして、国連で私らが謙虚に学んだのは、何かを効果的に統治し始めたいなら、まずそれを定義せなアカンってことや。理解せなアカン。AIが何であり、どこに向かっているのか、機会とリスクの両方について共通の理解が必要なんや。
これは、国連が気候変動で非常に効果的やった部分や。時間はかかったけど、今では、貧しい国も豊かな国も、小さな国も大きな国も、独裁国家も民主主義国家も、その中間の国も、ほぼ全ての加盟国が合意してる。
気温が1.2度上昇したこと、大気中の二酸化炭素とメタンの量、それが極端な気象条件や生物多様性の損失に与える影響、海洋のプラスチックの影響、などなど。つまり、グローバリゼーションがもたらした負の外部性について、世界は合意してるんや。
今では、何をすべきかについては合意してへんし、リソースについても合意してへん。でも、問題と機会について合意できたら、リソースがある時にはより合理的に配分できるし、グローバルガバナンスについて議論する時も、ゼロサムの対立よりも協力を引き出す方がはるかに容易になるんや。
私の見方、そして広くコンセンサスが得られてる見方は、この報告書の目的は、強制力を持つ権威を作ることを呼びかけることやない。そうやなくて、今のAIの状況と、これからの展開がもたらす機会とリスクを共通して定義することを世界に呼びかけることなんや。
そうすることで、ガバナンスに必要なツールを手に入れられるんや。
ビラワル: よう言うてくれたな。これほど曖昧に定義された技術、そして関連する多くの技術を効果的に統治するには、本当に重要なことやと思う。
そして、あんたの言ってる中心的なポイントは、この技術の開発と展開を市場の力に任せるべきやないってことやな。ソーシャルメディアでどうなったか、私らはよう知ってる。エンドユーザーにとっても、社会全体にとっても、あんまりうまくいかへんかったな。
イアン: そうや、明らかに社会にとってひどいことになった。今のソーシャルメディアは、私らの社会の市民的構造を蝕んでる。これはソーシャルメディアの意図やなかった。ただ、ビジネスモデルの論理的な結果やったんや。
ビラワル: その通りや。エンゲージメントを最適化すると、おかしなことが起こるんや。
さて、AIはまた新たな課題をもたらすな。あんたも言及してたけど、聞きたいことがある。特にヨーロッパでは、既存の規制環境、GDPRやDMAなんかが既に厳しすぎるって声がシリコンバレーで上がってる。大手企業が恩恵を受けて、小さな企業や新興企業はどうなるんやって。
消費者保護とイノベーションの促進のバランスをどう取ればええと思う?
イアン: プラットフォームレベルでは、必要な計算能力、そのエネルギー、その冷却に必要な水を考えると、本当に少数の企業と政府しかできへんと思うんや。
彼らが利用できるデータを使えば、スタートアップ企業をすぐに見つけ出して、買収したり、支援したり、潰したりできる。これは歴史的にFacebook/Metaでも見てきたし、多くの組織で見てきた。
今も起こってる。何億ドルも資金調達したスタートアップの中には、「もうこの計算コストは払えへん」って言ってるところがある。
確かに、AIモデルがオープンソース化されれば、多くのプレイヤーが独自のローカルアプリケーションやセパレートアプリケーションでそのAIを使って大きな違いを生み出す可能性はあるな。
でも、AIの専門家の多くはそっちに賭けてへん。少なくとも、そっちにお金が向かってへん。確かにMetaはそっちに賭けてるけどな。
中国は全然違う話や。まだ話してへんけど、全く別の話になる。ほとんど自己完結してるからな。でも産業面では、中国のやることは非常に重要になる。
もっと悲観的な答え方もできるな。私の人生のほとんどの間、国家資本主義が失敗した理由は、汚職、非効率、縁故主義のせいで、そういう企業が非常に悪い決定をしてたからや。
でも、AIが導入されて、リアルタイムで大規模なデータセットにアクセスできるようになると、企業の成長を促進するためにAIが企業レベルで意思決定をするのが、民間セクターだけでやるよりも効率的になる可能性がある。
もしそうなら、非常に強い反競争的な衝動が生まれる。なぜなら、AIによって駆動される効率性と規模の経済を合わせると、経済的に最良の結果は非競争的なものになるからや。
でもそっちに向かってるなら、個人の権利を保護するための効果的な規制の役割はもっと重要になる。なぜなら、人々や消費者はもはやAかBを選択する能力を持たへんからや。
全てをコントロールするAI環境の中にいることになる。魚が水の中にいるようなもんや。
ビラワル: まさにそうや。
イアン: 私の見方では、5年以内に消費者は、社会的、ビジネス的、教育的、健康的、その他の関係の多くにAIエコシステムを使うことになるやろう。そして、おそらく全て同じAIになる。なぜなら、そのデータセットを1つの場所にまとめることに利点があるからや。
経済的な豊かさや、どんなサービスを望むかによって好みは変わるやろうし、地理的な要因もあるやろう。でも、もしそうなら、切り替えるのにはコストがかかる。
既にこれを感じてるはずや。例えば、Twitterで何年もかけてフォロワーや人脈を築いてきて、突然別のところに移りたくなっても、ロックインされてる。権利なんてない。
もし消費者側でそうなって、産業側でも少数のプレイヤーが膨大なデータを持ち、そのデータと計算能力、エネルギーを使ってイノベーションを推進できるようになるなら、国家レベルと世界レベルでの効果的なガバナンスと規制の役割はもっと緊急になる。
あんたの質問にうまく答えられてへんかもしれへん。あんたは小さな企業はどうなるのかって聞いたけど、私はもっと心配なのは、小さな企業が死んでしまうか、大きくなったら提携せざるを得なくなることや。
小さなクリエイターはたくさんいるかもしれへん。でも、十分大きくなって注目されるようになったら、レコード会社と契約するか、Facebookのインフルエンサーになるか、Instagramのインフルエンサーになるかしかない。
これがあらゆるセクター、あらゆる企業、スタートアップで起こる可能性があるんや。でも、もしそうなったら、個人がまだ権利を持ってるってことを確認するのにもっと注意を払わなアカンな。
ビラワル: あんたが指摘した点で、現在のパラダイムでは、大量の計算能力と大量のデータを持つ企業が大きな優位性を持つことになりそうやな。デジタル世界との相互作用を仲介する製品や体験を作り出し、物理的な世界でもそうなりつつある。
この文脈で、オープンソースがよく対抗策として挙げられるけど、これも議論の的になってるな。オープンソースとクローズドソースにはスペクトラムがあるからな。
正直に言うと、今日のほとんどのオープンソースモデルは、訓練データやソースコードへのアクセスを持つ完全なオープンソースモデルというより、オープンウェイトに近いんや。
報告書は「意味のあるオープンさ」を提唱してるけど、これについてもう少し詳しく説明してくれへんか?
イアン: つまり、世界中の人々、政府、組織が、西側や中国の最大のグローバルプラットフォームから来るAIモデル、価値観、好み、製品の単なる受け手にならへんことを望んでるってことや。
意味のあるオープンさ、つまり十分なオープンさがあれば、個人や企業、政府が実際にAIを意味のある形で自分たちの利益のために導入できるようになることを望んでる。これが希望や。
でも、これには力も金もない。権威もない。これは単に、AIについて様々な専門知識を持つ世界中の39人の集合的な見解にすぎへん。比較的簡単に合意できた部分やな。
ただ、私はどっちに向かうかについては不可知論者やと言っておく。どっちに向かってほしいかではなく、分析やからな。これらの問題について話す時は、これを心に留めておくのが重要や。
これらのモデルにはそれぞれ異なるリスクがある。もし圧倒的に閉鎖的なモデルになって、アメリカか中国のどちらかと提携する必要がある非常に少数の企業がAI分野を支配することになったら、国家安全保障と持続可能性のために必要な重要なガバナンスの枠組みは、アメリカと中国、そして関連する民間セクターのアクター間のAIにおける軍備管理協定のようなものになるやろう。
アメリカとソ連の間でそういうのができたのは、1962年のキューバミサイル危機で自滅寸前まで行ってからやったな。これは深刻な問題や。
最初の15年間、アメリカとソ連は原爆を開発し、次に水爆を開発し、それを発射するミサイルを開発し、全てのこの能力を開発して、できるだけ速く優位性を主張しようとした。ソ連はその優位性を覆そうとできるだけ速く動いた。
敵と話をして、自分がやってることを知らせたくない。それは単に相手に情報を与えることになるし、自分を制約することになるからな。
でも、実際にはそういう協定が必要なんや。そうせんと自滅してしまう。だから、これは次のアメリカ政権にとって不可欠なことやと思う。
二次的に、最先端のAIの推進力が、単に意味のあるオープンさではなく、ラジカルなオープンさになる可能性もある。世界中のほぼ誰もが、善意の行為者も悪意の行為者も、その中間の人も、AIモデルを取って自分の目的のために展開できるようになる。
そうなると、AI技術の未来はグローバル金融市場に似たものになる。システム的に重要で、誰もが使い、誰もが自分の目的のために必要とする。でも、ほぼ誰もがシステムに対する脅威になり得る。システムを崩壊させる可能性がある。
Redditで数人のやつがGameStopについて話してるだけで、グローバル市場にとって課題になるようなもんや。
そうなると必要なのは、地政技術安定化委員会みたいなもんや。金融安定化委員会みたいなもんやな。
実際に政治化されてへん、独立した技術官僚で、AI市場への潜在的な脅威を特定し、回復力を確保し、危機に対応することを意図してる。ベルを鳴らして「危機が来た」って言って、できるだけ速く集団で対応する。
これは、アメリカと中国の軍備管理ガバナンスとは全く異なるガバナンスやな。でも、今のところ両方について考え始める必要がある。なぜなら、これから数年間でAIがどのように展開されるかについて、どちらの方法論が最も成功するかまだわからへんからや。単にわからへんのや。
ビラワル: 金融のアナロジーは良いと思うわ。軍事的や外交的な関係に関係なく、これらの関係者の間でオープンな意思疎通ができるようにしたいってことやな。
オープンソースのAIが世界を動かすような状況になったら、従来の外交チャンネルでは帯域が狭すぎて、できるだけ早く対応するには制約になりかねへん。
イアン: 面白いな。キム・スタンリー・ロビンソンの「未来省」って本、きっと読んだやろ?
ビラワル: いや、この後読むわ。
イアン: なるほど。面白い本やで。気候変動についての本なんやけど、中期的にやや暗い未来を描いてる。インドで大規模な湿球温度事件が起こって何百万人も死んで、テロリズムやエコテロリズムが起こって、炭素排出量と関連事項について世界的な技術官僚による独立したガバナンスが必要になるって話や。
世界がずっと失敗し続けてきたからな。興味深いコンセプトやけど、気候変動に関しては多分必要ないやろう。お金は集まってきてるし、大規模な技術もある。次の2世代で脱炭素環境に移行していくやろう。
あんたが望むよりは遅いし、コストもかかるけど、それでも起こるはずや。
でも、AIには「未来省」が必要になるかもしれへん。今日の中央銀行家のような役割を果たすAI大臣が必要になるかもしれへん。
国家政府の一部として任命されるけど、政治的に独立して行動する。イデオロギーや政治サイクルに動かされるんやなくて、システムが世界的に機能し続けることを確保するために動く。
大きな金融危機が起きた時、中国人民銀行の総裁とFRB議長は同じツールを持ってる。財政ツールも金融ツールもあって、同じプレイブックと同じ定義を持ってる。みんな市場を機能させたいし、世界的な不況を避けたいと思ってる。
AIの未来もそうなる可能性が十分にあると思う。でも、はるかに難しい。
金融市場は巨額の資金の露出や動きを扱ってるけど、AIはお金のデジタル版だけやない。国家安全保障や選挙、バイオ、ドローン、何でもありや。
中央銀行の問題と似てるけど、はるかに強力になる。人工知能一般について考えてる人たちにとっては、人類が人工知能一般を扱えるようになるには、はるかに強力なガバナンスが必要になるやろう。しかも、技術官僚的で世界的なレベルでのガバナンスやな。
ビラワル: 中国の問題について聞きたいんやけど、ここでグローバルAIガバナンスの野心的なビジョンが描かれてるけど、国連によくある批判として、これらのガイドラインをどうやって強制するんやって話がある。
特に、今は協力的な大手テック企業も、いつかは独立性を主張したくなるかもしれへんし、中国みたいに従うのを渋る国もあるやろ。
イアン: だから気候変動の例を使ったんや。コンプライアンスから始めたんやない。課題と機会、リスクを定義することから始めた。
気候変動に関する政府間パネルがあって、それが拘束力のない炭素削減目標やらなんやらの前にあったんや。まず、多くの国々が機会と課題について合意する必要があった。
私らはそこから始めてる。AIに関する国際科学パネルから始めてる。気候変動に関する政府間パネルと同じようなもんや。
定期的に集まって、AIの開発とトレンドの能力、機会、リスク、不確実性、科学的合意のギャップを定義することを目的としてる。
世界がこれに合意して、基準を交換し、機会について話し合い、持続可能な開発目標と整合性を取れば、明らかにAIに関する年次サミットを開くことになるし、政府はこれにリソースを割り当て、コミットメントを作ることになる。
リーダーになりたい国もあるやろうし、そういう国は他の国を説得しようとするやろう。
後者の方が前者よりもはるかに難しくて時間がかかるけど、前者なしでは後者はできへん。
私の見方、そして広く共有されてる見方は、このグループの目的は、この機会と課題を定義する手助けをすることや。
そして、機会の方が課題よりも大きいと本当に考えてる。そういう風に考えてるんや。
技術企業が何をすべきで、何をすべきでないかについて、強制力のあるガバナンス力を持ちたいって言って出てくるつもりはなかった。それは絶対にありえへんかったし、そもそも何を達成しようとしてるのかわかってへんうちは時期尚早やろう。
だから、馬車を馬の前に置くなって。まず問題を正しく理解せなアカン。それを定義するところから始めるんや。
ビラワル: めっちゃ理にかなってるな。風景を調査して共通の地図を作らへんかったら、最初から意見の相違が出てくるのは明らかやからな。
でも、もっと難しい話題についてはどうなん? 例えば、ウクライナ・ロシア紛争やイスラエル・ガザ戦争でAIの使用が増えてることを考えると、戦争でのAI使用に関する国際規範や規制の開発について、この報告書はどういう立場を取ってるん?
イアン: 国連では既に、致死性自律ドローンや人工知能の使用を禁止する取り組みがあるんや。国家安全保障が直接ターゲットになってる分野ではな。
アメリカ、中国、韓国が核の意思決定プロセスについて話し合い始めてるのもあるし。
私の見方では、少数の政府が必要になるやろうな。国連やなくてな。最終的には警察力が必要になるからや。
警察力を持つには、抑止力と、実際の強制力、制裁を加える意志が必要や。イランが核不拡散条約を守ってるのは、核開発を本気で始めたらイスラエルにアメリカの支援を受けて爆撃されるかもしれへんって心配してるからやからな。
AIを兵器システムで使うことについても、地上でロシア人とウクライナ人の生死がかかってる時に、そういうツールを兵器化する能力があれば、兵器化するやろう。
だから、世界で最も強力な国々が、単に意見を言うだけやなく、統治する意志を持つ必要がある。力を行使する意志をな。
AIそのものがターゲティングの決定に使われたり、戦闘で使われたりして、生死の決定から人間を完全に排除することがないようにするためにな。
戦争が人間性からどんどん遠ざかるにつれて、引き金を引くのがはるかに簡単になり、戦争がエスカレートするのもはるかに簡単になるのを既に見てきた。そっちの方向に行きたくないんや。
ビラワル: あんた個人としては、インターネットを介したデジタル攻撃や政治的干渉と、ドローン戦争みたいなAIシステムの物理的な現れ、どっちの方が心配?
イアン: AIの操作によって経済システムが脆弱になることの方がずっと心配やな。金融市場の崩壊や重要インフラの崩壊、特に敵対者がすでに他のシステムの奥深くまで侵入してて、そこに座ってるような状況の方が心配や。
つまり、クラウドストライクのような状況やけど、ミスではなく悪意のある行動の場合やな。
西側で何が起こったか見たやろ? すぐに数十億ドルのコストがかかって、コンピューターシステムや航空旅行など、あらゆるシステムが停止した。それは単なるパッチのミスやった。
それが敵対者、無法者や政府によって意図的に行われたらどうなる? それの方がずっと大きな懸念やと思う。
でも、それが私の最大の懸念やない。私の最大の懸念は、実はもっと平凡なことなんや。
ビラワル: それは何?
イアン: 私の最大の懸念は、人間がプログラム可能やってことや。私らはアルゴリズムに非常に影響されやすい。
私が育った時代は、全て自然と養育の話やった。遺伝子が何を言うてるか、そしてその可能性が周りの人間、個人や集団によってどう形作られるかって話やった。
それが今、アルゴリズムにシフトしてる。ソーシャルメディアはこの問題の一部やけど、AIになって、人間が主にアルゴリズムで関係を築くようになったら、もはや主に他の人間とは関わらなくなる。
養育がアルゴリズムやAIに置き換えられるんや。私らは人間性を失うんやないかって心配してる。
私にとっては、これがはるかに深遠な問題や。もっと哲学的な問題やけど、本当に近い将来の脅威でもあるんや。
20年後にAGI(汎用人工知能)を開発するかもしれへんけど、5年で人間がアルゴリズム的になるかもしれへん。
私はそれに抵抗すべきやと思う。少なくとも、影響を理解するためにたくさんテストする必要がある。人類に対してリアルタイムの実験を行う前にな。
でも今やってるのは、リアルタイムの実験なんや。もっと小さなサンドボックスが必要や。
ビラワル: その通りやな。物理的な世界とデジタルな世界での私らのやり取りを技術が仲介してるってことに戻るな。それが私らが影響を受ける表面積を大きくしてる。
今日でもすでにそうやと思う。オンライン広告がめちゃくちゃ効果的なのも、ミーム戦争が情報の分野で起こってるのもそのせいやな。
イアン: でも、あんたの関係はまだ主に人間との関係や。
ビラワル: そうやな。一旦、知的な存在が私らと話すようになったら...
イアン: そうや。この1年で、AIがチューリングテストに合格したのを見たな。そして今、AIの専門家の多くが、それはそれほど重要やないって言うてる。ゴールポストを動かしてるだけやって。
ゴールポストを動かしてるんや。私は実際、何が重要かにとっては本質的やと思う。なぜなら、私らにとって重要なのは人間性やからな。
もし私らが人間と人間以外の存在の区別がつかなくなって、人間以外のアクターと主に関わるようになって、しかもそれが人間とは全く関係のない目的のためやったら、私らは知らず知らずのうちに本質的なものを手放してしまったことになる。
私はそれに深く不安を感じてる。深く不安を感じてるんや。
ビラワル: この報告書が公開されたら、様々な関係者から大量のフィードバックが来るやろうな。これを聞いてる観客に何をしてほしいんや? この報告書にどう関わってほしくて、あんたらが提案してることにどうフィードバックをしてほしい?
イアン: AIは私ら全員のために使われるべきツールやってことを話してほしいな。ここでの本当のメッセージは、私らはどんどん内向きになってて、国ごとのレベルで考えるようになってるってことや。
共通の人類全体のことを考えてへん。でも今、私ら一緒に自分たちを改善し、地球に与えた被害の多くを是正するためのツールを発明してるんや。
今日の若者を見てると、正直に言わなアカンな。私らは地球の効果的な管理者にはなれへんかった。若者には私らよりも良い決断をしてほしい。
この報告書は、過去1年間、若者により良い決断をする機会を与えようとする努力やった。そういう風にこの報告書に反応してほしいんや。
ビラワル: イアン、今日は本当にありがとう。
イアン: こちらこそ、楽しかったで。
ビラワル: イアンの洞察は目覚まし時計のようやな。AIはコードやアルゴリズムだけの問題やない。気候変動や金融市場の相互接続されたウェブのように、グローバルな協力を必要とする世界的な課題なんや。
考えてみてくれ。金融システムが崩壊の危機に瀕した時、中央銀行家は国境や政治的同盟なんか気にせーへん。電話を取るんや。なぜなら、彼らの運命は絡み合ってて、災害を防ぐためのインセンティブが一致してるからや。
AIにも、そういう緊急性と協力が必要なんや。
希望を持たせるのは、これが不可能な課題やないってことや。私らはこのレベルの協力を以前にも達成してきた。今や問題は、手遅れになる前にAIでそれを再現できるかどうかや。
テック大手が数社でAIの力を独占する世界を見ることになるんか? それとも、AIが個人や国家を真に相互接続されたけど分散化されたAIエコシステムで力づけるシナリオを育てることができるんか?
イアンとの会話は現実を突きつけるもんやった。AIは未来のハイプやない。今日私らが下す選択についての話なんや。
この国連の報告書は、私らが規制しようとしてるものについて共通の理解を構築するための重要な青写真や。でも、本当の仕事は私らから始まる。複雑さを理解し、透明性を求め、責任あるAI開発を推進することや。
そして、イノベーションと小回りの利くスタートアップを窒息させへんようにせなアカン。なぜなら結局のところ、AIの未来は前もって決まってるわけやない。私ら全員が一緒に書いてる相互接続された物語なんや。