イーロン・マスク氏とAI専門家が警告！海外ニュースの原文を読んでみよう【海外記事メモ】
今日は面白そうなニュースがあったので久々の時事ネタを読んでまとめてみたいと思いました。記事はこちらです。
様々日本の著名人たちも意見を述べていますが、今一度海外のニュース記事の原文を読んでみませんか？
本日もよろしくお願いいたします。
制御不能なAI競争は人類に与えるリスク-4つのキーポイント
・AI専門家や経営者たちがAI開発の休止を呼びかける公開文書にサインした
・The Future of Life社の書簡は"制御不能"な競争は新しいテクノロジーを破壊すると警告
・この書簡は労働市場における誤った情報や自動化への懸念を表明している
AI界の大物たちがAI開発の中断を訴えた。
イーロン・マスクやスティーブ・ウォズニアック、Pintarestの共同創業者であるエバン・シャープ、Stability AIのCEO、エマド・モスタキーらはthe Future of Life社（強力なテクノロジーが及ぼすリスクを軽減するための非営利組織）が出した書簡へサインした。
書簡ではOpenAIのGPT-4のようなAIシステムが人間の仕事を奪っていくことになりかねない点に警告し、人類や社会へのリスクがある以上は開発を休止すべきと書かれている。
書簡はまた、AIの研究所はGPT-4以上に強力なテクノロジーは、その危険性が正当に評価されるまでの６ヶ月の間研究を中断すべきと訴えている。
業界の専門家であるYoshua Bengioはしばしばこのことを「AIにおける"ゴッドファーザー"だ」と述べ、著名なコンピューターサイエンティストのSutuart Russellはその書簡に同意している。
この記事が出ている時点では、まだOpenAI社からこの書簡に対してのコメントは出ていない。
書簡の中では誤った情報の拡散や労働市場における自動化のリスク、市民権がコントロールできなくなる可能性について言及されている。
ポイントをまとめよう。
コントロール不可能なAI
この非営利団体は開発者が新しいAIの力を制御できなくなる可能性を示唆している。これは企業がAI技術の開発競争を続ける中で、その制作者でさえ内容を理解し、確実に制御できるようなものになっていないと言及している。
この書簡は"我々の市民権が脅かされる可能性があるのではないか？こんな決断を世間的な支持を集めてもいない技術責任者に託すべきではない。"と主張している。
危険な競争
書簡ではAI企業が、新しい先進的システムの"制御不能な開発競争"に囚われてしまっていると述べられています。最近では、OpenAIのChatGPTの人気に押されて他の企業も独自のAIプロダクトを発表している。
書簡は企業に対して、準備不足のまま秋に突入しないことを要請している。
AIの自動化と誤情報
書簡は新しいテクノロジーが非人道的なまでに突然"人に数で勝り、人より賢く、人を時代遅れにし、我々の代替になっていく"ことへのリスクを訴えている。
AIシステムはいくつかのタスクにおいて人間と比較対象になりつつあると訴えており、誤情報や労働の自動化に対する懸念を表明している。
"我々はAIが我々の情報チャネルたちをプロパガンダや嘘で押し流してしまうことを許容すべきなのか？我々は仕事を自動化によって破壊されてしまうことを許せるのか？"
６ヶ月の休止を
公開文書は今市場に出回っているもの以上に強力なAIの開発を６ヶ月間休止することを求めている。
AIの開発者は政策立案者とともにAI管理ルールを作るように求められている。例えば規制当局が求めているような、人が作ったものかAIが作ったものなのかが判別できる"透かし技術"も含まれる。
書簡ではまた、AIによって経済や政治が破壊されないように"信頼ある情報リソース機関"から情報を収集するようにすることを必要事項としている。
書簡では続けて、AI開発の完全な打ち止めよりむしろ、このテクノロジーにまつわる"危険な競争"から一旦立ち止まることを選択すべきだと述べている。
感想：人を怠惰にさせる技術の進歩は止まらない
自分が好きな考え方というか思考のひとつにnoteのCXOでもある深津さんが提唱する「怠惰の法則」というものがあります。
人は自分が怠惰になること（楽でストレスフリーなもの）に流れていき、技術革新もその欲求を満たすように開発されていく、というお話です。
生き物であった馬を機械化させて管理や操作をしやすく進化させたのが自動車であり、今では運転すらも必要なくなりつつあります。
逆に人が現状より苦痛を感じたり、不便だと思うものへ回帰していくような流れは起こりえず、そういったものの一部は「文化」として残り続けるというものでした。
かつて火をおこして料理をしていた狩猟民族の生活に世界全体が回帰することはありえませんが、その一部のエッセンスはキャンプというレジャーとして残り続けています。
自分はこの考え方に非常に納得感を持っており仕事をする中でも常に頭に置いているものなのですが、そんな自分からするとAIの技術革新は誰がどう言おうと止まらない流れだろうなぁと思っています。
特に今回のような罰則規定もないような文書がAI技術の発展に及ぼす影響は微々たるものでしょう。
個人的には逆にここに署名してしまった人たちがChatGPTが起こしているビッグウェーブに及び腰になっているような態度を見透かされてしまい、むしろ株を落としてしまうのではないかとすら少し感じてしまいます。
第一線を退いているスティーブ・ウォズニアックはまだしも、イーロン・マスクに関しては少なからず彼自身のイメージに影響を及ぼしそうな気がしています。
もちろん書簡に署名している彼ら自身もこのことが業界の進歩を一時的にでも止めることができるとは考えてはいないのでしょうが、、私のような一般人からするとここに署名をしたことによるメリットよりも彼ら自身のイメージの低下といったデメリットのほうが大きいのではと感じてしまいました。
この文書が２０２３年のAIの発展に影響を及ぼすのかどうか。今後も変わらず定点観測していきたいと思います。
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
個人的に気になった海外記事を週数本メモしていますので、よければフォローおねがいします
__________________________________________________________
ポートフォリオ・お仕事依頼など: https://www.saito-t-design.com/
Twitter : https://twitter.com/yamashita_3
__________________________________________________________
サポートいただいたお金は今後の発信活動に関わるものに活用させていただきます。