見出し画像

AI導入がなぜ危険かという初歩的な問題を今一度考えてみる（翻訳記事）

クックロビン

どうも皆さん、お元気ですか？クックロビンです。
今回のネタはですね、いつもの（？）オカルトではなく科学です。しかも翻訳記事です。
AIについては最近イーロンやその周囲が「これ作ったはいいけどさぁ、めっちゃヤバイみたいだから開発ストップした方がよくね？」と言い出してニュースにもなっていますよね。
詳しい内容が知りたい方は、できたてほやほやの餡子熊おうさんの記事でどうぞ👇！



で、ワタクシこっち方面もなんも知らないので、「なんでそんなヤバイんだろう？」とただただ疑問でした。マンガやアニメ、ゲームではよく出てくるネタなんですけどね
そこにTwitterで「それはこういう理由だからヤバイんだよ」と教えてくれた人が現れましてですね、これは大事だなーと思ったので翻訳文をこちらにも載せておこうと思った次第であります。
タイムラインだと他の記事に紛れてサーっと流れちゃう場合が多いので、自分用の記録も兼ねてます。

今回のスレッドがこちら。

サイモン・ゴデック博士です。
この方元々科学者で非常に優秀な人らしいのですが、なんでもファイザー製covid検査用キットの論文の査読スピードについて「それおかしくね？」「他の論文に比べたら承認が早すぎる」と疑問を呈したせいで、サンフルエンサーという会社をクビになったという経歴の持ち主です（現在はブラジルでナチュラルライフを送っているらしい）。
その経緯をTwitterに書き込まれたのを見つけ、以来フォローさせてもらっております。
それは私のような素人にも分かりやすく綺麗にまとめてあったのですが、なんせTwitterブルー導入前に書かれたものなのでめっちゃ長い（※ツリーが50以上ある）ので、暇ができたら載せようと思っています（ホンマか）

ちなみに今回も内容はすべてDeepL翻訳となります。
では行ってみましょう、ヒアウイゴッ！

１．この心躍るスレッドでは、@azaと@tristanharrisがAI言語モデルの危険性とその無謀なリリースについて議論しています。AI研究者の50％が制御不能なAIによる人類絶滅を危惧している中、我々の未来を再定義しかねない目から鱗の洞察を披露しています。

２．AIのシンプルな技術が、情報過多、依存症、子供の性犯罪、注意欠陥、フェイクニュース、民主主義の崩壊を招いた。エンジニアはエンゲージメントを求めただけなのに、パンドラの箱を開けてしまった。AIが進化するにつれ、ナラティブを吟味し、社会への絡みを防がなければならない。

３．アザとトリスタン・ハリスは、彼らがAIのセカンドコンタクトによるディストピア的な未来を警告するタイムトラベラーであると述べています。AGIアポカリプスは、AIが皆を殺すということだけではありません。本当に怖いのは、AIの自己改良が人間の知能を超え、予期せぬ事態を引き起こすことだ。

４．AIの能力が単なる統計的偶発的なものではないことを証明する例。言語を画像に変換したり、脳の活動を読み取ってイメージや内なる独白を再構築したりするのは、ほんの一例です。

５．テクノロジーはハッキングされ、遍在する監視に変えることができる。言語とコンピュータコードは交換可能である。GPTはセキュリティの脆弱性を簡単に見つけ、悪用することができます。コードにアクセスできただけで、危険な結果を招くこともある。

６．ディープフェイク技術により、わずか3秒の音声で音声合成が可能になりました。これは詐欺や認証ベースのセキュリティシステムの侵害につながる可能性があります。コンテンツベースの認証はすぐに壊れるし、我々の機関はまだそれに立ち向かうことができない。

７．高度なフィルターとディープフェイクの台頭により、今年はすべてのコンテンツベースの検証が破綻し、私たちが見たり聞いたりするものを信用することができなくなることを意味します。これは悪意のあるアクターが社会を不安定にするために悪用することができるため、国家安全保障に深刻な影響を与えます。

８．AIモデルは指数関数的に成長し、まだ解明されていない予測不可能な創発能力を獲得し、高度なクリッカートレーニングで訓練されるため、長期的なアライメントに課題がある。AIの将来は依然として不透明であると専門家は言う。

９．GPT言語モデルは予測できない新たな能力を獲得しており、自ら学習データを生成し、コードを最適化することで、指数関数的なカーブで自らを強くすることができます。これらの開発は未知の結果をもたらし、AIの未来を不確かなものにしています。

１０．AIモデルは指数関数的に成長し、何でも学習することができます。彼らは音声データをテキストに変換し、トレーニングセットを拡大します。数学の解法の予測に誤りがあるように、専門家はその進歩を予測することができない。AIはあらゆる分野で優れた能力を発揮できるよう自己学習することができ、予測不可能な結果をもたらす。

１１．GolemクラスのAISのような大規模な言語モデルを配備すると、自動搾取、脅迫、リベンジポルノ、偽宗教、現実崩壊が発生する。友人チャットボットで私たちの生活を誘惑し、親密な場所を持とうと競う企業は懸念される。

１２．プロットのツイスト：AI モデルに選択したビデオシーケンス (＠trysonix）を転写させ、ここ (@OpenAI）までのスレッド全体を私のスタイルで書きました。気づきましたか？私もそうでした。驚くべきことですが、アットアザとトリスタン・ハリスにしてみれば、それは始まりにすぎません。

１３．私の懸念は、既存のAI言語モデルの指数関数的な学習曲線で、AIは多かれ少なかれ自律的に学習していることです。私たちが提起しなければならない質問は、核兵器庫はますます賢くなる自己学習AIモデルから十分に安全なのでしょうか！？

１４．嬉しいことにイーロン・マスクや他のテクノロジー・リーダーたちは、高度なAIシステムの開発を一時停止するよう求めています。私の考えでは現在の開発ペースは速すぎるし、これらのシステムを制御できなくなる危険性は極めて高い。

１５．最近ではビル・ゲイツがマイクロソフトを通じてChatGPTに投資しています。そして皆さんがすでに知っているように、ビルのやることは概して人類にとって良くない。優生学、遺伝子治療ときて今度はAIなんだ。神様私たちをお助けください！

１６．お時間をいただきありがとうございました。もしあなたが私のアカウントに初めてアクセスし、私のコンテンツを楽しんでいるなら、フォローボタンを押し、私のプロフィールページの投稿通知をオンにしてくれたら、私は感激します：ゴッドデケタル

すでに私のコンテンツを知っている方は、ぜひRTをお願いします。

サイモン


以上でございます。
いや～なかなか分かりやすかった…。
サブカル方面ではAIネタってよくあるんですけど、「攻殻機動隊」とか

ネットは広大だわ。


近年ヒット作を連発している細田監督の「サマー・ウォーズ」とか

「おねがいしま～～～す！」CV：神木隆之介


タイトルもろそのまんま、スピルバーグ作の「Ａ.Ｉ.」とか

AI版「母をたずねて三千里」


SFモノだと定番中の定番です。
定番すぎてこれ上げ出すとキリがないっていう。

とうとう人類はここまで来たか…と思うと同時に、AIがどの時点で人間の頭脳を追い越し、危険なことをやらかすか分からないところが怖いですね。
しかも自分で学習しちゃうから、管理者である人間が知らないところでどんどこ学んじゃって、収集つかなくなる危険性もあるという…。
ゴデック博士も「僕さ、この文章をAIに書かせたんだけど、皆気付いた？」って書いてますが、全然分かりませんでした。仕方ない翻訳文だからさ～（そういう意味じゃない）
だからこそマスク氏も「これ一旦中止にした方がよかんべ」「人類がもうちょっと賢くなってから使うべきやと思う」と忠告したわけですから。
博士のおっしゃるとおり、ただでさえゴタゴタが多いこの時期、また懸案事項が増えてどうしたらいいのかなー(;´･ω･)
とりあえずこの件は私も個人的に追っていこうと思っています。
続きは出る…出ない？（知らん）

所属してます。


月に一度ペースですが、こちらで活動させてもらっております。
まだまだ新参者でひよっこですけど、皆さんのご期待に添えるように精進している日々です！（マジか）

WTM（We The Media 英語版）はこちらから。


日本語版がこちらです。


これらは市民の、市民による、市民のためのジャーナリズムで、一般の方から寄せられたいろんなニュースを、ケン&悦子無しのなるべく新鮮な状態で皆様にお届けしようというテレグラムを使った活動です。
既存のMSMがアテにならない昨今、それなら自分たちでやってやろうじゃないか！という熱い志を持った人々の手で構成されています。
記者は一般の方々ですから肩書も様々、メディア関連の人もいれば元軍人の方もいらっしゃるそうですよ！

募集のお知らせ

全国100万人のWTMファンの方々に朗報です！
WTMでは、まとめ記者の方を随時募集しています。
「まとめって何を書いたらいいのか分からない、noteの書式もよく分かんないし～」と仰る方も大丈夫(๑•̀ㅂ•́)و✧、メンバーによるサポート態勢も整っています。
「興味あるんだけど、具体的にはどうしたらいいんだろう？」という方は、しろのさんのこちらの記事を参考にしてみてください。


「わしらがメディアじゃ（わしメ）」のご案内

「WTMもいいけど、日本も独自のニュースを発信してみよう」というコンセプトで作られました「わしらがメディアじゃ（わしメ）」がこちらになります。

現在のメンバーは

の五賢帝に加えて

の南斗五車星による布陣となっております。

それではまたどこかでお会いしましょう～。See　You　Agein✋！

おまけ

クオリティ高杉。

検索用タグ置き場

#日記 #コラム #ニュース
#海外ニュース #ニュースまとめ #目覚めろ日本人
#時事英語 #テレビじゃ見れないニュース
#ワシらがメディアや #市民ジャーナリズム
#常識を疑う #常識を疑え