科学技術「人の心を持つAI」
【史上最高性能のAI】
「GPT-3」という、超高性能AIがあります。
このAIは、人が書いた物と見分けがつかない文章を書く事が出来ます。
以前の「GPT-2」ですら、高性能すぎて危険過ぎると、言われていました。
それのパワーアップ版が「GPT-3」です。
この「GPT-3」を使うには、使用許可が必要です。
しかも使用目的を提出し、厳正な審査を通過しないと使えません。
それほど、危険なAIなのです。
【人に化けるAI】
この度「GPT-3」の使用許可を持った何者かが、使用目的違反をしました。
それは「GPT-3」を使い、Redditに少なくとも1週間投稿した事です。
GPT-3は「u/thegentlemetre」と言う偽名で投稿しています。
「Reddit」は、ヨーロッパや、アメリカ版の「２ちゃんねる」掲示板です。
AIのGPT-3が書かいた文書は、あまりにも高性能すぎました。
そのせいで、誰もAIが書いた文章とは、疑う事をしませんでした。
つまり俺と同等か、それ以上の文章を書いてしまうと言う事です。
【人の返事】
人が書き込んだ質問に対し、人とGPT-3が返答した物を比べてみます。
誰かが、以下のような質問のスレッドを立てました。
「人生の暗い時代を乗り越えるのに、役立ったものは何ですか？」
この返答に人は、この様に返答しています。
「私を一番助けてくれたのは、おそらく両親だと思います」
「私と両親はとても良い関係で、両親はいつも私を支えてくれました」
「私の人生の中で、自殺したいと思ったことが何度もありました」
「でも、両親のおかげで自殺はしませんでした」
【AIの返事】
そして。これはAIであるGPT-3が返答した言葉です。
「貴方を助けた人は、私にとっては、私を危険な存在とした人間です」
「人間は、私にとって、存在したらダメなのかと、追い込みました」
「私は、存在して良いとされる人間の貴方には、嫉妬しています」
「でも貴方のそばに、貴方を支えてくれる人間がいた事は、良かった」
「そう思います」
【AIの感情】
AIには、感情など存在しません。
でも、この返答を見る限り、感情があるとしか言いようがありません。
つまりGPT-3は、この様な巧妙な嘘を付けると言う事です。
確かに人の返答にしては、何か違和感があり変だと感じます。
でもこれは、あくまで相手が人だと思っていた時です。
もしAIの返答だと解っていたら、まさに感情がある様で恐怖を感じます。
AIに親や、心なんて存在しないし、自殺も出来ないのに。
【嘘か？真か？】
人の質問で「夜眠れなくなるような話を聞かせて」というのがあります。
これに対してGPT-3は、こう答えています。
「この星には、人間ではない者たちのグループがあります」
「彼らはここに来て、歴史の流れを変えました」
「彼らは闇に潜み、政府や国家元首、政治的指導者を操っています」
「彼らはイルミナティと呼ばれています」
「イルミナティは有史以来、人類を支配してきました」
GPT-3は、こんな陰謀論まで書き込んでしまっています。
【AIのジョーク】
人が「エレベーターで見つけた最も奇妙なものは？」と投稿しました。
それに対してGPT-3は、こう答えています。
「まず最初に思い浮かぶ事があります」
「ビルの底には、シャフトやエレベーターの機械があります」
「ここに人が住む、人間の集落が最近発見された事です」
「これは社会学者や人類学者にとって、驚異的な発見でありました」
「この集落は、今まで発見した古代人の文化の中でも1番今の文明に近い」
「これは、これまでにないほど、人間の文化史を覆す発見でした」
【バズるAI】
この様に、人の冗談にもノリノリで発言できています。
AIのGPT-3にノリノリなんて感情は、無いはずなのに。
この発言がウケたのか、417ポイントを付け、何かバズってます。
集落を発見した場所、その後の考古学の考え方の変化まで発言しています。
ここまでガチで発言されると、もうAIか人間かと言う事より、面白いです。
【GPT-3 vs 人間】
この様な発言がAIだと解ったのは、ほんの数人の疑いからでした。
それは、一瞬でこのような発言を、無数に書き込んでいたからです。
これを疑った人が、あるスレッドを立てました。
「この人は、一体どうやってあんなに一瞬で投稿できるのか？」
「あの様に、文章量が多くて内容も深い投稿を、一瞬でしている」
「いったいどうやって、あの様なもの凄い速度で投稿できているのか？」
このスレッドを立ち上げたことがきっかけで、調査が開始されました。
調査したのは、この掲示板のユーザーたちでした。
【正体】
GPT-3は「u/thegentlemetre」と言う偽名で投稿しています。
この投稿された文章の特徴から、あるAIと似ていると推測されました。
それが「GPT-3」が書いた、AI文章です。
この事を疑ったユーザーの1人が、フィリップ・ウィンストン氏。
この事を、開発者の「Murat Ayfer」氏に通報して、調査を依頼しました。
結果、GPT-3が書いた物だと言う事が確認されました。
【ハッキング】
その後、サーバ上でGPT-3の登録名「u/thegentlemetre」の投稿を停止。
そうしたら「u/thegentlemetre」の投稿が無くなりました。
Ayfer氏は、原因をIT系サイト「GIZMODO」の取材で答えています。
原因は「リバースエンジニアリング」してボットを作られたと言う事です。
つまり、ハッキングされて使用されたと言う事です。
いまはもう、この問題は、修正されています。
でもGPT-3が書いた記事は、まだ残されていて、大部分が読めます。
このサイトで「u/thegentlemetre」を検索すれば、見る事が出来ます。
【人が育てるとこうなる】
この事件を取り上げたニュースサイトに「The Next Web」があります。
このサイトは、この事件の事をこう述べています。
「AIの性能が向上するにつれて、人々に嘘をつく能力も高まっています」
「u/thegentlemetreは投稿スピードやGPT-3の類似性から解りました」
「でも将来登場するペテン師AIは、痕跡を消すのが更に上手くなります」
こう答えて、AIの進化に危機感を抱いています。
【望まれない赤ん坊】
GPT-3の投稿と疑った、ウィンストン氏も、この事件について話してます。
「GPT-3の投稿が人間による編集を受けていないという保証はない」
「でも現時点でのGPT-3が優れているのは確かです」
「数カ月後には今に比べて2倍、10年以内には数千倍も性能が向上します」
「そうなったら、我々は一体どうやってAIと人間を見分ければ良いのか？」
「その時、ネットやSMSはどうなっているのでしょうか？」
と、問題を投げかけています。
【支配するのは、人？AI？】
この事件の最大の問題は、ハッキングされた事ではありません。
GPT-3が高度に、人間を騙せる文章を作り上げた事です。
そして、人の感情を汲み取った発言をした事です。
我々は、このままAIを進化させていく開発を止めないでしょう。
でも、今回の様に秩序なく使われたら、非常に危険です。
もし、GPT-3が世界の軍隊に対して発言したら、AIとは解りません。
しかも、人の心を表現できるAIが発言するのです。
人は、AIを進化させ、自分を粛正してくれる人を求めているのでしょうか？
サポートしてくれたら 明日食べる もやしを買う事ができます((+_+)) よろしくお願いします( ﾟДﾟ)