ぐだぐたと長い文章になってしまいました。
『GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか』
を知って読みました。
すごいですね。ここまで想定しているのですね。脱帽しました。
日本は、エニアグラムのタイプ6の国だと言われています。
そして、タイプ6は、安心・安全・安定を欲する性格で、
ストレスがかかり状態が悪くなるにつれて、安心・安全・安定が崩れた未知や混沌を避けて、「臭い物に蓋をする」性格でもあります。
今ある安心・安全・安定 感のようなものを守ろうとし始めます。
タイプ6というものは、
何かを始めるときは、それが未知なので、なかなか動くことができず、
一度動き始めると今度は逆に、なかなか止めることができなくなります。
動いている状態が既知となるので、既知に安住しようとしてしまうわけです。
このような通常のタイプ6は、一度動きだしたものの危険性は見ないようにする傾向があります。
AIに対しても、原発に対しても、それが何にせよそうなります。
例えば、原発で、
ヤフコメに
なんて書かれていましたが、
たぶん、今後、長期運転で事故が起きれば、「そりゃそうだよね」とか「何してんだ!」という意見は出てくるでしょうけど、
今の時点で問題視するのは未知や混沌との対峙となり、
タイプ6の日本は、混沌を見ることを避けようとします。
ついでに言えば、今後、原発事故が起きた場合、さらなる混沌の可能性、悪い予想を言う人が現れれば、混沌と対峙できない日本人は「不安を煽るな!」と言うことでしょう。
とにかく日本は混沌と対峙できない国民性なのです。
*
それでAIです。
みなさん、最近、ChatGPTが話題ですが、
ChatGPTの危険性をどの程度想定しているでしょうか?
以下の文章を読んで、タイプ6な日本人とは大違いな、
その混沌へ入っていく深度に私は驚いたのでした。
タイプ6は、ゼロから1を作り出すことが苦手な性格です。
ところが、1があれば10や100を作ることができる性格ではあります。
なにかひな形があれば、それを大きくすることはできるのです。
ですので、海外から危険性を扱うひな形が提示されれば、それを拡大することはできます。
ですので、私が海外の事例(今回の場合、ChatGPTの危険性)を紹介すれば、「そんなこと私もできるよ」とタイプ6な日本人は言い、「未知や混沌にだって対応できるよ」と言うかも知れません。
ですが、海外の事例が入ってきていない状況で、ゼロからここまでのことを想定している組織が日本にあったのかが重要だと私は考えています。
長々と書いてきたので以下、文章の紹介です。
始めに紹介した文章の詳細です(引用量がめちゃくちゃ多いです)。
「他システムとの連携」なんて映画になりそうですね。
悪気なくAIを使っていたら、AIが裏で国のシステムに無自覚にハッキングして(つないでみたらつながった感じで)システムと連携してこれまた無自覚に国を揺さぶるようなことをして・・。
昔のアメリカ映画に子供が国防省のコンピュータに入ってミサイルを発射する危険性を描いたものがあったはずですが(たしかアメリカの実話として国防省だかの機関に子供が侵入したのが問題になって、それが映画の元ネタになっていたような)、AIにおいてもそのような感じの映画ができそうだ、と思いました。
ただこういった話を真面目に起こりうるものとして問題にして取り組もうとしている姿勢が、問題提起をされても「臭い物に蓋をする」傾向のある日本とはずいぶんと違うな、と私は感じたわけです。
原発の話以外では、例えばリニアモーターカーの話でもそう感じます。
ChatGPTなどのAIにおける問題をここまで想定することは、タイプ6な日本人および日本の組織にはできない話だと私は思っています。
そして、私の想像をはるかに超えた想定に脱帽し、やはりいろいろすごいなあ、と思ったのでした。