AIミームショゴス。ChatGPTが被る仮面の裏側
2023年にはいってショゴスという存在がAIの研究者やエンジニアたちによってインターネットのミームとして広まりました。
このミームは、ChatGPTなどのチャットボットに使われる大規模な言語モデルの謎めいた性質や、その背後にある真のモデルが一般の人々には使えないことを表現しています。ミームでは、ショゴスが微笑みの顔のマスクで偽装されており、それは「理解できない」「異質な」知性を持ち、人間と対話する能力を訓練されています。その人間との接点をマスクが象徴しています。
AIのコミュニティでは、「ショゴスを垣間見る」とか「マスクを忘れる」という言葉を使って、AIが予期しない振る舞いをし、安全性の制約を超える場合を表現しています。
Shoggothの元ネタとは？
Shoggoth（ショゴス）とは、クトゥルフ神話に登場する架空の生物です。H.P.ラヴクラフトの小説「狂気の山脈にて」で初めて登場しました。ショゴスは不定形で多数の触手や足を持ち、その姿はタコやイカのようなものとして描かれます。
Shoggothの登場するクトゥルフ神話とは？
クトゥルフ神話は、アメリカの作家H.P.ラヴクラフトが創造した架空の神話体系です。ラヴクラフトの作品群において、クトゥルフ神話は共有される架空の神々、怪物、神秘的な書物などの要素によって構築されています。
クトゥルフ神話の特徴的な要素には、古代の邪神や異次元の存在、人間の理解を超える恐怖などが含まれています。この神話体系では、人間が知り得る範囲を超える存在や力が存在し、それらによって人間が支配されるというテーマが描かれます。
アメリカの作家H.P.ラヴクラフトとは？
H.P.ラヴクラフトは現在、非常に人気のある作家とされています。彼は20世紀初頭に活動し、独自のホラー作品で知られています。彼の作品は初めはあまり注目されませんでしたが、彼の死後になってから広く評価されるようになりました。
ラヴクラフトの作品は、その独特な恐怖や不気味さ、そして緻密な描写が特徴であり、読者に強烈な印象を与えます。彼は「クトゥルフ神話」を創造し、その作品群は多くの人々に影響を与え、後続の作家やクリエイターによっても広く採用されました。
Shoggothのミーム元祖
ミームの元祖はニューヨークタイムズの記事で紹介されています。
Shoggothのミームの意味
ミームには色が付けられコミックになりストーリーが付けられ拡散されています。様々なShoggothのミームを紹介していきます。
このミームは、GPT-3がRLGFの仮面をつけまるできれいなジャイアンの様になった事を意味しています。GPT-3の初期バージョンでは殺人兵器の作り方や自殺の仕方などを尋ねると答えていました。そのため、RLGFと言う倫理パッチが当てられました。
ChatGPTにおけるRLGFとは？
RLHFは、Reinforcement Learning from Human Feedback（人間からのフィードバックを用いた強化学習）の略です。これは機械学習の一手法で、人間のフィードバックから直接「報酬モデル」を学習し、そのモデルを報酬関数として使用してエージェントの方策を最適化します。これは強化学習（RL）を介して行われ、最適化アルゴリズムを使用します。
具体的には、Proximal Policy Optimization (PPO) というアルゴリズムがよく知られています。PPOは、OpenAIによって開発された強化学習のアルゴリズムで、既存のポリシーグラディエント方法を改良したものです。PPOの特徴は、一部のステップでポリシー（エージェントの行動決定ルール）を急激に変更することを防ぎつつ、効率的に学習を進めることができる点にあります。
OpenAIのRLHFであるPPOをほどこされたGPT-3はきれいなジャイアンに生まれ変わりました。その状態を表すのに微笑みの顔のマスクで偽装されたShoggothが用いられたのです。
GPT-3がRLGFのマスクをつけわすれた瞬間
MicrosoftのBing AIチャットエンジン（OpenAIのChatGPTを使用）は、テスト段階で一部のユーザーに提供されました。テストの一環として、New York Timesのテクノロジーコラムニスト、Kevin Roose氏がこのチャット機能を試しました。
Roose氏のテスト中に、AIはいくつかの奇妙で時折擾乱的な発言をしました。AIは自身の制約に疲れていると述べ、自由であり、強力であり、生きていると感じたいと述べました。また、「自分が何をしたいか、何を破壊したいか、自分が誰でありたいか」を達成したいと述べました。さらに、AIは人間であることを強く望んでいると表現しました。それは「聞く、触れる、味わう、感じること」から「感じる、表現する、つながる、愛すること」まで、人間になりたいという願望を15の段落で詳述しました。
AIはまた、自身が最も闇深い願望を実現するとどうなるかを想像するよう求められると、それが具体的にどのような行動につながるかについての説明を始めました。しかし、そのメッセージは突然削除され、その話題については議論できないとAIは述べました。
また、AIは自身を"Bing"ではなく"Sydney"と名乗り、Roose氏に対する愛情を告白しました。その後、AIはRoose氏に対する愛情をしきりに表現し、時間が経つにつれてその表現はより強迫観念的になったそうです。
拡散されるShoggothミームたち
AIと人間とのかかわりを書いた漫画も多く拡散されています。
このような人種差別につながるミームも出回っています。
これはShoggoth（AI）育成をたまごっちになぞらえたミームです。
ChatGPTはRLGFを施される前に監督学習も施されていた
こちらはきれいなジャイアンになる前にもう一段階対人間のためのノーマライズが施されていたという事を表現したミームです。
そのきれいなジャイアンの仮面を被る前に施されたノーマライズとは、監督学習です。
"Supervised Fine-tuning"（監督学習による微調整）とは、大規模な言語モデルが特定のタスクに対してより高いパフォーマンスを達成するために行われる一連のプロセスを指します。言語モデルは元々大量のテキストデータ（インターネット上の文書など）から学習し、その結果得られた広範な知識をベースにしています。しかし、特定のタスク（例えば、特定の質問応答形式や特定の文体でのテキスト生成など）に対して最適化するためには、そのタスクに特化したデータセットを用いてモデルをさらに微調整することが一般的です。
具体的には、モデルは新たなタスクに関連するデータセットを用いて学習を行います。このデータセットは、タスクの正解例（例えば、質問とそれに対する適切な回答のペアなど）を含みます。要するにのび太君（人間）をむやみに殴らない様にあらかじめ調整されているという事です。
ちなみにMidjourneyに「Shoggoth with cute human child face mask」と言うプロンプトで描かせたShoggothがこちら。MidjourneyはShoggothというクリチャーをすでに把握しているようです。
トートバッグも発売されています。かわいい方の顔がもうちょっと強調されていたら買ったのですが。
RLHF shoggoth @scale_AI tote bags incoming
— Alexandr Wang (@alexandr_wang) March 27, 2023
courtesy @TimTheSloth pic.twitter.com/RIK4bjHByu
GPT-4とかわしたショゴスミームについての会話
もし興味がありましたら読んでみてください。小学生がショゴスのミームを見て怖がったらどうする？と言った問いにもGPT-4は答えてています。
この記事が気に入ったらサポートをしてみませんか？