【2020年AI最新事例】GPT-3とは（文系/非エンジニアのための解説）

20代文系/非エンジニアのためのAI用語解説シリーズです。

今回は、最新事例の紹介です。
2020年AI界隈では最も話題となっている「GPT-3」についてご説明致します。

先に結論を記載しておきます。
・GPT-3とは超高性能な文章生成ツール（言語モデル）
・簡単な指示を入力するだけで、楽譜、簡単なプログラミングまでできる
・人にしかできないことの定義を揺るがす対応範囲
・ただ、本質的に人と同じことができるわけではない

この記事のポイントは以下です。
　①AIの最新事例を知ることができる
　②ここ数年で起きる変化の兆しを理解できる

それでは早速参りましょう。

▼ GPT-3とは

GPT-3(Generative Pre-Training3)とは、現在世界で最も進んだ言語モデルです。
シリコンバレーにある人工知能研究団体「OpenAI」が2020年6月発表しました。

言語モデルとは、AIが文章を理解、生成するために必要なもので、チャットボットやGoogle検索/翻訳などの要素技術になります。単語や文章の関係を学習して、単語の次の単語の予測などを行い、自然な文章を生成することができます。

人間同等の文章を作成することができる性能の高さから、フェイクニュースなどの危険性が危ぶまれ、公開が見送られた「GPT-2」の後継モデルになります。

「GPT-3」については、現状マイクロソフトのクラウドサービスである「Azure」経由で一部のユーザーのみにAPIが公開されています。

▼ 何がそんなに凄いのか

言語モデルではこれまでも、Googleが2018年に発表したBERTなど、いくつかの飛躍的な向上がありました。
BERTでは、トランスフォーマーモデルという新しいモデルを採用したことが大きなパフォーマンスの向上に繋がっています。

トランスフォーマーモデルとは、近年、自然言語処理分野で主流となったモデルになります。例えば、wikipediaなどの文章を学習する際、いくつかの単語を穴抜きにしてしまい、穴抜きになっている単語を予測するという自己教師あり学習が行われています。

GPT-3もトランスフォーマーモデルを採用しており、アルゴリズムについては細かな微調整はあると思われますが大きく従来と変わりません。

では、GPT-3は何が凄いのかというとその”モデルの大きさ”になります。

パラメーター数は1750億個、トレーニングに用したデータ数は4900億個とこれまでとは桁が違う量になっています。ちなみに、AI文脈で出てくるパラメーターとは、予測のために必要な設定値や制限値のことです。

GPT-3は現時点で恐らく世界中のどのAIよりも、学習量の多いAIのひとつです。
もし、市場で最も低価格のGPUクラウドを使った場合、トレーニングには355年と460万ドルがかかるぐらいとんでもない学習量になります。

▼ GPT-3ができること

それでは、GPT-3は何ができるのかを整理します。

＜GPT-3ができること＞
①書き出しのみ人が行い、それ以降の文章作成
（専門的な記事や文学作品など多岐にわたる）
②乱暴な文章を丁寧な文章に変更する
③楽譜を自動生成
④質問に対して、答を返す
⑤命令の解釈と命令に沿った簡易なプログラミング

よくAIでは代替不可能と言われるクリエイティビティが必要なものやプログラミングの領域まで対応可能とされています。
（※何をもってクリエィティブというのかは議論が複雑なため、ここでは単純な創作活動という意味で使用しています）

プログラミングでは、人間が恣意的に命令したものを解釈してコードを生成しています。
一例として挙げられていたのは、「スイカの形をしたボタン」といった指示を入力すると、緑の線が入り「スイカ」と書かれたピンクの円が表示されるものでした。

これらがGPT-3が人間しかできないことの定義を揺るがしたと言われる所以です。
AI時代においてライターやエンジニアは比較的先行きは安定していると思われていましたが、GPT-3の登場で一気に先行きを危ぶむ声が高まりました。

▼ GPT-3ができないこと

ここまでの説明でGPT-3がとんでもない性能であることは理解頂けたと思いますが、GPT-3の現状の限界も指摘されています。

指摘されている事項は以下です。
・結局は統計情報でしかないため
　-言葉の意味を理解している訳ではない
　-学習するデータセットによって回答に偏りが出る

結局は、統計的に最もらしい回答や文章を生成しているだけなので、言葉の意味や文脈を正しく理解している訳ではないです。
そのため、人間ならできる空気を読んだ回答など、そういったことはまだできません。

また、今回のGPT-3はネット上のあらゆるテキストを元に学習させており、一部差別的な答えや偏見などが見られたとのことです。そもそもネットでは差別的な発言も含め、適切でない言葉もあり、学習させるデータも今後の課題になります。

▼ GPT-3で将来はどう変わる？

まだまだ改善されるべき課題はあるものの、非常に将来性のあるGPT-3。
今後、どのような変化をもたらすのか、最後に予測をまとめたいと思います。

＜GPT-3誕生による将来予測＞
・セールスライティングなど商業用の文章は自動化される
・エンジニアのコーディング部分の負荷が減っていく
（コーディングしかできない人は厳しくなっていく）
・問いに対する回答精度が上がれば、仕事のアシスタントとして、
　AIがサポートできる（アイアンマンの世界観）…etc

正解やナレッジベースがあるものはどんどんAIで代替が可能になると思われます。
そのため、新しいナレッジを生み出すこと（実験みたいな）やナレッジを管理する仕事の価値が高まる可能性が高いです。

また、もう一つの注目としてはマイクロソフトがGPT-3の商用としての権利を持っていることです。
すでにGoogleが開発したBERTはチャットボットなどで実装されておりますが、
これからGPT-3を利用したサービスを用いて、マイクロソフトが新サービスを発表する可能性が高く、クラウドサービスを展開するAmazon、Googleとの競争が激化していくことが予測されます。

いずれにしても、GPT-3が実装化されていくことと、それにより様々なサービスが進化していくことは間違い無いので、今後の動きに注目です。

今回の記事は以上になります。
ご一読いただき、ありがとうございました。