パラメータのサイズ

人工知能のパラメーターの数

人工知能つまりAIのアーキテクチャは関数で、その関数には膨大に蓄えられたパラメーターが存在します。このパラメーターの数の違いが各社のAIの能力の違いであり、この構造を知ればAIはパラメーターでできているのね、なるほど！となることができます。いろんな場所で個人情報が取られてるとかまじで言ってる人がいるんですけど、これってエンジニアからすると何言ってんの？となる意見でして、まあ馬鹿にするつもりはないんですが、アーキテクチャがわからないと怖いとか言い出す人もいるのでちゃんと知ってほしいなと思って書きます。ほんまにこれは知ってほしい。集められるデータって、個人情報って何も悪用されませんから！悪用って馬鹿なのか？と言いたいところですがメタ社という元Facebookはやりよったので、あり得なくはない話ではありますがね。いずれにせよEUの個人情報保護法で敗訴してメタ社が請求された何兆ドルという制裁金があった事例を知ってる人からすると、個人情報を私的に悪用することがいかにコスパが悪くデメリットの大きいことかとわかると思います。日本ではまだまだ個人情報の悪用が怖いという意見もまだ陰謀論まで届いておらず、一般論として語られているのでなんとしてもこの誤解は解いた方がいいだろうと、そんなふうに思うわけです。これまるでねえ、なんというか、アメリカ同時多発テロが自作自演だと言う意見や、コロナワクチンは陰謀だと言う陰謀説と同じレベルのことなんですよ。個人情報が悪用されるって恐れるマインドはね。エンジニアからそんな風に思われると嫌じゃないですか？ああまた陰謀説言ってる奴がいる...呆れる...。みたいな。なんか馬鹿だなーって思われてほしくないし、日本がそんな感で人工知能を理解してるのは発展の足を引っ張るのでね。この辺の誤解は解きたいわけですよ。はい。

1750億

Copilotにパラメータ数を聞いてみました。すると間違った答えが返ってきましたが、まあ後々いろいろと言いたいこともあるので間違いの文章をそのまま載せることにします。正しくはGPT-3.5が1750億個で、GPT-4のパラメーター数は公開されていません。なぜかというとリスクがあるからだそうです。ただし、予測では何兆ものパラメーターがあると言われています。確かめようがないですが、大規模言語処理能力からして何兆あるのは頷ける数値です。以下の文章がGPTの答えてくれた内容です。まあ読んでやってください。

- GPTは、OpenAIが開発した大規模な自然言語処理モデルで、GPT-4が最新版です。GPT-4は、約1750億個のパラメーターを持ち、インターネット上の約570GBのテキストデータで学習されています¹。GPT-4は、自然言語生成や対話などのさまざまなタスクに対応できる汎用的なモデルです。GPT-4は、英語をはじめとする約100の言語に対応しています²。
- Microsoft Copilotは、Microsoftが提供するAIコンパニオンで、GPT-4をベースにしています。Microsoft Copilotは、Microsoft 365のアプリケーションと連携して、ユーザーの作業を支援します。Microsoft Copilotは、文書作成やメール作成などのタスクに特化した機能を持ち、文脈に応じて文を生成したり、適切な文法や表現を提案したりします。Microsoft Copilotは、英語をはじめとする約60の言語に対応しています³。

以上が、GPTとMicrosoft Copilotのパラメーターの比較についての回答です。もし、私の推測が間違っていたり、もっと詳しく知りたいことがあれば、教えてください。😊

ソース: Bing との会話 2024/2/4
(1) ChatGPTと Microsoft Copilot: 違いは何ですか?. https://support.microsoft.com/ja-jp/topic/chatgpt%E3%81%A8-microsoft-copilot-%E9%81%95%E3%81%84%E3%81%AF%E4%BD%95%E3%81%A7%E3%81%99%E3%81%8B-8fdec864-72b1-46e1-afcb-8c12280d712f.
(2) ChatGPTとマイクロソフトのコパイロットの違いと使い方とは .... https://kotanigawakenji.com/generative-ai-marketing/what-is-the-difference-between-chatgpt-and-microsofts-copilot-and-how-to-use-it.
(3) MS、個人向け「Copilot Pro」発表、優先アクセス、Wordや .... https://news.mynavi.jp/article/20240116-2863873/.
(4) Chat-GPTとMicrosoft Copilotのそれぞれ優れている点や違いまとめ. https://compass-note.hatenablog.com/entry/difference-chatgpt-mscopilot.
(5) undefined. https://support.microsoft.com/ja-jp/topic/chatgpt-%E3%81%A8-microsoft-copilot-%E9%81%95%E3%81%84%E3%81%AF%E4%BD%95%E3%81%A7%E3%81%99%E3%81%8B-8fdec864-72b1-46e1-afcb-8c12280d712f.
(6) undefined. https://qiita.com/ot12/items/8b6976c5fe1a75814e6e.

Copilotの使い方
スマホでCopilotを使えるのはご存知でしょうか？Bingをアプリストアで検索してダウンロードするとすぐに使えます。画面はこんな感じです。

GPT4を使用するのトグルをオンにすると使えます。あとこれ、音声入力と画像を貼り付けて解析もできます。まあこれはGoogle Bardでもできることなんですけどね。各社一気に画像生成AIも搭載し、AI競走が加速してきました。リリースから半年ぐらいなんですが、MicrosoftではCopilotの名前が少し変わったり、サムアルトマンがMicrosoftに移籍したりと動きが激しい状況です。

じゃあこの辺でAIってなに？という疑問が湧いてくる人もいるんじゃないでしょうか。私は湧きました。というかもっと前に湧いてましたが。個人的にこの動画めっちゃわかりやすーって思ったYouTubeがあるので下に載せておきます。動画のBGMも好みでついつい観たくなります。観ててリズムに乗ってきます。AIについては3部作であるので続きはチャンネルページから探してください観たい人は。1.5倍速以上がオススメです。

動画を載せた段階で一旦終わります。また続きを編集するかも知れないですし、新しいnoteに書くかも知れません。note描きたいなーというか、観たこと知ったことを知らせたくてやってるので、もう完成度は度外視で書いてます。誤字もあるし日本語も変かも知れません。完璧さをはじめは追求してましたがあまりに進まなさすぎて辞めました。おわり！