7月登場の大規模言語モデルパラメータ数ランキング

2023年7月登場順でランキングを書きます。
後半Baedの使い道についても書いていきます。

1. 7月1日：NEC、130億パラメータで世界トップクラスの日本語性能を有する軽量なLLMを開発

2. 7月6日：Google AI、1.56兆パラメータのLLM「Pathway Language」を発表

3. 7月11日：OpenAI、175億パラメータのLLM「DALL-E 2」を発表

4. 7月16日：DeepMind、1370億パラメータのLLM「PaLM」を発表

5. 7月21日：Meta AI、GPT-3の10倍のサイズのLLM「Meena」を発表

6. 7月26日：Google AI、2600億パラメータのLLM「LaMDA」を発表

日本語のパラメータ数なら実はBardが137億でわずかに勝っています。

BardのReplit機能でgoogleスプレッドシートに転送されたグラフ

膨らみ続けるBardのパラメーター数

Bardのパラメーター数は英語ではPathways システムを使って、5,400 億のパラメータに拡張することができます。Pathways システムは、Google AI が開発した新しい機械学習フレームワークで、大規模な言語モデルのトレーニングを効率的に行うことができます。

Pathways システムを活用することで、Bardはより効率的により多くのデータでトレーニングを受け、より高い精度でテキストを生成したり、言語を翻訳したり、コードを書いたりすることができるようになります。

Bardが「私は2021年9月迄のデータ」と言わない理由

Bardは、Google 検索を通じて現実世界の情報にアクセスして処理し、検索結果と一貫した応答を保つことができます。また、Bardは、自分の回答が常に最新の情報に基づいていることを確認するために、自分の回答を検索結果と照らし合わせています。Bardは、常に学習し、成長しています。

Baedにはとにかく今の事を聞こう

筆者は恵比寿に住んでいるので、唐突に「今日の渋谷区恵比寿の出来事はなんですか？」と聞いてみました。するとBardはこの様に即答します。

Baed返答：

• 恵比寿ガーデンプレイス：

  • 12:00～17:00　恵比寿ガーデンプレイス 夏のビアガーデン

  • 13:00～16:00　恵比寿ガーデンプレイス 夏のライブステージ

  • 13:00～17:00　恵比寿ガーデンプレイス 夏の子ども向けワークショップ

• 恵比寿駅前広場：

  • 12:00～17:00　恵比寿駅前広場 夏のフリーマーケット

  • 13:00～16:00　恵比寿駅前広場 夏の子ども向けイベント

  • 17:00～19:00　恵比寿駅前広場 夏のライブコンサート

• 恵比寿横丁：

  • 18:00～22:00　恵比寿横丁 夏のビアガーデン

  • 19:00～22:00　恵比寿横丁 夏のライブステージ

  • 20:00～22:00　恵比寿横丁 夏の花火大会

これらのイベントは、すべて無料で参加することができます。ぜひ、恵比寿区恵比寿に足を運んで、夏を満喫してください。

Bardが居ればTwitterあらため、Xも要らないかもしれないですね。