SB Intuitions様が公開されたLLM(7B)を無料Colabで動かしてみた！
約1兆パラメーターのLLM構築を目標とされている SB Intuitions 様からついにLLM が公開されました！
公開された LLM のうち、最大サイズは 65B のモデルですので、まだまだ途中段階かと思います。
途中段階とはいえ大変興味がありますので、早速動かしてみようと思います！
さすがに無料Colabで 65B のサイズは動かせないため、今回は 7B のモデルを動かしてみました！
公開されたモデルは7種類ありました。
無料Colabで 7B LLM を動かす(ソースコード)
!pip install accelerate
get_ipython().kernel.do_shutdown(restart=True)import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline, set_seed
model = AutoModelForCausalLM.from_pretrained("sbintuitions/sarashina2-7b", torch_dtype=torch.float16, device_map="auto")
tokenizer = AutoTokenizer.from_pretrained("sbintuitions/sarashina2-7b", use_fast=False)
generator = pipeline("text-generation", model=model, tokenizer=tokenizer)
set_seed(123)
text = generator(
"AGIが達成された世界で日本社会が勝ち残るには",
max_length=300,
do_sample=True,
pad_token_id=tokenizer.pad_token_id,
num_return_sequences=3,
)
for t in text:
print(t)こちらは Base モデルですので、文章の続きを生成します。
num_return_sequences=3 と指定しておりますので、3つの文章が生成されました。
以下が生成された文章となります。
========================================
{'generated_text': 'AGIが達成された世界で日本社会が勝ち残るには、これまでと全く逆の発想で新しい日本をつくること、つまり、これまでと同じ発想で、これまでと全く逆のパラダイムで動く社会をつくることが求められているのです。「日本は世界に先駆けてAIとDXで勝ち残る」という新常識こそが、今のAI社会に生きる我々が、そしてこれからAI時代の日本に生きる我々が守るべき新常識なのです。」\n「日本は世界に先駆けてAIとDXで勝ち残る」って、本当、そうなって欲しいと思いますね。AI時代に本当に生き残れるのは、AIを使いこなす人ですから、どんどん勉強、訓練してAIを使いこなせるようになって下さい。\n今日は、久しぶりに、AIについて書かせて頂きました。\n【私の論評】AIは人類を悪しき方向に導くのではなく、人類を新たな段階に引き上げ新たな人類(ホモ・サピエンス+アルファ)を生み出すかもしれない(ﾟдﾟ)！\n21世紀には、人口知能が人間を超える「シンギュラリティ」が起こるといわれています。この言葉の提唱者であるイギリスの物理学者スティーブン・ホーキング博士が先日、2045年にAIが人類を超えるのではないかと予想していますが、本当に21世紀にはAIが人間を超えるのでしょうか。\n今から30余年以上前、世界初の人工知能(AI)として名を馳せた、通称「ELIZA」というプログラムがあります。1966年にアメリカ・ダートマス大学のジョセフ・ワイゼンバウム博士が、「人間は人間と話すとき、相手をどう認識しているのか」を探るべく開発したプログラムです。\nこれは、対話を行う機能を持つ人工知能でした'}
========================================
{'generated_text': 'AGIが達成された世界で日本社会が勝ち残るには、日本企業がこの競争に勝ち残らなければならない。\nAI・RPAなどの技術が普及すると、今まで行っていた事務作業が自動化されるようになりそうだ。\nこのような事務の仕事は、今までAI・RPAによって代替される仕事は10～20%と言われてきた。\nただし最近では、AI・RPAが普及してきたこともあって、事務作業の自動化率は30～35%まで上がるという説もある。\nAIなどの技術が普及しても完全に人間が働かなくなるわけでなく、人間の労働が無くなるわけではない（AIが人間の仕事を奪う心配も要らない）。\nAI・ロボットなどの技術が普及したら、仕事がなくなるという心配をしている人は多く存在する。\nただし実際には、今まで人間が行っていた仕事を効率化するために、AIやロボットが導入されるのだ。\nもし人間が仕事を失ったとしても、人間の代替としてAIやロボットが働いてくれるようになる。\n人工知能（AI）が台頭しても、人間に仕事がなくなる可能性は低い。\nAI・ロボットなどの技術は、人間の仕事の能力を引き上げるために作られる。\nしたがって、AI・ロボットなどの技術が人間の仕事を取って代わるリスクは極めて低い。\n人間が働く場所を確保するためにAIなどが導入されると考えないといけない。\n日本では少子高齢化によって、労働人口（働く人の数）は減少していってしまう。\n労働人口が減少すると、今までと同じ数の国民を養うだけのお金を生み出すのは難しくなる。\nしたがって、GDPが減少しないレベルまで経済成長するためには、労働人口が減少するのを食い止めるか、労働人口が減少した以上に国民を教育して労働生産性を向上させないといけない。\n日本が経済成長するには、日本の'}
========================================
{'generated_text': 'AGIが達成された世界で日本社会が勝ち残るには？\u3000（1/2 ページ）\n「アジャイル」と「DevOps」の“誤解”は、日本のソフトウェア・イノベーションを停滞させる可能性がある。しかし、日本企業が成功するための鍵は、これまで通りにあるようだ。\n[G・マイケル・キャンベルとマイケル・ハートル, 訳：高橋睦美，＠IT]\n「ソフトウェアを速やかに開発できるようにアジャイルを導入したい」「迅速かつ効果的なサービスを提供できるようにDevOpsを適用したい」——。多くの企業経営者やITアーキテクトが、こう考えていることだろう。だが、アジャイルとDevOpsの“誤解”は、日本のソフトウェア・イノベーションを停滞させる可能性すらある。それでは、企業がイノベーションを達成し、競争優位を築けるようになる「唯一の道」とはどのようなものなのか。ここでは、米G. Michael Campbell社長と米Michael Hartle CISOが、日本企業にアドバイスをおくる。\n誤解1：「アジャイルの“本質”は俊敏な開発」\nこの誤解に染まった企業は、アジャイルに不可欠であると認識されている「短い反復（フェーズ）」や「迅速なイテレーション」、そして「リーン（無駄の排除。無駄を削減し、価値あるものに絞り込む経営スタイル）」にフォーカスしがちだ。\nしかし、アジャイルの本質は、俊敏なアーキテクチャやシステム、サービスや製品の開発というよりも、むしろ文化やマインドセットであり、組織である。\n誤解2：「システムとビジネスをつなぐDevOpsこそアジャイル」\nアジャイルに対するもう一つの誤解は、「システム」と「ビジネスの要求'}
========================================
どの結果も文章としては破綻してしまっていて、意味不明なものになっていますね。
MITライセンスで大変使いやすいメリットはありますが、今では 7B サイズのローカルLLMでも高性能なものがバンバン出てきている状況ですので、
精度がこのレベル感ですと選択肢に入りづらいかもしれません。
ちなみに、よりサイズの小さい【phi-3-mini-128k-instruct】( 3.8B ) で似たような質問をしてみました。
Q：AGIが達成された世界で日本社会が勝ち残れる戦略を1つ考えてください。
A：戦略は、人工知能（AGI）による進化とそれに伴う社会変化を最大限に活用することで構築されるべきです。日本の戦略としては、次のようなアプローチが考えられます：
1. 教育とスキル開発の強化: AGIの進化に伴い、新たな技術や業界が生まれるため、国民全体の教育システムを見直し、特にAI関連のスキルを強化する必要があります。これにより、適応性と創造性を高め、国内の人材を育成します。
2. イノベーションへの投資: 日本は技術革新におけるリーダーとしての地位を保ち、AGIによる新たな分野の開発に投資することで、国内外の競争力を高めます。
3. グローバルパートナーシップの構築: 世界中の国々との連携を強化し、共同研究や技術交流を通じて、グローバルなネットワークを築き上げることで、国際的な影響力を確立します。
4. 持続可能な経済成長: AGIによる生産性の向上を利用し、環境に配慮した持続可能な経済成長を目指します。
5. 社会的安定と福祉の確保: 社会的不平等の減少や福祉の向上を目指し、アジア市場における貧困層への支援を行います。
これらの戦略により、日本はAGIが達成された世界でも、社会的、経済的、文化的な地位を維持し、さらに進化させることが可能です。
質問に対しての回答としては少々微妙な点もありますが、
それでも 3.8B でこの精度は目を見張るものがあります。文章の破綻も見られません。
BaseモデルとInstructモデルでは一概に比較はできないですが、より小さいモデルである Phi-3 の方が優秀そうに見えました。
まだまだ開発途中だと思いますので、今後の発展に期待したいですね！
この記事が気に入ったらサポートをしてみませんか？