マガジンのカバー画像

自作LLM

9
LLMを自作してみたい人向けに、手を動かしてLLMを作成する記事を紹介していきます。
運営しているクリエイター

#LLM

ゼロから作る超簡易的なLLM-Google Colab編

Google Colabでゼロから作る超簡易的なLLM作成の仕方を紹介します。 Google Colabを開き、ラ…

Masayuki Abe
2週間前
25

サクッとフルスクラッチでLLM作成してみる!

今回は、サクッとフルスクラッチでLLMの作成をする記事を書いてみます。 環境は、Google Cola…

Masayuki Abe
4か月前
16

llama3 from scratchを試してみる

GitHubで見つけたLlama3をゼロから実装するプロジェクトを試してみます。 正確には、Metaが提…

Masayuki Abe
8か月前
21

GPT-2(124M)をllm.cでGoogle Colab環境で再現チャレンジしてみる

今回は、下記の「GPT2(124M)をllm.cで90分間20ドルで再現してみましょう」という記事を参考に…

Masayuki Abe
8か月前
14

ゼロから始める自作LLM

イントロダクション今回は、オズの魔法使いの文章をベースに自作LLMをGoogle Colabで作成して…

Masayuki Abe
10か月前
20

青空文庫で自作LLM体験(GoogleColab)

今回は、Google Colabで青空文庫から自作LLMを作成していきます。 パソコンで作成したい人は…

Masayuki Abe
8か月前
25

青空文庫から自作LLMを作ろう!

青空文庫からLLMを作っている面白いプロジェクトを見つけましたので紹介していきます。 シンプルなコードで実行できるというのがうれしいところです。 今回は、上記プロジェクトで、自PC環境におけるメモリの制約によりパラメータを少し変えています。 では、下記を自PCで実行します。 git clone https://github.com/speed1313/jax-llm.gitcd jax-llmpip install -r requirements.lock インスト

ゼロから始める自作LLM

今回は、Google Colabで自作LLMの完成を目指す記事となります。 既成LLMをどのように使うかの…

Masayuki Abe
1年前
86