青空文庫から自作LLMを作ろう！

青空文庫からLLMを作っている面白いプロジェクトを見つけましたので紹介していきます。 シンプルなコードで実行できるというのがうれしいところです。 今回は、上記プロジェクトで、自PC環境におけるメモリの制約によりパラメータを少し変えています。 では、下記を自PCで実行します。 git clone https://github.com/speed1313/jax-llm.gitcd jax-llmpip install -r requirements.lock インスト