人気の記事一覧

いつの間にかWindowsでもシンプルに pip install bitsandbytes でbitsandbytesが使えるようになっていた

3か月前

自分の過去ツイートでrinna/japanese-gpt-neox-3.6bをfinetuningして「俺tter」を生成する

1年前

Transformers でサポートされている量子化 bitsandbytes と auto-gptq の比較

9か月前

無料版Colabでrinna/bilingual-gpt-neox-4b-instruction-ppoを動かす

11か月前

色々なライブラリでLLMを量子化してみる