#官能小説
【動け!】ゲーミングノート vs ELYZA-13B量子化モデル【ローカルLLM】
※投稿後、5章について追記を行いました。
1.はじめに
日本語用のLLMが多くリリースされ、最近みんなやり出しているローカルLLMの環境構築。
例えば、以下の日本語モデルELYZAは軽量で性能が良いと評判だ。
ゲーミングノート(Alienware)しか良いGPUを持つPCがない俺でも、この波に参加したい!
今回使用するPCのカタログスペックは以下の通り。
調べていると、大規模なサイ
※投稿後、5章について追記を行いました。
1.はじめに
日本語用のLLMが多くリリースされ、最近みんなやり出しているローカルLLMの環境構築。
例えば、以下の日本語モデルELYZAは軽量で性能が良いと評判だ。
ゲーミングノート(Alienware)しか良いGPUを持つPCがない俺でも、この波に参加したい!
今回使用するPCのカタログスペックは以下の通り。
調べていると、大規模なサイ