【動け！】ゲーミングノート vs ELYZA-13B量子化モデル【ローカルLLM】

※投稿後、５章について追記を行いました。

１．はじめに

日本語用のLLMが多くリリースされ、最近みんなやり出しているローカルLLMの環境構築。

例えば、以下の日本語モデルELYZAは軽量で性能が良いと評判だ。

ゲーミングノート（Alienware）しか良いGPUを持つPCがない俺でも、この波に参加したい！

今回使用するPCのカタログスペックは以下の通り。

調べていると、大規模なサイ