人気の記事一覧

GPT4v越えと噂のLLaVA 1.5をllamafileを使いローカルMacで試す

🌈大規模言語モデルのllamafileがVer 0.7に。l lamafileと言えば4GBの1つのファイルで、ローカル環境で実行できるLLM。 今回のバージョンはAMDのZen4採用のCPUで以前より10倍速くなったらしいです。