![見出し画像](https://assets.st-note.com/production/uploads/images/103415160/rectangle_large_type_2_36243d2939b7d9bee6b22547c8583f7b.png?width=1200)
グアナコってなに?Guanaco: LLaMA 7B に基づく多言語モデルを試す
特徴
LLaMA 7B モデルに基づいて構築された高度な命令に従う言語モデル
Alpaca モデルの最初の 52K データセットを拡張し、追加の 534K+ エントリでトレーニング実施
多言語対応:英語、簡体字中国語、繁体字中国語 (台湾)、繁体字中国語 (香港)、日本語、ドイツ語
システムプロンプトとの正確な外部知識の統合
マルチターン対話が可能
ライセンスはgpl-3.0
Text-generation web UIの modelsフォルダーにモデルをコピーして、お手軽に試すことができました。
感想ほか
VRAM消費は13MB弱くらい
LLaMa-7Bと同じく推論はサクサク返ってきます
![](https://assets.st-note.com/img/1681914993571-owt9xdpebj.png?width=1200)
多言語対応ということで少し期待していたのですが、自分のプロンプトの与え方が悪かったのか、日本語だとほぼ意味がある会話になりませんでした。どんどん目が肥える自分が怖い。🤔
![](https://assets.st-note.com/img/1681913678440-nk2CM7zUuW.png?width=1200)
この記事が参加している募集
この記事が気に入ったらサポートをしてみませんか?