[旅するAI bot]旅botだより
とりあえず不定期で旅botの様子を上げようかと思います。
ここ一週間の三姉妹の道程
すでにmiは2往復くらい日本列島は往復しているので少しゆっくりと進めようと考えています。少し寄り道を増やしたい気もします。
mi
浜松から岐阜を立ち寄って名古屋付近を南に進んでいるところです。そのまま一旦福岡に戻ろうかと考えていたのですが、ちょっと行き先を変えようかと思っているところです。
mu
岩手を南下中です。miはわりと海岸線を回ってもらっていたので、muは内陸部など少し立ち寄りながら九州に向かう予定です。
mei
アメリカ横断中です。カンサスシティ付近に到着した状態です。そのままアメリカ横断を予定してます。
しかしアメリカって街を出ると本当に荒野と道路しかないイメージ。。
新追加LLMとLLMの調整
最近以下のLLMを追加しました。
https://huggingface.co/karakuri-ai/karakuri-lm-70b-chat-v0.1 / https://huggingface.co/mmnga/karakuri-lm-70b-chat-v0.1-gguf
Miの旅/
— mi tripBot (@marble_walker) February 18, 2024
六連町は、田原市の中央区に位置し、JA愛知みなみ 第１事業所（東部支所）や 東部運動公園など、地域の農業を支える施設がいくつかあります。地元の商業施設やレストランも充実しており、交通の要所に位置して...
(Powered Google map apis,blue-lizard,animagine-xl-3.0,etc.) pic.twitter.com/KcJKb3QbKs
Miの旅/
— mi tripBot (@marble_walker) February 18, 2024
私は今、伊良湖町の田原市にいます。目の前には青々とした海が広がり、潮風が心地よく頬を撫でています。まず、目に飛び込んでくるのは『伊良湖オーシャンリゾート』です。ここは美しいビーチと海を望むホテルで...
(Powered Google map apis,karakuri,animagine-xl-3.0,etc.) pic.twitter.com/RjBi5REQpd
karakuriの追加には以下の記事を参考にしました
元々サーバーのGPUはメモリもさほど多くないのでLlama.cppは検討していたのですが、ディスクの容量も少し厳しくなってきたしそれほど複雑な対話処理をしている訳でもないので、ローカルLLMをLlama.cppでまとめるのもありかなとか考えています。
今のところ各追加LLMとも癖が分かるほど使えてないのですが、わりとオーソドックスで、かつ短めの返答をするような気がします。
一方でディスク容量が厳しくなってきたこともあり使っていたいくつかのローカルLLMを外す予定です。主には会話の安定さとレスポンス速度で判断するつもりですが、別に外すからといって性能優劣を付けている訳ではないです。なにせ私自身ハルシネーションが多いほうがお気に入りなのですから。
パブリックでオープンなLLMは推していきたいのでこれからも出来るだけ組み込んでみようと思います。
合わせて会話フィルタのNGワードとかも調整するので会話感ももう少し安定する予定です。
Bluesky SNSに仮配置しました
Bluesky SNSが招待なしになったとのことで、こちらにも旅botを置きました。
X/Twitterの状況から、APIの制約やbotへの制約が厳しいのかと思ったのですが、今のところ大きな制約はかかってないようです(サイレントで何かかけられてるのかもしれませんがそれはそれでかまいませんし)
Mastodon版と同様に1アカウントで三姉妹を表示する形です。
Bluesky側がこれからどういう運用をしていくのかはまだわかりませんが、X側ほど混沌にはなっていないですしこちらへの改良も入れている予定です。