2024年7月の記事一覧
【ローカルLLM】Mistral-NeMo(12B)を使ってみた話
ローカルLLMとは、ChatGPTのような大規模言語モデルを、ローカルのパソコンで動かす小さなモデルの事です。ゲーミングPC程度の性能があれば、多くの言語モデルを動作させる事ができます。※ 筆者環境はRTX3060(12G)です
NVIDIA一押しのMistral社の多言語対応最新LLMモデルMistral-NeMoをOllamaで利用してみました。
ollama(Windows版)をインスト
【垢バン】Yahoo JAPANアカウントがつい先程停止された話【ヤホー】
基本的にYahooアカウントは利用していないのですが、タブレットのYahooニュースや天気情報のログインだけに利用していたものです。メールすら(迷惑メールは無限に溜まっていたようですが)一度も使った事はないアカウントです。
ニュースを見ようとアプリを開くと「認証が失敗しました」と表示されたあとに、利用停止の通知が。
どうやら問答無用の最凶バンのようで、復旧・確認・問い合わせすらできないようです
【ローカルはおバカ】やっぱりChatGPTは賢いと思った話【しかしクローズド】
ローカルでLLMを利用する場合、基本的に出力がテキストのみなので、画像や図を表示させるには、何らかのツールや方法が必要になります。
そのひとつにPython言語でインタラクティブにやり取りできる(ローカルで利用できるオープンソースの)Jupyter Notebooksという技術があります。Google Colabとほぼ同じ機能のものです。
※ Anacondaをインストールしていれば、Jupy
【表情だけ動く】LivePortraitを使ってみた話【AI生成】
はじめに静止画から表情変化の動画への変換が高速に処理できるという事で、ローカルでも十分利用できるのではないかと思い試してみました。
LivePortraitとは「ステッチング」と「リターゲティング制御」を組み合わせたポートレートアニメーション技術だそうです。調べていないので筆者には何の事かわかりません。
LivePortraitのレポジトリはこちら。
実際に利用(ComfyUIカスタムノード
【4.2LTS】Blenderベンチマーク
はじめにBlender 4.2正式版がダウンロードできるようになったので、動作確認も兼ねてベンチマークを行いました。
動作環境筆者は現在2つのパソコンを利用しています。
Linux mint 21.3
i7-6700 + GTX-1660ti + GTX-1650
Windows 11 pro
Ryzen5-3600 + RTX 3060(12G)
これら2つのシステムのGPU組み合わ
【ラフ画AI生成】Kritaでステーキを描く【練習】
はじめにKrita-ai-diffusionというKritaプラグインを利用すると、KritaでStable DiffusionによるAI画像生成を利用する事ができます。この記事はステーキ画像を練習として生成した過程の記録です。
Krita-ai-diffusion など筆者が利用するAIツールの導入方法はまとめてこちらで説明しています。
初期プロンプトとラフ画あまりステーキに詳しくなく一般
【ローカルLLM】大量のSDプロンプトデータをRAGとして利用してみる【AI画像プロンプト】
はじめにローカルLLMの精度や性能を上げるやり方の一つにRAG(Retrieval-Augmented Generation)というものがあります。書籍や資料、データベースなどを参照しながら指示に対する回答を生成します。
この記事では、画像生成のプロンプトを作成するためのRAG用データとして、大量のSDプロンプト例を利用した場合にどうなるかを試してみます。
ローカルLLMを動作させるために(o
【ずんだもん】ローカルLLMにずんだもんの声で応答させる【LLM】
はじめにローカルLLMを実行できる ollama Open WebUI にずんだもんの声で応答させる「工夫」の紹介をします。各ソフトウェアのインストールさえできれば簡単に実現できます。
※ Open WebUI にはwebAPIのTTS読み上げ機能はありますが、VOICEVOX を直接操作する方法がないので、クリップボード経由での工夫です。Windowsでの説明を行います。
前提① VOICE