おれっち

あとから再構築できるようにメモ。 ビギナーなのでChatGPTに助けてもらってます。

おれっち

あとから再構築できるようにメモ。 ビギナーなのでChatGPTに助けてもらってます。

浅学が語るLLM今後の展望

結論 現在のLLMはシステム1（直感）タイプ 次世代LLMはシステム2（論理）タイプへ その足がかりとしてGNNに期待している LLMの進化ChatGPTの台頭により注目を集めたLLM(…

おれっち
おれっち
9日前

LivePortraitで遊ぶメモ

このメモを読むと ・LivePortraitを試せる ・img2videoをお手軽に試せる ・顔写真を動かせる 検証環境 ・OS : Windows11 ・Mem : 64GB ・GPU : GeForce RTX™ 4090 ・ロ…

おれっち
おれっち
2週間前
22

ControlNeXt-SVDで遊ぶメモ

このメモを読むと ・ControlNeXt-SVDを試せる ・img2videoをお手軽に試せる 検証環境 ・OS : Windows11 ・Mem : 64GB ・GPU : GeForce RTX™ 4090 ・ローカル（pyenv+ve…

おれっち
おれっち
2週間前
3

ITストラテジスト試験に20代実務経験ナシ初高度区分で独学一発合格できた喜び

結論ITストラテジスト試験に合格することができました。 うれしい。 手ごたえのある試験ですが、対策する時間を確保できれば 未経験でも初高度区分でも独学でも大丈夫です…

おれっち
おれっち
2週間前
7

Chat Vectorで遊ぶメモ

このメモを読むと ・Chat Vectorを試せる ・ローカルLLMへお手軽にスキルを付与できる ・マージはGPU不使用 検証環境 ・OS : Windows11 ・Mem : 64GB ・GPU : GeForce R…

おれっち
おれっち
4週間前
6

Vecteusで遊ぶメモ

このメモを読むと ・話題のローカルLLMを試せる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・python3.10 ・2024/5/B時点 事前準備 Anacondaを使うメモ…

おれっち
おれっち
2か月前
6

DockerでGPUを使うメモ

このメモを読むと ・NVIDIA-Dockerを導入できる ・DockerにてGPU環境を構築できる ・PyTorchの動作確認ができる 検証環境 ・Windows10Pro 22H2 ・Ubuntu-22.04 ・Docker…

おれっち
おれっち
5か月前
4

UbuntuにDockerを入れるメモ

このメモを読むと ・Ubuntu上にDocker環境を導入できる 検証環境 ・Windows10Pro 22H2 ・Ubuntu-22.04 ・2024/1/E時点 事前準備 DドライブにUbuntuを入れるメモ | お…

おれっち
おれっち
5か月前
3

DドライブにUbuntuを入れるメモ

このメモを読むと ・WindowsにWSLのLinux環境を導入できる ・別ディスクに引っ越せる 検証環境 ・Windows10Pro 22H2 ・2024/1/E時点 UbuntuUbuntuは、Linuxをベースに…

おれっち
おれっち
5か月前
2

kohya_ssセットアップメモ

このメモを読むと ・kohya_ss GUIを導入できる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・python3.10 ・2023/8/E時点 事前準備 Anacondaを使うメモ…

おれっち
おれっち
10か月前
2

QLoRAチューニングモデルをAPIから遊ぶメモ

このメモを読むと ・QLoRA学習済みモデルをAPI経由で呼び出せる ・ストリーム出力ができるようになる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・pytho…

おれっち
おれっち
1年前
4

VOICEVOXをpythonから遊ぶメモ

このメモを読むと ・VOICEVOXのエンジンを導入できる ・音声データを生成できる ・GPUを使って高速に処理できる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda…

おれっち
おれっち
1年前
10

QLoRAで遊ぶメモ

このメモを読むと ・QLoRAを導入できる ・でかいローカルLLMモデルをファインチューニングできる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M…

おれっち
おれっち
1年前
10

PEFTでLoRAマージしてCTranslate2で遊ぶメモ

このメモを読むと ・ファインチューニング後のモデルを爆速で動かせる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M時点 事前準備 Anacondaを…

おれっち
おれっち
1年前
11

rinnaをCTranslate2から遊ぶメモ

このメモを読むと ・CTranslate2を導入できる ・ローカルLLMの文章生成が爆速になる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M時点 事前準…

おれっち
おれっち
1年前
3

PEFTをWindowsから遊ぶメモ

このメモを読むと ・PEFTを導入できる ・ローカルLLMをファインチューニングできる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M時点 事前準備…

おれっち
おれっち
1年前
3
おれっち

おれっち

浅学が語るLLM今後の展望

浅学が語るLLM今後の展望

結論

現在のLLMはシステム1（直感）タイプ
次世代LLMはシステム2（論理）タイプへ
その足がかりとしてGNNに期待している

LLMの進化ChatGPTの台頭により注目を集めたLLM(大規模言語モデル)は、目まぐるしいスピードで進化を続けています。
数年前までは幼稚園児レベルだった出力が、今では専門家顔負けと言われることもあるほどです。
しかしここまで賢くなったLLMも、実はまだできることは

もっとみる
おれっち

おれっち

LivePortraitで遊ぶメモ

LivePortraitで遊ぶメモ

このメモを読むと

・LivePortraitを試せる
・img2videoをお手軽に試せる
・顔写真を動かせる

検証環境

・OS : Windows11
・Mem : 64GB
・GPU : GeForce RTX™ 4090
・ローカル（pyenv+venv）
・python 3.10.11
・2024/7/B時点

LivePortrait動画と顔写真を入力することで、
顔写真へ動きを付

もっとみる
おれっち

おれっち

ControlNeXt-SVDで遊ぶメモ

ControlNeXt-SVDで遊ぶメモ

このメモを読むと

・ControlNeXt-SVDを試せる
・img2videoをお手軽に試せる

検証環境

・OS : Windows11
・Mem : 64GB
・GPU : GeForce RTX™ 4090
・ローカル（pyenv+venv）
・python 3.10.11
・2024/7/B時点

ControlNeXt-SVD一枚絵とopenposeのモーション動画を入力することで

もっとみる
おれっち

おれっち

ITストラテジスト試験に20代実務経験ナシ初高度区分で独学一発合格できた喜び

ITストラテジスト試験に20代実務経験ナシ初高度区分で独学一発合格できた喜び

結論ITストラテジスト試験に合格することができました。
うれしい。
手ごたえのある試験ですが、対策する時間を確保できれば
未経験でも初高度区分でも独学でも大丈夫です。

ITストラテジストとはITの中でも最上流の戦略立案などを扱う、エンジニア系上級職のひとつ。

モチベーション当資格は、最上流工程の企画周りを学ぶことができるものです。このような企画業務は若いうちから担当する機会が少なく、ノウハウも

もっとみる
おれっち

おれっち

Chat Vectorで遊ぶメモ

Chat Vectorで遊ぶメモ

このメモを読むと

・Chat Vectorを試せる
・ローカルLLMへお手軽にスキルを付与できる
・マージはGPU不使用

検証環境

・OS : Windows11
・Mem : 64GB
・GPU : GeForce RTX™ 4090
・ローカル（pyenv+venv）
・python 3.10.11
・2024/6/E時点

Chat Vector個人でLLMを育てる際、今まで主だった手

もっとみる
おれっち

おれっち

Vecteusで遊ぶメモ

Vecteusで遊ぶメモ

このメモを読むと

・話題のローカルLLMを試せる

検証環境

・Windows11
・VRAM24GB
・ローカル（Anaconda）
・python3.10
・2024/5/B時点

事前準備

Anacondaを使うメモ｜おれっち (note.com)
Gitを使うメモ｜おれっち (note.com)

VecteusLOCAL AI HACKATHON#001にて金賞を受賞した、7bのL

もっとみる
おれっち

おれっち

DockerでGPUを使うメモ

DockerでGPUを使うメモ

このメモを読むと

・NVIDIA-Dockerを導入できる
・DockerにてGPU環境を構築できる
・PyTorchの動作確認ができる

検証環境

・Windows10Pro 22H2
・Ubuntu-22.04
・Docker 25.0.1
・NVIDIA製GPU
・2024/1/E時点

事前準備

UbuntuにDockerを入れるメモ | おれっち

NVIDIA-DockerDoc

もっとみる
おれっち

おれっち

UbuntuにDockerを入れるメモ

UbuntuにDockerを入れるメモ

このメモを読むと

・Ubuntu上にDocker環境を導入できる

検証環境

・Windows10Pro 22H2
・Ubuntu-22.04
・2024/1/E時点

事前準備

DドライブにUbuntuを入れるメモ | おれっち

DockerDockerは、アプリケーションを隔離された環境（コンテナ）内で実行するためのツール。環境の違いに影響されずにアプリケーションを開発、テスト、デプロ

もっとみる
おれっち

おれっち

DドライブにUbuntuを入れるメモ

DドライブにUbuntuを入れるメモ

このメモを読むと

・WindowsにWSLのLinux環境を導入できる
・別ディスクに引っ越せる

検証環境

・Windows10Pro 22H2
・2024/1/E時点

UbuntuUbuntuは、Linuxをベースにした無料のOSです。
Linuxのほうが環境構築が楽なことが多いので導入してみます。
今回導入するのはCUI（コマンド）環境までです。

すること

Ubuntuの導入
　・

もっとみる
おれっち

おれっち

kohya_ssセットアップメモ

kohya_ssセットアップメモ

このメモを読むと

・kohya_ss GUIを導入できる

検証環境

・Windows11
・VRAM24GB
・ローカル（Anaconda）
・python3.10
・2023/8/E時点

事前準備

Anacondaを使うメモ｜おれっち (note.com)
Gitを使うメモ｜おれっち (note.com)
Stable Diffusionで遊ぶメモ｜おれっち (note.com)

k

もっとみる
おれっち

おれっち

QLoRAチューニングモデルをAPIから遊ぶメモ

QLoRAチューニングモデルをAPIから遊ぶメモ

このメモを読むと

・QLoRA学習済みモデルをAPI経由で呼び出せる
・ストリーム出力ができるようになる

検証環境

・Windows11
・VRAM24GB
・ローカル（Anaconda）
・python3.10
・2023/7/B時点

事前準備

Anacondaを使うメモ｜おれっち (note.com)
Gitを使うメモ｜おれっち (note.com)

APIとはあるソフトウェアから

もっとみる
おれっち

おれっち

VOICEVOXをpythonから遊ぶメモ

VOICEVOXをpythonから遊ぶメモ

このメモを読むと

・VOICEVOXのエンジンを導入できる
・音声データを生成できる
・GPUを使って高速に処理できる

検証環境

・Windows11
・VRAM24GB
・ローカル（Anaconda）
・2023/6/M時点

事前準備

Anacondaを使うメモ｜おれっち (note.com)

VOICEVOX無料で使えるテキスト読み上げソフトウェアです。
商用利用可なモデルも多数揃

もっとみる
おれっち

おれっち

QLoRAで遊ぶメモ

QLoRAで遊ぶメモ

このメモを読むと

・QLoRAを導入できる
・でかいローカルLLMモデルをファインチューニングできる

検証環境

・Windows11
・VRAM24GB
・ローカル（Anaconda）
・2023/6/M時点

事前準備

Anacondaを使うメモ｜おれっち (note.com)
Gitを使うメモ｜おれっち (note.com)

QLoRAとはVRAMを節約することで容量の大きいローカル

もっとみる
おれっち

おれっち

PEFTでLoRAマージしてCTranslate2で遊ぶメモ

PEFTでLoRAマージしてCTranslate2で遊ぶメモ

このメモを読むと

・ファインチューニング後のモデルを爆速で動かせる

検証環境

・Windows11
・VRAM24GB
・ローカル（Anaconda）
・2023/6/M時点

事前準備

Anacondaを使うメモ｜おれっち (note.com)
Gitを使うメモ｜おれっち (note.com)

モデルのマージPEFTを使うことで手軽にファインチューニングを行うことができます。
そして、

もっとみる
おれっち

おれっち

rinnaをCTranslate2から遊ぶメモ

rinnaをCTranslate2から遊ぶメモ

このメモを読むと

・CTranslate2を導入できる
・ローカルLLMの文章生成が爆速になる

検証環境

・Windows11
・VRAM24GB
・ローカル（Anaconda）
・2023/6/M時点

事前準備

Anacondaを使うメモ｜おれっち (note.com)
Gitを使うメモ｜おれっち (note.com)

CTranslate2とはtranseformerモデルで効率的

もっとみる
おれっち

おれっち

PEFTをWindowsから遊ぶメモ

PEFTをWindowsから遊ぶメモ

このメモを読むと

・PEFTを導入できる
・ローカルLLMをファインチューニングできる

検証環境

・Windows11
・VRAM24GB
・ローカル（Anaconda）
・2023/6/M時点

事前準備

Anacondaを使うメモ｜おれっち (note.com)
Gitを使うメモ｜おれっち (note.com)

PEFTとはローカルLLMのファインチューニングを手軽に実現できるライブ

もっとみる