おれっち

あとから再構築できるようにメモ。 ビギナーなのでChatGPTに助けてもらってます。

おれっち

あとから再構築できるようにメモ。 ビギナーなのでChatGPTに助けてもらってます。

浅学が語るLLM今後の展望

結論 現在のLLMはシステム1（直感）タイプ 次世代LLMはシステム2（論理）タイプへ その足がかりとしてGNNに期待している LLMの進化ChatGPTの台頭により注目を集めたLLM(大規模言語モデル)は、目まぐるしいスピードで進化を続けています。 数年前までは幼稚園児レベルだった出力が、今では専門家顔負けと言われることもあるほどです。 しかしここまで賢くなったLLMも、実はまだできることは知識の出力止まりです。さらなる人間らしさへステップを進めるためには、知恵創出レベ

おれっち

    • LivePortraitで遊ぶメモ

      このメモを読むと ・LivePortraitを試せる ・img2videoをお手軽に試せる ・顔写真を動かせる 検証環境 ・OS : Windows11 ・Mem : 64GB ・GPU : GeForce RTX™ 4090 ・ローカル（pyenv+venv） ・python 3.10.11 ・2024/7/B時点 LivePortrait動画と顔写真を入力することで、 顔写真へ動きを付与することができます。 試してみましょう！ 環境構築とても簡単です！ 1.

      おれっち

      • ControlNeXt-SVDで遊ぶメモ

        このメモを読むと ・ControlNeXt-SVDを試せる ・img2videoをお手軽に試せる 検証環境 ・OS : Windows11 ・Mem : 64GB ・GPU : GeForce RTX™ 4090 ・ローカル（pyenv+venv） ・python 3.10.11 ・2024/7/B時点 ControlNeXt-SVD一枚絵とopenposeのモーション動画を入力することで、 画像へ動きを付与することができます。 試してみましょう！ 事前準備下記モ

        おれっち

        • ITストラテジスト試験に20代実務経験ナシ初高度区分で独学一発合格できた喜び

          結論ITストラテジスト試験に合格することができました。 うれしい。 手ごたえのある試験ですが、対策する時間を確保できれば 未経験でも初高度区分でも独学でも大丈夫です。 ITストラテジストとはITの中でも最上流の戦略立案などを扱う、エンジニア系上級職のひとつ。 モチベーション当資格は、最上流工程の企画周りを学ぶことができるものです。このような企画業務は若いうちから担当する機会が少なく、ノウハウも付きづらいものです。 しかし、知識の基盤を作っておくことで、早いうちから情報をキ

          おれっち

        浅学が語るLLM今後の展望

        おれっち

          Chat Vectorで遊ぶメモ

          このメモを読むと ・Chat Vectorを試せる ・ローカルLLMへお手軽にスキルを付与できる ・マージはGPU不使用 検証環境 ・OS : Windows11 ・Mem : 64GB ・GPU : GeForce RTX™ 4090 ・ローカル（pyenv+venv） ・python 3.10.11 ・2024/6/E時点 Chat Vector個人でLLMを育てる際、今まで主だった手法はLoRAなどのファインチューニングでした。データセットの整備や計算資源の制限

          おれっち

          Chat Vectorで遊ぶメモ

          おれっち

          Vecteusで遊ぶメモ

          このメモを読むと ・話題のローカルLLMを試せる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・python3.10 ・2024/5/B時点 事前準備 Anacondaを使うメモ｜おれっち (note.com) Gitを使うメモ｜おれっち (note.com) VecteusLOCAL AI HACKATHON#001にて金賞を受賞した、7bのLLM。 ご家庭マシンで、高品質な日本語を生成してくれるモデルです。 サポートア

          おれっち

          Vecteusで遊ぶメモ

          おれっち

          DockerでGPUを使うメモ

          このメモを読むと ・NVIDIA-Dockerを導入できる ・DockerにてGPU環境を構築できる ・PyTorchの動作確認ができる 検証環境 ・Windows10Pro 22H2 ・Ubuntu-22.04 ・Docker 25.0.1 ・NVIDIA製GPU ・2024/1/E時点 事前準備 UbuntuにDockerを入れるメモ | おれっち NVIDIA-DockerDockerコンテナ内でNVIDIA GPUを利用するための拡張機能。 GPU環境はA

          おれっち

          DockerでGPUを使うメモ

          おれっち

          UbuntuにDockerを入れるメモ

          このメモを読むと ・Ubuntu上にDocker環境を導入できる 検証環境 ・Windows10Pro 22H2 ・Ubuntu-22.04 ・2024/1/E時点 事前準備 DドライブにUbuntuを入れるメモ | おれっち DockerDockerは、アプリケーションを隔離された環境（コンテナ）内で実行するためのツール。環境の違いに影響されずにアプリケーションを開発、テスト、デプロイできます。 要するに、環境構築と管理が楽になるようです！ すること Doc

          おれっち

          UbuntuにDockerを入れるメモ

          おれっち

          DドライブにUbuntuを入れるメモ

          このメモを読むと ・WindowsにWSLのLinux環境を導入できる ・別ディスクに引っ越せる 検証環境 ・Windows10Pro 22H2 ・2024/1/E時点 UbuntuUbuntuは、Linuxをベースにした無料のOSです。 Linuxのほうが環境構築が楽なことが多いので導入してみます。 今回導入するのはCUI（コマンド）環境までです。 すること Ubuntuの導入 　・事前準備 　・インストール 　・Dドライブへお引越し Ubuntuの導入とても

          おれっち

          DドライブにUbuntuを入れるメモ

          おれっち

          kohya_ssセットアップメモ

          このメモを読むと ・kohya_ss GUIを導入できる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・python3.10 ・2023/8/E時点 事前準備 Anacondaを使うメモ｜おれっち (note.com) Gitを使うメモ｜おれっち (note.com) Stable Diffusionで遊ぶメモ｜おれっち (note.com) kohya_ssとはStable DiffusionのLoRA作成を手助けしてくれ

          おれっち

          kohya_ssセットアップメモ

          おれっち

          QLoRAチューニングモデルをAPIから遊ぶメモ

          このメモを読むと ・QLoRA学習済みモデルをAPI経由で呼び出せる ・ストリーム出力ができるようになる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・python3.10 ・2023/7/B時点 事前準備 Anacondaを使うメモ｜おれっち (note.com) Gitを使うメモ｜おれっち (note.com) APIとはあるソフトウェアから別のソフトウェアに機能を提供するための「接続口」のようなもの。便利らしい。Cha

          おれっち

          QLoRAチューニングモデルをAPIから遊ぶメモ

          おれっち

          VOICEVOXをpythonから遊ぶメモ

          このメモを読むと ・VOICEVOXのエンジンを導入できる ・音声データを生成できる ・GPUを使って高速に処理できる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M時点 事前準備 Anacondaを使うメモ｜おれっち (note.com) VOICEVOX無料で使えるテキスト読み上げソフトウェアです。 商用利用可なモデルも多数揃っているので、導入して遊んでみます。 下記記事をまるっと参考にさせていただきま

          おれっち

          VOICEVOXをpythonから遊ぶメモ

          おれっち

          QLoRAで遊ぶメモ

          このメモを読むと ・QLoRAを導入できる ・でかいローカルLLMモデルをファインチューニングできる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M時点 事前準備 Anacondaを使うメモ｜おれっち (note.com) Gitを使うメモ｜おれっち (note.com) QLoRAとはVRAMを節約することで容量の大きいローカルLLMモデルをファインチューニングできるようになる技術。 実装してデカモデルをフ

          おれっち

          QLoRAで遊ぶメモ

          おれっち

          PEFTでLoRAマージしてCTranslate2で遊ぶメモ

          このメモを読むと ・ファインチューニング後のモデルを爆速で動かせる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M時点 事前準備 Anacondaを使うメモ｜おれっち (note.com) Gitを使うメモ｜おれっち (note.com) モデルのマージPEFTを使うことで手軽にファインチューニングを行うことができます。 そして、得られたLoRAモデルとベースモデルを合体させることでマージモデルを作成できます

          おれっち

          PEFTでLoRAマージしてCTranslate2で遊ぶメモ

          おれっち

          rinnaをCTranslate2から遊ぶメモ

          このメモを読むと ・CTranslate2を導入できる ・ローカルLLMの文章生成が爆速になる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M時点 事前準備 Anacondaを使うメモ｜おれっち (note.com) Gitを使うメモ｜おれっち (note.com) CTranslate2とはtranseformerモデルで効率的に推論するライブラリです。 ローカルLLMの文章生成がとにかく速くなります。 た

          おれっち

          rinnaをCTranslate2から遊ぶメモ

          おれっち

          PEFTをWindowsから遊ぶメモ

          このメモを読むと ・PEFTを導入できる ・ローカルLLMをファインチューニングできる 検証環境 ・Windows11 ・VRAM24GB ・ローカル（Anaconda） ・2023/6/M時点 事前準備 Anacondaを使うメモ｜おれっち (note.com) Gitを使うメモ｜おれっち (note.com) PEFTとはローカルLLMのファインチューニングを手軽に実現できるライブラリ。 実装してLoRAでファインチューニングしてみます。 PEFT導入とても

          おれっち

          PEFTをWindowsから遊ぶメモ

          おれっち