ぬこぬこ

LLM たのしい！！！一緒にしよ？❤️

ぬこぬこ

LLM たのしい！！！一緒にしよ？❤️
  • 固定された記事

いちばんやさしいローカル LLM

概要ローカル LLM 初めましての方でも動かせるチュートリアル 最近の公開されている大規模言語モデルの性能向上がすごい Ollama を使えば簡単に LLM をローカル環境で動かせる Enchanted や Open WebUI を使えばローカル LLM を ChatGPT を使う感覚で使うことができる quantkit を使えば簡単に LLM を量子化でき、ローカルでも実行可能なサイズに小さくできる 1. はじめに大規模言語モデル（LLM）の数は数年前と比べてたく

ぬこぬこ

    • xcodes / Xcode.app で Xcode のバージョン管理

      tl;drxcodes でコマンドだけで Xcode のバージョン管理ができる Xcode.app でぽちぽち Xcode のバージョン管理ができる インストールHomebrew 経由でインストールしてください。 ## CLI で使いたい方brew install xcodes## GUI で使いたい方brew install --cask xcodes もしまだ Homebrew をインストールしていない方はこちらからインストールしてください。いろんなコマンドやアプ

      ぬこぬこ

      • Stripe アカウントの復旧方法

        tl;dr基本的には公式のサポートページの案内通りに辿れば復旧できる どうしてもサインインできない時はこちら↓から問い合わせましょう！ 日本語でも対応いただける…ありがたい… 状況電話番号による二段階認証を以前設定したが電話番号を変更した バックアップコードは紛失した リカバリーフォームに案内のあるふたつの方法のいずれも申請が通らない 解決策①：バックアップコードを探す二段階認証設定時に保存したであろうバックアップコードを見つけてサインイン。 解決策②：アカウン

        ぬこぬこ

        • OrbStack についてまとめてみる

          tl;drOrbStack は macOS 向けの軽量・高効率な Docker Desktop 代替ツール 主な特徴：高速パフォーマンス、低リソース使用、シームレスな開発環境統合 macOS 12.3 以降で利用可能、インストールは公式サイトからダウンロードして簡単に設定 CLI ベースの操作で、コンテナと仮想マシンの管理が容易 Docker Desktop と比較して起動が速く、リソース使用量が少ない 開発環境構築、テスト環境構築、本番環境シミュレーションに適して

          ぬこぬこ
        • 固定された記事

        いちばんやさしいローカル LLM

        ぬこぬこ

          Hugging Face ZeroGPU のチュートリアル

          tl;drHugging Face に月に 9 ドルお布施すると ZeroGPU が使えるよ！ ZeroGPU は Hugging Face Spaces にて最大 120 秒間 A100 が使えるという代物だよ！ 通常はホスティングに時間単価で課金が発生するから安心だね！ ちょっとしたモデルの推論サーバとして重宝するよ！ ZeroGPU とはなにかHugging Face Spaces で追加のコストなく GPU を使える代物。 この記事の読者の多くは、大規模言語

          ぬこぬこ

          Hugging Face ZeroGPU のチュートリアル

          ぬこぬこ

          忙しい方向け OpenAI 発表まとめ

          tl;drGPT-4o：モデルの性能↑速度↑価格↓（o は omni の頭文字） 文章、音声、画像すべての能力がアプデ 入力：文章、音声、画像、動画（フレーム） 出力：文章、音声、画像、3D モデル 音声対話中に割り込み可、応答速度↑（話す速度も変更可） MacOS デスクトップアプリが登場（Windows は今年後半） ショートカットキー（Option + Space）より呼び出して質問 音声で対話できるように（将来的には音声・動画入力可能に） MacOS

          ぬこぬこ

          忙しい方向け OpenAI 発表まとめ

          ぬこぬこ

          MacOS で Flask を立ち上げている時の Port 5000 is in use by another program. の解決策

          tl;drFlask 実行時に他に何も立ち上げていないのに 5000 番ポートが使えない Mac だと AirPlay Receiver が当該ポートを使うため、この機能をオフに 何が起こったか$ rye run python app.py * Serving Flask app 'app' * Debug mode: onAddress already in usePort 5000 is in use by another program. Either identi

          ぬこぬこ

          MacOS で Flask を立ち上げている時の Port 5000 is in use by another program. の解決策

          ぬこぬこ

          docx ファイルを pdf に変換する

          tl;drMacOS で docx → PDF を CLI でできるよ！ 新しい話ではないよ！ 超簡単brew install --cask libreoffice soffice --headless --convert-to pdf target_file.docx 以上。 ハマりポイントコマンドラインからも Python からも動作しませんでした…Apple Script で動いているので、Sonoma になってから互換性がなくなった？

          ぬこぬこ

          docx ファイルを pdf に変換する

          ぬこぬこ

          GPT-3.5 を超えると噂のモデル blue-lizard を Ollama x Enchanted で動かす

          tl;drOllama かわいい Enchanted かわいい blue-lizard つよい チュートリアル形式でまとめたので、良かったら動かしてみてね 登場人物ひとことまとめOllama オープンソースのローカル LLM をインストール、実行するコマンドラインツール Enchanted Ollama に対応したローカル LLM を実行できる Apple デバイス用の GUI アプリケーション blue-lizard Llama 2 7B に追加事前学習

          ぬこぬこ

          GPT-3.5 を超えると噂のモデル blue-lizard を Ollama x Enchanted で動かす

          ぬこぬこ

          GPTs のプロンプトリーキング対策

          ⚠️この記事を読んで得られる情報は、プロンプトリーキングに対する具体的な対策手法のみです。よく知られているプロンプトリーキング手法は既知の情報として一部掲載しますが、詳細な手法については言及しません。完全な対策は不可能という前提で「仮にすべてインターネットに流していいという情報」のみを Instruction プロンプトに記入＆ファイルのアップロードをしてください。すぐ陳腐化する可能性があるので、適宜更新していきます。 ⚠️また、この記事の情報を知った上で、どなたかの GP

          ぬこぬこ

          GPTs のプロンプトリーキング対策

          ぬこぬこ

          Assistants API の解説と動作確認（Google Colab）

          Assistants API って？アプリケーション内で独自の AI アシスタントを構築できるもの 指示に対してモデル、ツール、知識を用いてユーザのクエリに応答 ツールとして、Code Interpreter とRetrieval と Function Calling に対応 使い方指示を定義して、モデルを選択して、アシスタントを作成 ユーザーが会話を開始したらスレッドを作成 ユーザーの質問に対してスレッドにメッセージを追加 アシスタントをスレッドで実行して応答を

          ぬこぬこ

          Assistants API の解説と動作確認（Google Colab）

          ぬこぬこ

          CyberAgentLM2 (CALM2) のモデルの Google Colab 実行コード

          サンプルコードを実行したノートブックを置いておきます。V100 でも推論できます。CALM2 の全体像的なまとめはこちら↓ 各モデル Gist から Open in Colab を押せばそのままノートブックを開いて実行できます。 cyberagent/calm2-7bcyberagent/calm2-7b-chat

          ぬこぬこ

          CyberAgentLM2 (CALM2) のモデルの Google Colab 実行コード

          ぬこぬこ

          JSLM Beta (Japanese Stable LM Beta) のモデルの Google Colab 実行コード

          サンプルコードを実行したノートブックを置いておきます。大人しく A100 を使いましょう。70B はモデルのダウンロードに二時間程度かかるのでご注意を。JSLM Beta の全体像的なまとめはこちら↓ 各モデル Gist から Open in Colab を押せばそのままノートブックを開いて実行できます。 Japanese Stable LM Base Beta 7BJapanese Stable LM Base Beta 70Bそもそも動くのか…！？ Disk が足り

          ぬこぬこ

          JSLM Beta (Japanese Stable LM Beta) のモデルの Google Colab 実行コード

          ぬこぬこ

          Youri 7B のモデルの Google Colab 実行コード

          サンプルコードを実行したノートブックを置いておきます。量子化していない 7B のモデルは V100（VRAM 16GB）ではメモリ不足で動かないので注意。A100 ガチャ引きましょう。Youri 7B の全体像的なまとめはこちら↓ 各モデル Gist から Open in Colab を押せばそのままノートブックを開いて実行できます。 rinna/youri-7b rinna/youri-7b-instructionrinna/youri-7b-chatrinna/yo

          ぬこぬこ

          Youri 7B のモデルの Google Colab 実行コード

          ぬこぬこ

          TypeChat を丁寧に紐解く

          人力要約Microsoft の TypeScript のチームが新しいライブラリを公開したよ TypeChat は型定義を利用した自然言語インターフェースだよ プロンプトを最適化するのではなく、スキーマを最適化するものだよ 応答に対して型チェックをして妥当性を保証するよ サンプルを動かしてみたよ（方法を解説をしているよ） 筆者の想像以上に実装はシンプルでわかりやすくできているよ 筆者はハルシネーションに気付いていない可能性があるので鵜呑みにはしないでね Type

          ぬこぬこ

          TypeChat を丁寧に紐解く

          ぬこぬこ

          Airpods ProをAppleで無償交換した全過程

          動機付けいろいろなブログを読ませていただきましたが、自分にとって欲しい情報を手に入れるまでに時間を要したので、それならばと実際に交換して届くまでの過程の全てを記録として残しておきます。どなたかのお役に立てれば幸いです。 修理依頼から交換品到着までの全過程私のAirpods Proの状況 2019年12月にAirpods Proを購入 2021年12月から装着時に両耳から毎回ザーという雑音が20秒程度聞こえる ノイズキャンセリング等の切り替え動作時にも時折同じ雑音が入る

          ぬこぬこ

          Airpods ProをAppleで無償交換した全過程

          ぬこぬこ