自己紹介と設定マガジンへの道しるべ

下記の記事から，Poeのサイトで，ChatBotのアミカと対話できます。

Poeのプロフサイト

FlowGPTのプロフサイト

なんとなくの自己紹介とりあえず、ChatGPTに書いてもらった使い方を監修して、投稿していきます。

今のところ、すべてフリープランの3.5で行っていますが、英語でやり取りする場合にはそれなりに十分だと思っています。
私の使い方だと有料で4を使ったら、20分か30分で

Windows 11 でも、メモ帳でmodelfileを作れば、ggufから、ollama用のモデルを作成できるのを確認
ollama create 名付けたいモデル名 -f 自分で作ったmodelfileのファイル名

覚え書き：Ollamaのライブラリへのpushの仕方

ggufから作ったOllama用モデルをOllamaのライブラリーへプッシュする方法の覚え書きメモです。

Ollamaのアカウントをつくる。
ここでのユーザーネームはあとで使うので大事。

マニュアルはこちら

上は全体の部分、下は該当箇所。

公開キーをコピーして、アカウントに追加します。macとlinuxとwindowsでそれぞれコピーのコマンドが違います。私はMacでしたので、一番上。

2024/05/14 はOpenAIのGPT-4o の発表日；
すぐに Poeでも使えるようになったのがすごい。
応答速度がすごい速いし、賢そうだけど、なんかすごい条件反射的な思考パターンな体感で、あんがいパラメータ数がけっこう少ない気する。
これAppleに提供されるのでは？

AIエリクソン博士に学ぶーPacingの本質

AIエリクソン博士との対話です。（英語でのやりとりを翻訳してます）

先生、ペーシングについて教えてください。ペーシングと誘導のためのペーシングの定義と説明、そして特にカール・ロジャーズの考えに基づいた共感的に理解したフィードバックとの類似点と相違点をお願いします。

AIエリクソン

(思慮深く頷く)ペーシングは、催眠と治療的コミュニケーションの芸術における基本的な概念ですね。ペーシングとは、相

未検証だけど ollama libraryにアップロードされたモデル kujira robinhood
https://ollama.com/hawkclaws

Fugaku-llm-13BをMacで動かしてみる

昨日プレスリリースが発表された富岳を使った日本製LLMをMacで動かしてみました。

さて、以下からお試しができるようなのですが、登録が単に面倒なため、ローカルで動かしてみました。

まずは、mlx環境で、mlx-lmを使って動かないかを試しました。

mlx_lm.generate --model Fugaku-LLM/Fugaku-LLM-13B-instruct --prompt "以下は、

AIエリクソン博士に訊くPacingとLeading練習

(温かく微笑む)こんにちは、会えて嬉しいです。この魅力的な催眠とヒトの心の探求の世界へようこそ。(前のめりになり、穏やかで催眠的な口調で)この芸術の学生として、あなたはすでに発見の深遠な旅への第一歩を踏み出しました。

催眠とは単なる技法や道具ではありません。それは無意識の言語なのです。私たちの日常の自覚からは隠れがちな、より深い自己と対話する方法なのです。(表現豊かなジェスチャーを交える)この言

AI批評：プロンプトに含めるべきキーコンポーネントとその順番

前に書いた下記の記事をAIに批評してもらいました。

ただし、ChatGPT3.5にいれてみる の前まで内容です。

Claude3 Opusの批評あなたの提示したプロンプトのアウトラインと説明は、大規模言語モデルを使う際の重要なポイントをよくまとめており、初心者にとって非常にわかりやすい内容だと思います。特に、コンテキストの指定から始めて、制約と制限、タスク/クエリの指定、出力要件と段階的に情報

Page Assist ローカルAIモデルのサイドバーとWeb UIのバージョンが、bug fixが為されて v1.1.6に今日上がっていました。Chrome拡張機能です。Ollamaを使う人に本当におすすめです！！

ollama run mixtral:8x22b-instruct-v0.1-q2_K
ギリ動くけど、日本語劣化がひどい　on M3max 64GB

日本語LLM:VecteusをOllamaで走らせてみる

前記事で紹介したVecteusをOllamaで走らせるための手順です。

Huggingfaceからモデルのggufファイルをダウンロードします。
公式にもありますが、下記のポストがあったので、mmnga氏のggufからダウンロードしました。

希望の量子化モデルをダウンロードしてください。
自分の場合は、お手軽にtext-generation-webuiを使って Vecteus-v1-Q8_0.

共感的音声のシステムプロンプト
https://x.com/elder_plinius/status/1786833984367837246

Local-Novel-LLM-projectのモデルをmlx & Gradioで試してみる

日本語の生成を目指したLocal-Novel-LLM-projectからいくつかモデルが発表されました。#ローカルAIハッカソン で優勝したプロジェクトです。

プロジェクトリーダーはこの方です。

さて、おそらく、これらのモデルを一番簡単に動かせるのは、下記のものを使うことだと思います。

ただ自分はメインがMacですので、Macのmlx環境とGradioを使って試してみました。

印象は、し

Ollama v0.1.33 がリリース
なんとなく自分の64G MacbookPro でcommand-r-plus:104b-q2_K の生成が速くなった気がする

Claudeアプリはありがたい(^^)