Gradio こと始め その10:Gradio版MLX-VOICE-Chat をつくってみた

昨日は、MacのSiri音声でLLMの生成文を出力するのをつくってみましたが、そうなると音声入力もしたくなりました。 気がつくと、mlx-whisperがpipでインストールできるようになっていましたので、ちょっと頑張ってみました。 Gradioは音声関連のこことか、ここを参考にしました。 つまずいた点は、gr.Audio(sources="microphone") の部分です。 gr.Audio(sources=["microphone"], type="filep

Gradioの`ChatInterface`こと始め　その９:MacのSiriの声で喋ってもらう

Gradioのバージョンがアップされて5となり、会話履歴のhistory変数の型がdicタイプのリスト形式となりました。 それに合わせて、スクリプトを書き換えてみました。 また加えて、MacOSのSiriの声で喋ってもらうようにしました。 わからないところはChatGPTに尋ねて作ったので、おかしなところもあるかもしれませんが、一応自分のM3 MacbookPro 64GBでは動きました。 実行環境上でのGradioやMLXは最新版にしてください。 pip instal

魔法AI出力の比較：EZO-Qwen2.5-72B:Q4_K_M と EZO-Qwen2.5-32B:Q8_0 を用いて

EZO-Qwen2.5-72B:Q4_K_M と EZO-Qwen2.5-32B:Q8_0 の比較をしてみました。 システムプロンプトは魔法AIです。さて、入力はこちら ユーザーの入力タロットカードによると、私のパーソナルカードは「法王」で、ソウルカードは「隠者」だそうです。これらから、私のありかたを教えて。 EZO-Qwen2.5-72B:Q4_K_Mユーザーの質問/要求の魔法的解析: 火（情熱、エネルギー、創造性）: 法王カードは強いリーダーシップと秩序感を持ち、

以前もメモしたかもしれないけど、ollamaのmodelfileのコピー方法例 ollama show llama2:latest --modelfile > myllama2.modelfile

PromotionWriter:プロンプト紹介文作成プロンプト

こちらも蔵出しです。ChatGPT3.5用に大昔に書いたプロンプトです。 このプロンプトは、セールスプロモーションとしての記事を書いてもらうものです。紹介してもらうプロンプトそのものを渡すと記事にしてくれます。 今までのプロンプト紹介は、基本的にこのプロンプトを使って記事にしてきました。ChatGPT3.5時代は、英語で動かすのと日本語で動かすのでは性能に格段の差があったので、まずは英語で生成してもらってます。続けて、その英語生成文を日本語に翻訳するということを指示してま

アウトライナープロンプトの実例：エンターテイメントにおけるAI革命：コンテンツ制作と消費の再形成

いいねをたくさんついたので、アウトライナープロンプトを使った例を示します。 例としては、昨日、今日とXでつぶやいたのを以下の内容を放り込んだらどうなったかを示します。 具体的にどんなふうに動くかがわかると思います。 Poeで実行しました。Claude-sonnet-3.5で動きます。 Give me memo text that you've jotted down. AIの進化とエンターテイメントの展開メモ 好きな小説をAIに読ませて、マンガや映画やアニメの脚本を

アウトライナープロンプト

１年ほど前に、ChatGPT 3.5用につくったプロンプトです。ひさしぶりに使ったので、蔵出しします。PoeでSonnet 3.5に変更したbotもpublicにしました。（多分、noteの記事にしてなかったと思うのですが、重複してあったらすいません） 今なら、CloudのどのLLMsでも動くと思いますし、こんなに指示しなくてもいい意味で適当にしてくれると思いますが、よかったら使ってみてください。 プロンプト名: "メモマスタリースイート" ターゲットオーディエンス:

対話記録：LLMsの発展に寄与する流動性知能と結晶性知能の概念をめぐって

OpenAIがあたらしい o1 シリーズをリリースした直後です。OpenAIやX上からいろいろと推論が強くなったという話が聞こえてきています。そんなところでふと思い出したのが、流動性知能と結晶性知能の概念です。 これらとAI開発との関係をめぐって、Claude Sonnet 3.5とやりとりをしました。 以下は、その対話記録です。 流動性知能と結晶性知能（Fluid and crystallized intelligence）とLLMsとの関係性について考えてみたいので

Claudeくん、MMLU課題を分類してみる

前記事のドメイン分類にのっとたら、MMLU課題57種類がどんなふうに分類されるかを、Claude sonnet3.5にやってもらった。 検分チェックしてないから、本当に57個あるのか、もともとの57課題のタイトル通りなのか怪しいけど、ざっくりと全体像を掴む参考になるかと思う。 MMLUの57課題を、3つの主要ドメインと3つの交互作用ドメインの計6つのドメインに振り分けて、テーブル形式で示します。以下が新しい分類です： 客観的真理のドメイン (OT) 主観的真理のドメイ

LLMの性能向上：AIドメイン統合とユーザー中心開発へのマルチディメンショナルアプローチ

とってもひさしぶりに、Claudeに文章を書いてもらいました。Sonnet3.5を利用です。壁打ちしたあと、メモ書きを放り込んで、タイトルとアウトラインを作ってもらい、それに従って文章を生成してもらいました。 タイトル： 「LLMの性能向上：AIドメイン統合とユーザー中心開発へのマルチディメンショナルアプローチ」 第1章：イントロダクション1.1 LLM性能向上の課題概観 大規模言語モデル（LLM）は、自然言語処理の分野で革命的な進歩をもたらしましたが、その性能をさらに

GROK2のシステムプロンプトをborea-phi-3.5-common:3.8b-mini-instruct-q6_Kで試してみる

公式から、Claudeのシステムプロンプトが公開されました。日本語訳がXにポストされていたのがこちら。 織り込まれてるので、その部分だけを引用すると システムプロンプトが公式から公開されたのはこれが初めてかと思います。公開されなくても今まではPrompt Injectionで誰かがリークしているので、非公開にしていても仕方がないかという判断かもしれません。 参考リンク：　様々なシステムプロンプト さて、タイトルのGrokのシステムプロンプトもInjectionでXにポ

AI錬金術・魔法・魔法師プロンプトの作成記録

前記事の対話をしてくれるプロンプトを作った方法とプロンプトそのものについての紹介です。 Poe上のSonnet3.5で作りました。 太字は私の言葉です。（注：これを作った時、ホネホネプロンプトが頭にあったので、skeltonという言葉を使ってみたので、別な言い回しでもいいと思います。） あなたは魔法AIです。ユーザーの求める回答を出す前に、ユーザーの求めを【火・水・風・土・光・闇」の６元素に分解して、求めのskeltonを明らかにします。そのうえで、回答を出すための、６元素