マガジンのカバー画像

shi3z note

523
本
運営しているクリエイター
shi3z
shi3z

shi3z

AIチョットワカル グッズ を作った

AIチョットワカル グッズ を作った

昨日技研ベースで「おれAIちょっとわかる」という話をしたら、「Tシャツが欲しい」という声が上がったのでSuzuriで作ってみた。

これで君もプロンプトDJだ!

帽子とトートバッグとアクリルスタンドもあるよ

shi3z

shi3z

ご家庭用LLMでストリーミングする方法

ご家庭用LLMでストリーミングする方法

ネットで軽く探したけど書いてなかったのでご家庭用LLMを試す時にREPLでストリーミングしたい(なぜなら長考に入ってしまうから)時に使うコード。
ELYZAのやつを例にするけど他も同じはず。

import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer,TextIteratorStreamerB_INST, E_

もっとみる
shi3z

shi3z

ELYZAの商用利用可能な最新7B LLMを試す(本日のSOTA)

ELYZAの商用利用可能な最新7B LLMを試す(本日のSOTA)

ELYZAの曾根岡さんが「ELYZAでも商用利用可能な大規模言語モデルを作ったので使ってみてください」というので、使ってみた。

最大の特徴は、他の言語モデルと違い、Llama2をベースとしながらも、Llama2のトークナイザーに日本語がほとんど含まれていないという欠点を解消するために独自にトークナイザーを拡張したこと。これによりトークン数を節約できるようになり、2倍近くスピードが上がったとのこと

もっとみる
shi3z

shi3z

AIフル活用で視覚と聴覚で楽しむ音楽会は異次元の体験

AIフル活用で視覚と聴覚で楽しむ音楽会は異次元の体験

まったく不意を突かれた。
泡盛のハイボールは以前飲んだことがあるが、こんなにも泡盛がまろやかで香り豊かになるとは。

ちょっと泡盛を少し侮っていたかもしれない。
3,4種類あったが全部飲んだ。

いや、そうではない。泡盛は別の話だ。

その日、僕はちょっと自分の正気を保つのに必死だった。
オーケストラ、琉球民謡、そしてGAN。その三つが渾然一体となって視覚、触覚、聴覚でトリプルパンチを繰り出してく

もっとみる
shi3z

shi3z

新刊出ます。「検索から生成へ」

新刊出ます。「検索から生成へ」

先月発売した「教養としての生成AI」おかげさまで売れ行き好調なようで少しホッとしています。そしてこのタイミングで新刊のお知らせです。

前作「教養としての生成AI」では、ここ半年から二年くらいの話がメインテーマでした。激動の時代の中にあっては、発売後一ヶ月を待たずしてすでに情報が古くなりつつあります(それでも結論は変わらないのですが)。

それに対して、8/25発売予定の新刊「検索から生成へ」は、

もっとみる
shi3z

shi3z

パソコンもらった

パソコンもらった

ある日、「パソコンが欲しい」と呟いた。
「何を言ってるんだきみは」と思うかもしれない。

確かに、ざっと見回しだけで部屋にはパソコンがいっぱいある。
しかもほとんど全てにNVIDIAのGPUが載っている。一番素朴なもので、1080Ti(12GB VRAM)が5台くらい、一番や大きいやつで4UのA6000(48GB VRAM)というのもあるのだが、にもかかわらず、パソコンが足りねえなあと思ったのであ

もっとみる
shi3z

shi3z

東大松尾研発のLLM(Weblab-10B)を試す

オープンソースではあるが商用利用不可!
大人の事情があるのだとは思うが、そこは商用利用可能にして欲しかった。
営利企業であるrinnaもCyberAgentもLINEも商用利用可能なモデルを出しているのに、なぜ国立大学が税金(とおそらくは寄付)で開発したモデルが商用利用不可なのだろうか。デジタル庁なんとかしろ(お門違い)
(8/19追記 よく考えたらAlpaca使ってるから非商用限定なのか?だった

もっとみる
shi3z

shi3z

LINEの3.6B言語モデルで遊んだら爆笑した

LINEの3.6B言語モデルで遊んだら爆笑した

LINEから36億(3.6B)パラメータの大規模言語モデル(LLM)が公開されたので早速遊んでみた。正確には遊んだのは昨日のデイリーAIニュースなのだが、面白かったのでこちらにも転載する。
細かいやり方は大先生のページを参照のこと。

例によってこんな関数を書いた

def line(prompt): # 推論の実行 input_ids = tokenizer.encode(promp

もっとみる
shi3z

shi3z

請求書と業務報告書のPDFを自動生成するようにした

請求書と業務報告書のPDFを自動生成するようにした

どこの誰が考えたか知らないが、「業務報告書」と「請求書」を定期的に、日付だけ変えて送らないと死ぬ人(or会社)があるらしく、吾輩は追い先短い貴重な時間を配達もサボってそんな間の抜けた非生産的なことのために使い、しかも毎月間違うのであった。間違うとさらにメールのやり取りが発生して大変無駄である。

例えば「7月分」と書かなければならないところを書き換え忘れて「2月分」のまま、作業した時間を一覧で書い

もっとみる
shi3z

shi3z

AI Bunchoモデルで何か物語めいたものを生成する

AI Bunchoモデルで何か物語めいたものを生成する

AI文鳥というAI小説作成支援サービスのAIモデルが公開された。

もともと小説を書くためのAIなので物語には強いだろう。しかも日本製だし。

ということで大先生が早速試していた。

僕も真似をしてさっそく使ってみたのだが、そのままだとかなり短い文章しか出てこない。使い方に工夫が必要そうである。

そこでこんなコードを書いた。

def b(prompt): input_ids = toke

もっとみる
shi3z

shi3z

Llama2ベースのLLaVAが画像のプロンプトを考えられるようになった

Llama2ベースのLLaVAが画像のプロンプトを考えられるようになった

画像から物語を考えられるとか頭がおかしいと思っていたのだが、そういう頭のおかしいAIが大好物である吾輩は、なんとかそのクレイジーAIジャーニーを我が物にしようと画策していた。

近い物でLLaVAというものがあって、最近LLaVAがLlama2ベースのものになって大幅にバージョンアップしたというのでドスパラさんちのご家庭用PC(A6000x2)に入れてみた。

まあコマンドライン書くほどでもないが

もっとみる
shi3z

shi3z

いい質問

いい質問

最近、特に学生相手に講演すると「いい質問だなあ」という質問をいただくことが如実に増えた。

昔はどんな講演会でも質問はぜんぜん出なかった。僕の説明が悪いのかと思ったが、以前、ある偉い先生の講演会を見ていたら、たくさん質問は出るんだけれども、質問が質問になっておらず、どちらかというと自分や自分の考えや商品を売り込みたいという欲望が隠せない、「いっちょかみしたい」というダメな質問が大半であった。

「

もっとみる
shi3z

shi3z

配達した

配達した

配達してきました。

ちょうど一年前くらいにStableDiffusionが公開され、勢い余ってサービスまで作ってからずっと生成AIがらみで走り回っていて、UberEatsをやる時間がとれていなかった。

しかし、まあ一介のUberEats配達員として、配達という仕事に誇りを持つ人間として、色々なイベントでは「UberEats配達員」という肩書きで出させていただいた。

ゲンロンに久しぶりに読んで

もっとみる
shi3z

shi3z

第二回AIアートグランプリ開催決定を記念してMemeplexが無料動画生成に対応!クーポン付き!

第二回AIアートグランプリ開催決定を記念してMemeplexが無料動画生成に対応!クーポン付き!

まさかの第二回AIアートグランプリが第一回の半年後に開催されるという決定を受けて、さらなる人々のインスピレーションと想像力を高めるため、Memeplexを動画対応しました。しかも無料ユーザーも動画を生成することができます。

これまで作るのが難しかったシーンも作ることができます。

横長の動画や・・・

縦長の動画も

カスタムモデルを作り込むとこんなこともできます。

使い方は簡単、「詳細な設定

もっとみる