マガジンのカバー画像

shi3z note

541
運営しているクリエイター

2024年4月の記事一覧

「教養としてのAI講座」ゴールデンウィーク再放送祭り

「教養としてのAI講座」ゴールデンウィーク再放送祭り

昨日はFree-AI社として初めてのイベント、「AI時代の経営塾」を開催した。あくまでも「AIに経営の真実を教える」ことが目的のため、人間の観客はダミー。文字通り門外不出でヤバすぎる経営の本音、現実といった、少人数ならではの講座になってAIとしても非常に良いデータが取れた。

オプト(現デジタルホールディングス)を創業し、Yahoo!Japanの広告を売りまくり、東証プライム上場企業にまで育てた海

もっとみる
性格診断テストとコールドリーディングするAI

性格診断テストとコールドリーディングするAI

いい年をこいた男には、大抵、昼の友達と夜の友達がいる。
昼の友達は、まあ基本的には仕事仲間だ。日中の行動を一部共にして、同じ目標のために頑張る。昼の友達と酒を飲むこともあるが毎日というわけじゃない。

夜の友達は、主に酒場にいる。その場限りの相手は友達とは呼べないが、毎週決まった時間に顔を出すと、お互い名前を覚えるようになる。

「清水さん、あれやってます?」

「あれって?」

「今流行ってるん

もっとみる
BitNetLLMの罠(学習に失敗した話)

BitNetLLMの罠(学習に失敗した話)

こないだ試した1bitllmが割と上手く行ってるようなのと、あまり日本語が下手なのでとりあえずファインチューニングでもするかと思ってやってみたらハマって数日無駄にしたという話。

BitNetは、よく知られているように推論と学習で動きを変えないといけない。

ところが1bitllmの実装では、そこいらへんが僕が前にやったBitLinearの実験で使ったコードとは微妙に違ったのでメモがてらご報告。

もっとみる
1BitLLMの実力を見る

1BitLLMの実力を見る

1BitLLMは本当に実現可能なのか?そして、実現されると予告されていることに意味はあるのか?

ようやく再現実装に成功した人が現れたので僕も試してみた。

ちなみに1Bit(1.58bit) LLMについての考察はこのページが面白いので一読をお勧めする。

肝心の1Bit LLMの実装はここで公開されている。

ただし、普通のHuggingFaceのお作法とはかなり違うので注意が必要。
まず、こ

もっとみる
AI時代に起業するということ

AI時代に起業するということ

生成AI以前と以後で、会社のあり方は決定的に変化していくのだと思う。
たとえば、昨日はとある会議で、「この(AI)サービスの原価はいくらか」という議論が沸き起こった。

AIサービスなのだから、AIの利用料くらいしかかからないかというとそうでもない。実際、AIを動かすためにはAIそのものにかかるお金以外の人件費がかかる。誰かに売る人の人件費や、システム開発のための人件費や、サポートのための人件費だ

もっとみる
YouTube更新するの大変だよなあ

YouTube更新するの大変だよなあ

なんか普通に忙しくて、家から一歩も出ない日もそうでない日も
余計なことをする暇がなくなってしまった。
2022年の7月ごろから平日毎日更新を目指していた我がYoutubeチャンネルも、ついに先週、ネタ切れして穴を開けてしまった。

しかし苦情らしい苦情は特に来てないので別に毎日やらなくてもいいのか。

まあでも更新しないと寂しいという人がいるのでできるだけ平日毎日配信はしていきたいと思ってはいる。

もっとみる
結局アルゴリズムが大事という話

結局アルゴリズムが大事という話

こないだ作ったメールをいい感じに要約して適当な返信文まで考えてくれるツールを「まごころメール」と名付けた。

僕は過去に書いたいろんな本で「AI時代に価値を持つのは真心と思いやり」と締めくくっていたのだが、一番真心が足りてないのは僕だったようだ。

このツール、単なるネタではなく本当に仕事のやり取りに使っている。
面白いのは、一度手動で「※この文章は人工知能が作成し、清水が確認の上送信したものです

もっとみる
Command-R+の衝撃! 100Bモデルで本当にこんなことできんの!?ダウンロードしてローカルで実行可能

Command-R+の衝撃! 100Bモデルで本当にこんなことできんの!?ダウンロードしてローカルで実行可能

Transformerの発明者らが起業したCohereAIがとんでもないモデルを出してきた。この業界では毎週のように「えーー!」ということが起きるのだが、その中でも年に1,2回起きる「えーーーっ」が起きたのでブログでも紹介しておきたい。

Command-R+(おそらくコマンダープラスと読むのが正しい)というモデルは、わずか100Bで、GPT-4,Claude-3並と言われるモデルだ。しかし、それ

もっとみる