日々の学びメモ

技術的なメモやサンプルコード、思いついたアイデア、考えたこと、お金の話等々、頭をよぎった諸々を気軽に垂れ流しています。

文章やサンプルコードは多少荒削りかもしれませんが、ブログや書籍にはまだ書いていないことを日々大量に… もっと詳しく

¥400 / 月

運営しているクリエイター: shu223

WhisperKitサンプルのソースコードを読む

先日WhisperKitについて、ざっくり紹介するLTを行った：で、紹介しきれなかったことはこちら…

shu223

2か月前

WhisperKitのメモ

WhisperのCore ML版であるWhisperKitに関するメモ。今日のLTでWhisperKitについて話すのだけ…

shu223

2か月前

MLX版ローカルLLMをiOSで動かす

Apple Siliconに最適化された機械学習フレームワークMLXには、"mlx-swift-examples" というMLX…

shu223

2か月前

huggingface/exporters のソースコードを読んだメモ

ローカルLLMを自分でCore MLモデルに変換するために、Hugging Face製のツール exporters を使…

shu223

2か月前

Metal関連の学び 2024年3月版

最近また？年ぶりにMetalを触っていて、新たに学んだことのメモをここに書いていきます。今…

shu223

2か月前

ローカルLLMをCore MLモデルに変換する - huggingface/exporters の使い方

exporters とはHugging Faceが公開している exporters というツールがある。 Transformersの…

shu223

3か月前

Core ML版 Llama 2 7B と Falcon 7B をiOS/macOSオンデバイスで動かしてみた

Hugging Faceの以下のブログ記事が大変おもしろかった。ざっくりいうと「LLMモデルをCore ML化する際に自前でcoremltoolsでやると非常に大変なので、そのへんをいい感じにやるツールを公開しました」という内容の記事なのだけど、 "Released Today" にとあり、既にCore MLに変換済みのLLMモデルが公開されている。変換ツールも試してみたいがまずは公開済みのモデルを動かしてみよう、ということでそれらをiOS / macOSで動か