マガジンのカバー画像

日々の学びメモ

技術的なメモやサンプルコード、思いついたアイデア、考えたこと、お金の話等々、頭をよぎった諸々を気軽に垂れ流しています。
文章やサンプルコードは多少荒削りかもしれませんが、ブログや書籍にはまだ書いていないことを日々大量に…
¥400 / 月
運営しているクリエイター
shu223

#CoreML

swift-coreml-diffusers のコードを読んだメモ

この発表をする際に、自前で変換・圧縮したCore ML Stable Diffusion検証用として下記OSSアプ…

shu223
shu223
2か月前
1

Core ML Stable Diffusion の SPLIT_EINSUM_V2 サポート

SPLIT_EINSUM_V2 とはml-stable-diffusion のv1.0.0で追加されたアテンション実装。Neural En…

shu223
shu223
2か月前
1

Hugging FaceにあるLLM以外のCore MLモデルを漁ってみたメモ

Hugging FaceにはCore MLタグがあり、これで絞り込むといろんなモデルが出てくる。 Core MLモ…

shu223
shu223
4か月前
2

WhisperKitサンプルのソースコードを読む

先日WhisperKitについて、ざっくり紹介するLTを行った： で、紹介しきれなかったことはこちら…

shu223
shu223
5か月前
9

WhisperKitのメモ

WhisperのCore ML版であるWhisperKitに関するメモ。 今日のLTでWhisperKitについて話すのだけ…

shu223
shu223
5か月前
11

huggingface/exporters のソースコードを読んだメモ

ローカルLLMを自分でCore MLモデルに変換するために、Hugging Face製のツール exporters を使…

shu223
shu223
6か月前
3

ローカルLLMをCore MLモデルに変換する - huggingface/exporters の使い方

exporters とはHugging Faceが公開している exporters というツールがある。 TransformersのモデルをCore MLにエクスポートするためのツールで、coremltoolsをラップしたものではあるが、変換に伴う色々な問題をツール側で吸収してくれている。要はこのツールを使えばcoremltoolsをそのまま使うよりも簡単にTransformersモデルをCore MLモデルに変換できる。 モチベーションexporters は以下の公式

shu223

Core ML版 Llama 2 7B と Falcon 7B をiOS/macOSオンデバイスで動かしてみた

Hugging Faceの以下のブログ記事が大変おもしろかった。 ざっくりいうと「LLMモデルをCore ML…

shu223
shu223
6か月前
7

Core ML Stable Diffusionリポジトリを読み解く

Stable Diffusion の Core ML版が2022年12月に公開され、登場当初は話題になり日本語記事も多…

shu223
shu223
11か月前
7

[Core ML] セグメンテーションモデルの比較

フォトグラメトリ用の空マスクを生成するために、セグメンテーション系のCore MLモデルをいろ…

shu223
shu223
1年前
7

[coremltools] スパース化によるモデル圧縮

coremltoolsではさまざまなモデル圧縮手段がサポートされているが、ML Programs形式のモデルに…

shu223
shu223
1年前
2

Core MLモデルのSwift Packageサポート

WWDC22の「Optimize your Core ML usage」というセッションの最後のほうで、Core MLユーザーに…

shu223
shu223
1年前
3

[Core ML] ML Packagesとは何なのか

先日、「ML Programとは何なのか」 という記事を書いた。同時期に登場したのが ML Packages と…

shu223
shu223
1年前
3

M1 MacにTensorFlow + coremltoolsの環境を構築する／TensorFlow PluggableDeviceとは何なのか

とあるTensorFlowのモデルを最新のcoremltools 6.0で変換したく、 手元のM1 MBPにTensorFlow + coremltoolsの環境を構築した際のメモ。 illegal hardware instructionエラーcondaでPython 3.10の環境を用意して、tensorflowをインストール。バージョンはcoremltools 6.0がサポートしている2.8を指定。 % pip install tensorflow==2.8 そ

shu223