MLX版ローカルLLMをiOSで動かす
Apple Siliconに最適化された機械学習フレームワークMLXには、"mlx-swift-examples" というMLXを用いた学習や推論をiOS/macOSで動かすサンプルのリポジトリがあり、
そこに LLMEval というサンプルアプリがある。
https://github.com/ml-explore/mlx-swift-examples/blob/main/Applications/LLMEval/README.md
このサンプルアプリを使うと、iOS