Phi-3をMacBookM1ローカル環境で実行した話
最近、AI技術の進化とともに、ローカルで動作する大規模言語モデル(LLM)の需要が高まっています。
特に開発者や研究者の間で、クラウドではなくローカル環境でAIモデルを実行することに関心が集まっています。この背景から、本記事では、Microsoftが開発したローカルLLM「Phi-3」をM1搭載のMacで動かすことができたので記事にします。
学校教員経験者の立場の意見として、
成績処理など機密性がもとめられるシーンにおいてクラウドベースの生成AIよりもローカルLLMは「プ