ChromeのGemini Nanoでやっと遊ぶ
はじめに
ChromeのGemini Nano はChrome上（要はPCローカル）でGemini Nanoを使えるものです
えるさん環境でもいろいろ試していたのですがうまくいかず、、
やっとのことで動いたのでNoteにまとめたいと思います
ちなみに今でも何が原因だったのかはよくわかっていません👀💦
動かすにあたって大変参考にした記事は以下
ただ、記載の通り実施しても上手くいかなかったので
そのあたりも含めてまとめてみようかと思います
環境設定
前置き
Chrome Canaryのインストール, chrome://flags/の設定などは
参考にした記事と同じです
その後のchrome://componentsの設定でOptimization Guide On Device Modelがなく、いったんここでStopすることに。。
Optimization Guide On Device Modelが出てくるまで
ここから参考記事と少し流れが異なる部分です
まずnpakaさんNoteに追記されている通り、なんとかModelさんを出すには「window.ai.canCreateTextSession()をコンソールで一度実行」すればよいみたいです
…
えっ？コンソールって何？？
と思ってしまいましたが、続きに記載がありました
(1) メニュー「表示 → 開発/管理 → JavaScriptコンソール」でコンソールを表示。
なるほど、表示か開発/管理かコンソールっぽいもの、、
うーん環境差異なんでしょうか、多分そうなのかなあ
なお調べた感じ、えるさん環境だと
その他のツール→デベロッパーツール→Console でした
ちなみにF12ボタンぽちーでも出てきます
無事にコンソールを見つけたので、コマンドを入れます
await window.ai.canCreateTextSession()
上記スクショは動いた後なので、'readily' になっていますが、
'no'が出ていたような気がします（うろ覚え）
ちなみにOptimization Guide On Device Modelが出ていない場合に'no'が出るのは、おそらく期待通りです
これでOptimization Guide On Device Modelが出て…！
…来ませんでした。 あれー？？？
さらに調べると、出てこなかった場合にもう少し続きがあるみたいです
具体的には以下の記事
抜粋すると以下
以下実行が必要と書いている気がするので実施してみます
await window.ai.CreateTextSession()実行したタイミング？ あるいはchrome://components/を更新したかな？
そんな感じで無事に出てきました✨
Optimization（略）が最新になるまで
やっと出てきた…！ ここまで正直長かったです。。
出てきた後は、現在は最新になってますが、
出てきた直後はバージョン:0.0.0.0（＝モデル未ダウンロード、未更新）
だったと思います
以下を参考に アップデートを確認 をぽちー
…ずっと（30分くらい？）待ってましたが、更新を確認中みたいな感じで止まったままなのでした。。
なぜー？？？？💦
仕方ないので trouble shooting sectionも覗いてみます
・Alternative stepsは実施してみましたが、状況変わらず
・Model download delayを疑ってみましたが、そもそもPCの空き領域が減っていかないし、データ受信している気配もなさそう
・Debug logsにはそもそも何も（0も）表示されず、、
そんな感じの流れで設定の変更＆戻しや更新ボタン再度ポチポチ、
ブラウザを複数回再起動など実施していると、
急にモデルダウンロードに進み、、
出来ました！！✨
そんな感じなので、えるさんも何が原因だったのかイマイチわかっていません、有識者ー？？？👀💦
実行
そんな感じで、セットアップ出来たあとの実行は手順通りでした✨
出力は少し怪しいけど応答早い！！
ローカルのGPU使って動くみたいですね、最低動作要件とかはあるのかな？
ちなみに、セットアップした後のブラウザで使える
ChatBotのデモページとかもあるみたいです
GeminiNano未セットアップのブラウザで開くと以下の感じにエラーになるのですが、
セットアップしたブラウザで開くと、以下の感じでチャットできたりします
ハルシネーションはちょっと多めな気がしますね
まあ軽量モデルだし仕方ないのかなあ