マガジンのカバー画像

AIもろもろ

39
本
運営しているクリエイター
はまち

#Jetson

Jetson orin nano上のAgent StudioでTanuki-8Bを試す

GENIAC 松尾研 LLM開発プロジェクトの日本語を強化した軽量LLMのTanuki-8Bを、シングルボードコンピュータのJetson orin nano(8GB)で試してみました。 LLMの推論環境は色々ありますが、せっかくJesonを使うのでNVIDIAが公開しているAgent Studio上で試してみました。 実行はターミナル上でjetson-containersを起動後、ブラウザでhttps://IP_ADDRESS:8050を開くとUIが起動します。 jet

はまち

jetson-generative-ai-playground

githubで、NVIDIA-AI-IOTの jetson-generative-ai-playground というレポジトリを見つけたので、以前、勢いで購入したもののホコリがかぶったままにしてしまっていた（もったいない！）Jetson Orin Nano開発者キットの電源を久しぶりに入れて試してみました。 内容は以下の３つのテーマについて例題が示されています。 1. Text Generation（テキスト生成） oobaboogaの text-generaton-we

はまち