[オタク機器日記] ハードウェア、ソフトウェア、プロンプト全てがダメな一日
ようやく安定したと思ったら蜃気楼だったというのは、人生では良くあることだ。自称AI作家としては生成AI (LLM) の限界を極めたいところだったが、また週末まで「お預け！」となってしまった。
ちなみにソフトウェアに関する失敗は、下記ブログ記事に投稿しておいた。大したことある/ないはともかく、まだまだやれることは山ほどあるなあ… と、たしかに世界を騒がす騒動になるのも納得できる一日だった。
AI作家とハードウェア
そもそも僕が自宅に生成AI (LLM) 環境を構築しようとしている理由の一つに、作家業への活用がある。しかしゲージュツというのは際どいものであることも多く、企業の提供するChatGPTなどではサービス提供を断られることもある。それどころかアカウントをBANされてしまい、調べ物をするのにもサービス利用できなくなってしまうことがある。
で、今日は「モノは試し」ということで、2万文字の小説を書くことをお願いしてみた。じっと画面を見つめていると、NVIDIAのTelsa P40 GPUが全力で活動すること一分、二分、三分… 数分すると、徐々に温度が上昇し始めた。
いや、上昇どころではない。GPUでは一般的なことだけれども、とうとう70度の大台にまで到達してしまった。電気代を気にする前に、数万円のGPUが高級文鎮となってしまうリスクが出て来た。仕方がないので生成処理を中断し、GPU冷却環境の改善を図ることを試みた。
で、判明したのが冒頭画像である。うーん、もともと別GPU向けに作った厚紙アダプターを無理やり取り付けたのだけれども、やっぱり無理があったか。むしろこの状態で、70度から数分で30度までクールダウンした空冷性能を誇っても良いかもしれない。
しかし、まあ、改めて作り直した厚紙アダプターでさえ、2万文字の負荷には耐えられなかった。再び70度へ上昇してしまったので、同じ出力でも回転数が1500rpm → 2400rpmと期待できそうなファンを見つけたので、さっそくAmazonでポチってみた。
そんな訳で、「AIに小説を書いてみて貰う」という夢のようなグータラ計画は、ものの見事に「お預け！」となってしまった。
プロンプト
さて生成AI (LLM) に活躍していただくには、"お願い (プロンプト)" が重要となる。尋ね方ひとつで回答が大きく変わるのが、会社ではGoogle検索屋と見做されている者にとっては、楽しみの一つだったりする。
しかし今日はセンスのない質問しかできなかった。マムシとヤマカガシを画像で識別したいというニーズをキャッチしたので、「マムシとヤマカガシの違いを画像で識別する方法を教えてください」と尋ねることしか出来なかった。
マムシとヤマカガシを画像で識別する方法を作成します。
1. 頭部の形状: マムシは頭部が細く、ヤマカガシは頭部が幅広い。
2. 体色: マムシは体色が黒いが、ヤマカガシは体色が褐色である。
3. 眼の位置: マムシは眼が上部に位置し、ヤマカガシは眼が下部に位置する。
4. 眼の大きさ: マムシは眼が大きいが、ヤマカガシは眼が小さい。
5. 体型: マムシは体型が細く、ヤマカガシは体型が太い。
以上の項目を参腹して、マムシかヤマカガシかを判断してください。
これと元天才少年への問い合わせ結果を照らし合わせれば何か得られるかもしれないと少し期待したけれども、結局は何も得ることができなかった。悔しくて悔しくて、しばらくは夜しか眠れないかもしれない… あれ？
それはさておき、元天才少年からは生成AI (LLM) からの提供データ不足を指摘されてしまった。もともと米国生まれのLlama2を日本語向けに追加事前学習させたELYZAで、それも7B版である。素人の僕は一瞬だけ満足したけれども、ダメ出しをされてしまった。うーむ、どういうデータで学習させるかというのも、なかなか奥の深い世界なんだろうなあ。
やることは山積み状態だ。とほほほほ。
ソフトウェアの失態
そして冒頭ではブログ記事に書いたと記述したけれども、実はソフトウェアでも大失敗していたことを思い出してしまった。
昨日はエラそうなことを書いたけれども、結局イエローカード(生成AI実行時の注意指導メッセージ)の理由はinput関数などでは全くなかった。
まず結論から言うと、上記にLLMと一緒に掲載されていたサンプルスクリプトそのものでもメッセージが表示される状態だった。だからサンプルスクリプトを理解し、僕の環境に向けて適切なものへと書き換える必要があったという訳である。
先ほどのマムシとヤマカガシの違いを尋ねる際に、「もしや」と思ってサンプルスクリプトそのもので生成(推論)チャレンジして、それでもメッセージ表示されたことから状況判明したという訳だす。
我ながら昨日は、エラそうにあれこれと書いているよなあ。赤面ものですわ。あはははは、はぁー。
明日はきっといいことがあるのだ
そんな訳で三連休でも刮目するような成果は出せず、新しい週が始まるのだった。ともかく日々の仕事や生活を通して生成AIを活用してノウハウ蓄積し、その先に待っているイノベーションなどへつなげていくことが大切であるような気がする。NECさんの資料もそうなっている。
https://note.com/api/v2/attachments/download/26116b563d9287da62f59924979c7b38
蓄積されたノウハウを生成AIによって"次世代"生成AIを生み出すのかもしれないが、ともかくいきなりイノベーションの実現というのは無理である。アインシュタインの相対性理論にしても、その華々しい成果の前には幾多の蓄積があって生み出された。
そんな訳でまあ、往生際悪くやって行きましょう。それから家族や職場も巻き込んで、チームとして推進することも大切だろう。僕はアインシュタインじゃないから、なおさら土台はしっかりしていることが望ましい。
それでは今日も、この辺で。では。
by オノセー
この記事が気に入ったらサポートをしてみませんか？