GPU使用率をリアルタイムで監視できるNVITOPが可愛すぎて生きるのが辛い

もうT/Oでいいくらいなんだけど。
GPU使用率を見るのに毎回nvidia-smiを実行する簡単なお仕事で年収3000万円取ってるプロンプトエンジニアはいねがー?

割と洒落にならないくらい居そうなのでまあそれはさておき。
nvidia-smiがマイ実行コマンド上位ランクに位置しそうなお父さんには朗報です。

それがnvitop。
そう、その名の通り、nvidia-smiとtopを合わせたような便利な監視ツールなんです。

リアルタイムでGPU使用量をチェックできるだけでなくCPUの負荷もチェックできる。どこかに悪い子(プロセス)がいねーがーと探してくれるわけです。便利すぎる!愛しすぎる。

インストールはこんな感じで

$ pip3 install --upgrade pipx
$ pipx install nvitop

あとはもう、GPUの使用率とかCPUの使用率とかガンガン確認できますことよ。

便利すぎる

Windowsだと普通の機能だと思うかもしれませんが、そもそもGPUを推論以外のことに使うようなOS(Windows)はAI業界から言えば異端。GUIの処理に回す何ミリ秒かでどれだけ有意義な計算ができることか。

というわけでnvitop。
吾輩は知らなかった。
知って嬉しい。
みんなで使おう