Google Kubernetes Engine にて GPU を利用可能にする
機械学習用途で Kubernetes を利用していると、どこかのタイミングで GPU を使いたくなってくるはずです。実際、アトラエでも GKE(Google Kubernetes Engine) の上で GPU を利用しBERT 等の重めの処理を行っています。
GCP の提供する GKE はマネージドで Kubernetes を利用できるサービスです。GCP で用意してくれるものに乗っかると CPU ベースの処理はもちろんですが、GPU ベースの処理も比較的容易に可能になり