見出し画像

Chat GPTで行う、サーバの性能設計

何回も書きますが、Chat GPTでコピー文作成や美女のイラスト作成も良いのですが。もっと違う使い方ができます。
要するにChat GPTなどのAIは道具なのでハサミのように使えばよいのです。もっといえば使う人の技術や発想によってうまくつかえたりつかえなかったりする
今回のテーマは「サーバの性能設計」です。
まずは動画をどうぞ!

前回の記事と同様に、「待ち行列理論」を使って考えました。
■サーバの性能要件をつたえます。
pingやTTLなどの詳細な用語は図をご覧ください。
テーマは「サーバの処理可能な最大問い合わせ件数」を求めます。
モデルはM/M/2で、サーバ2台(プライマリとセカンダリ)と設定します。

サーバの性能要件

■プロンプトを与える。
プロンプトを与えると1秒間の最大処理件数は「117個」と回答します。

1秒間の最大処理件数

要は、「待ち行列理論」さえ知っていれば、具体的な計算方法がわからなくても、勝手にChatGPTが計算してくれるというわけで、随分楽になったという印象です。

この記事が気に入ったらサポートをしてみませんか?