Azure Open AI におけるインフラエンジニアの役割
最近はAzure Open AI関連のプロジェクトが多い。
私はインフラエンジニア目線で感じていることを記す。
まず、Open AIを利用するにあたり利用申請が必要である。
Microsoftにフォームを送って、1,2週間で認可が下りるプロセスだ。
次に、リソースを作る。
これはどのようなアプリケーションを作るのかによるし、規模にもよるが、私が担当しているのは、AIに事前の特定の資料の情報を渡し、例えば会社の製品のマニュアルとか、会社の規定とか社則とか何百ページにもなるも