ChatGPTが使用できなくなったときの推論サーバ(代替品)を作った
経緯先日、ChatGPTの利用がしにくい障害が発生した。Geminiの利用も試したが推論内容は不安が残るので結局は公式のリソースから調べた。そのとき、何かしらの理由でメインで利用しているサービスがアクセスしにくいときに、手軽で便利に利用できるサーバがないなと思い作った
ユーザーインターフェースの構想GitHubにはLLMのサーバとなるUIがいくつも公開されているが、導入方法を理解するのに時間が掛かりそうだったので不便に感じた。もっと手軽に実行できるものを作って、ChatGP