フォローしませんか？
シェア
masa_kazama
2023年3月3日 16:44
イントロChatGPTやBing、NotionAIなどの大規模自然言語モデル(LLM)を活用したサービスが注目を集めています。対話、要約、翻訳、アイデア生成などの多様なタスクにおいて、とても性能が高いです。ただ、ChatGPTでは、ときどき嘘が混じっていたり、文献が捏造されたりすることがあります。それを防ぐために、BingやPerplexityでは、文献を引用した上で、なるべく嘘が紛れ込まない
shi3z
2023年3月26日 11:20
Transformerは分散できる代償として計算量が爆発的に多いという不利がある。一度みんなが忘れていたリカレントニューラルネットワーク(RNN)もボケーっとしている場合ではなかった。なんと、GPT3並の性能を持つ、しかも完全にオープンな大規模言語モデルが公開されていた。そのなもRWKV(RuwaKuvと発音しろと書いてある。ルワクフ?)RWKVはRNNなのでGPUメモリをそれほど大
