【AIニュースを読む】最大1,000,000トークンのGemini 1.5が登場
Googleは、2024年2月15日に現在あるLLMモデルのすべてを凌駕する「Gemini 1.5」を発表しました。Gemini 1.5では、標準が128,000トークンではあるものの、開発者や企業に向けて最大1,000,000トークンのコンテキストウィンドウを実現し、長い文脈を理解する能力が格段に向上しています。
Gemini 1.5は、TransformerとMixture-of-Experts(MoE)アーキテクチャの最新研究に基づいて構築されています。そのため複雑な