記事一覧
LLMでTransformer 論文以降の進化系統
トランスフォーマー(Transformer)モデルの登場以降、自然言語処理(NLP)において多くの進化が見られました。以下にその進化の系統図を示します:
Transformer (2017)
Vaswaniらによって発表されたこのモデルは、自己注意(Self-Attention)機構を用いることで文脈全体を捉えることが可能となり、NLPの分野に革命をもたらしました。
BERT (Bidire
macのプロセス mds_store とは?
mds_storeはmacOSのシステムプロセスで、「Metadata Server」の略です。これは、macOSにおいてファイルのメタデータをインデックス化し、スポットライト検索がファイルを迅速かつ効率的に見つけることを可能にする役割を果たしています。
基本機能
インデックス作成: mds_storeは、ドキュメント、画像、その他のファイルの内容や属性についてのデータを収集し、検索可能なイン
Googleがオープンかつ商用利用可能で軽量な大規模言語モデル「Gemma」を公開
Googleは2024年2月22日に、オープンソースの大型言語モデル「Gemma」を発表しました。このモデルは、多様なモードを扱うGemini AIに比べてより軽量であり、商業目的での使用も認められています。
Googleからの提供であるGemmaは、最新の軽量オープンモデルの一員です。 | Google AI for Developers https://ai.google.dev/gemma