田部井靖生

機械学習の研究者です。 個人HP: https://sites.google.co…

田部井靖生

機械学習の研究者です。 個人HP: https://sites.google.com/site/tabeiyasuo/

記事一覧

技術の限界を超えて: Apple自動運転車プロジェクトの中止が示すもの

今週、次の記事が目に止まりました。 How Apple Sank About $1 Billion a Year Into a Car It Never Built https://www.bloomberg.com/news/features/2024-03-06/apple-ca

田部井靖生
2か月前
2

大規模言語モデルの圧縮技術「BitNet」

最近公開されたMicrosoftの研究チームによる、大規模言語モデルの計算コストを削減する研究が、その革新的な手法で業界内外から大きな注目を集めています。この研究に興味…

田部井靖生
3か月前
6

Googleが生み出した新しい大規模言語モデル「Gemma」の解説

2024年2月21日にGoogleがオープンモデル「Gemma」を発表しました。 モデルのアーキテクチャに興味を持ちましたが、解説するブログが見つからなかったため、このブログでま…

田部井靖生
3か月前
14

(初心者向け) Dockerをカスタマイズして使うシンプルな方法

はじめに DockerはOSとライブラリーをパッケージして管理するためのソフトウェアです。 OSとライブラリーのパッケージはコンテナと呼ばれ、あるマシン上に複数のコンテナ…

3

プログラミング言語「rust」のおすすめ学習教材

はじめに今年(2022年)の7月からrustを用いた研究開発をしています。 本記事ではrustを学習する上で良かった教材を紹介します。 rustはC++と同じコンパイル方式のプログラ…

10
大規模言語モデルの圧縮技術「BitNet」

大規模言語モデルの圧縮技術「BitNet」

最近公開されたMicrosoftの研究チームによる、大規模言語モデルの計算コストを削減する研究が、その革新的な手法で業界内外から大きな注目を集めています。この研究に興味を持ち、その背後にある技術やアプローチを深く掘り下げてみることにしました。

記事
Microsoftが1.58ビットの大規模言語モデルをリリース、行列計算を足し算にできて計算コスト激減へ
https://gigazine.net/

もっとみる
Googleが生み出した新しい大規模言語モデル「Gemma」の解説

Googleが生み出した新しい大規模言語モデル「Gemma」の解説

2024年2月21日にGoogleがオープンモデル「Gemma」を発表しました。
モデルのアーキテクチャに興味を持ちましたが、解説するブログが見つからなかったため、このブログでまとめることにしました。

以下は、公式ブログ記事とテクニカルレポートです。
公式ブログ記事: Gemma: Introducing new state-of-the-art open models
https://blog

もっとみる
(初心者向け) Dockerをカスタマイズして使うシンプルな方法

(初心者向け) Dockerをカスタマイズして使うシンプルな方法

はじめに

DockerはOSとライブラリーをパッケージして管理するためのソフトウェアです。

OSとライブラリーのパッケージはコンテナと呼ばれ、あるマシン上に複数のコンテナを構築しそれぞれ独立に管理することができます。

利点としては、ソフトウェアを複数のマシンで動かすための環境構築のしやすさがあります。

あるマシン上でコンテナを構築しておけば、別のマシンでも同じコンテナを動かすことができます

もっとみる
プログラミング言語「rust」のおすすめ学習教材

プログラミング言語「rust」のおすすめ学習教材

はじめに今年(2022年)の7月からrustを用いた研究開発をしています。

本記事ではrustを学習する上で良かった教材を紹介します。

rustはC++と同じコンパイル方式のプログラミング言語でありながら、C++よりもメモリを安全に管理することができるという特徴を持っています。

pythonのようなメモリの変数を管理するスマートポインターは備えておらず、代わりにrust特有の変数の所有権シス

もっとみる