noguchi-shoji

CISO & Head of Engineering at BTC Co. |…

noguchi-shoji

CISO & Head of Engineering at BTC Co. | #FANKS | #IPAjp Expert Advisor | JH WGS member | Ex- #IETF er | Ex-Osakan #CISSP, #CCSP, #CEH.

記事一覧

WSL2でJapanese Stable LM 2 1.6Bを試してみる

「16億パラメータで学習した日本語の小型言語モデル」であるJapanese Stable LM 2 1.6Bを試してみます。 現在2つのモデルが公開されています。 Japanese Stable LM 2 Bas…

noguchi-shoji
18時間前
6

WSL2でFugaku-LLM-13B-instruct-ggufを試してみる

理化学研究所のスーパーコンピュータ「富岳」を用いて学習した、日本語能力に優れた大規模言語モデルFugaku-LLM。今回はそのうちのひとつであるFugaku-LLM-13B-instruct-gg…

noguchi-shoji
1日前
6

WSL2でFugaku-LLM-13B-instructを試してみる

理化学研究所のスーパーコンピュータ「富岳」を用いて学習した、日本語能力に優れた大規模言語モデルFugaku-LLMを試してみます。 ※別記事でggufを試してしまったので、明…

noguchi-shoji
2日前
7

MacBook ProでOpenELMを試してみる

Appleが公開した「オープンソースの効率的言語モデルのファミリー」らしいOpenELM。 mlx-lmを使用して、OpenELM-270M-Instructモデルを試してみます。 試したマシンは、Ma…

noguchi-shoji
12日前
5

WSL2でOpenELMを試してみる

Appleが公開した「オープンソースの効率的言語モデルのファミリー」らしいOpenELM。 今回はInstructモデルの以下の4つを試してみます。 OpenELM-270M-Instruct OpenELM-…

noguchi-shoji
12日前
9

WSL2でPhi-3-mini-128k-instructを試してみる

「Phi-3 データセットを使用してトレーニングされた、38 億パラメータの軽量の最先端のオープンモデル」らしい、Phi-3-mini-128k-instructを試してみます。 使用するPCは…

noguchi-shoji
2週間前
11

WSL2でsuzume-llama-3-8B-japaneseを試してみる

「3,000 以上の日本語会話に合わせて微調整されており、このモデルには Llama 3のインテリジェンスがありながら、日本語でチャットする機能が追加されている」らしい、Suzu…

noguchi-shoji
2週間前
6

WSL2でLlama-3-8B-Instructを試してみる

「Llama 3 インストラクション調整モデルは対話のユースケース向けに最適化されており、一般的な業界ベンチマークで利用可能なオープンソース チャット モデルの多くを上回…

noguchi-shoji
3週間前
14

WSL2でllm.cを試してみる

「シンプルで純粋なC / CUDAのLLM学習。245MBのPyTorchや107MBのcPythonは必要ない!」らしいllm.cを試してみます。 使用するPCはドスパラさんの「GALLERIA UL9C-R49」。…

noguchi-shoji
3週間前
2

WSL2でBAGSを試してみる

「追加の2Dモデリング機能を導入し、画像上のぼやけにもかかわらず3D一貫性のある高品質のシーンを再構築できるように、具体的にはBlur Proposal Network(BPN) からピクセ…

noguchi-shoji
1か月前
2

WSL2でAniPortraitを試してみる

「音声と参照ポートレート画像によって駆動される高品質のアニメーションを生成するための新しいフレームワーク」らしいAniPortraitを試してみます。 使用するPCはドスパ…

noguchi-shoji
1か月前
7

WSL2でSplaTAMを試してみる

「3Dガウススプラッティング放射輝度フィールドによってシーンを表現すると、単一の未配置の単眼RGB-Dカメラを使用して高密度SLAM(同時ローカライゼーションおよびマッピ…

noguchi-shoji
1か月前
4

WSL2でRakutenAI-7B-chatを試してみる

「Mistral AI社のオープンモデル「Mistral-7B-v0.1」を基に、継続的に大規模なデータを学習させて開発された70億パラメータの日本語基盤モデル」であるRakuten AI 7Bモデル…

noguchi-shoji
1か月前
7

WSL2でAnimateDiff-Lightningを試してみる

「超高速のテキストからビデオへの生成モデル。オリジナルの AnimateDiff よりも 10 倍以上速くビデオを生成できる」らしいAnimateDiff-Lightningを試してみます。 使用す…

noguchi-shoji
1か月前
4

WSL2でSakana AIを試してみる

「進化的モデルマージにより日本語数学LLMとして構築したEvoLLM-JPは、数学のみならず、日本語の全般的な能力に長けている」らしいEvoLLM-JPを試してみます。 追記(2024/…

noguchi-shoji
1か月前
40

WSL2でStable Video 3Dを試してみる

「3D オブジェクトの周囲の軌道ビデオを高解像度でイメージからマルチビューに生成するための潜在ビデオ拡散モデル」であるStable Video 3D(SV3D)を試してみます。 使用…

noguchi-shoji
1か月前
6
WSL2でJapanese Stable LM 2 1.6Bを試してみる

WSL2でJapanese Stable LM 2 1.6Bを試してみる

「16億パラメータで学習した日本語の小型言語モデル」であるJapanese Stable LM 2 1.6Bを試してみます。

現在2つのモデルが公開されています。

Japanese Stable LM 2 Base 1.6B

Japanese Stable LM 2 Instruct 1.6B

今回は、2つ目のJapanese Stable LM 2 Instruct 1.6Bを試してみま

もっとみる
WSL2でFugaku-LLM-13B-instruct-ggufを試してみる

WSL2でFugaku-LLM-13B-instruct-ggufを試してみる

理化学研究所のスーパーコンピュータ「富岳」を用いて学習した、日本語能力に優れた大規模言語モデルFugaku-LLM。今回はそのうちのひとつであるFugaku-LLM-13B-instruct-ggufを試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Processor
・Mem: 64 G

もっとみる
WSL2でFugaku-LLM-13B-instructを試してみる

WSL2でFugaku-LLM-13B-instructを試してみる

理化学研究所のスーパーコンピュータ「富岳」を用いて学習した、日本語能力に優れた大規模言語モデルFugaku-LLMを試してみます。

※別記事でggufを試してしまったので、明確にするためにタイトルを「Fugaku-LLM」から「Fugaku-LLM-13B-instruct」に修正しています。

現在3つのモデルが公開されています。

Fugaku-LLM-13B

Fugaku-LLM-13B

もっとみる
MacBook ProでOpenELMを試してみる

MacBook ProでOpenELMを試してみる

Appleが公開した「オープンソースの効率的言語モデルのファミリー」らしいOpenELM。
mlx-lmを使用して、OpenELM-270M-Instructモデルを試してみます。

試したマシンは、MacBook Pro M3 Proチップ、メモリ18GBです。

1. 準備venv構築

python3 -m venv openelmcd $_source bin/activate

パッケー

もっとみる
WSL2でOpenELMを試してみる

WSL2でOpenELMを試してみる

Appleが公開した「オープンソースの効率的言語モデルのファミリー」らしいOpenELM。

今回はInstructモデルの以下の4つを試してみます。

OpenELM-270M-Instruct

OpenELM-450M-Instruct

OpenELM-1_1B-Instruct

OpenELM-3B-Instruct

使用するPCはドスパラさんの「GALLERIA UL9C-R49」

もっとみる
WSL2でPhi-3-mini-128k-instructを試してみる

WSL2でPhi-3-mini-128k-instructを試してみる

「Phi-3 データセットを使用してトレーニングされた、38 億パラメータの軽量の最先端のオープンモデル」らしい、Phi-3-mini-128k-instructを試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Processor
・Mem: 64 GB
・GPU: NVIDIA® GeF

もっとみる
WSL2でsuzume-llama-3-8B-japaneseを試してみる

WSL2でsuzume-llama-3-8B-japaneseを試してみる

「3,000 以上の日本語会話に合わせて微調整されており、このモデルには Llama 3のインテリジェンスがありながら、日本語でチャットする機能が追加されている」らしい、Suzumeを試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Processor
・Mem: 64 GB
・GPU: N

もっとみる
WSL2でLlama-3-8B-Instructを試してみる

WSL2でLlama-3-8B-Instructを試してみる

「Llama 3 インストラクション調整モデルは対話のユースケース向けに最適化されており、一般的な業界ベンチマークで利用可能なオープンソース チャット モデルの多くを上回る」らしいLlama 3を試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Processor
・Mem: 64 GB

もっとみる
WSL2でllm.cを試してみる

WSL2でllm.cを試してみる

「シンプルで純粋なC / CUDAのLLM学習。245MBのPyTorchや107MBのcPythonは必要ない!」らしいllm.cを試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Processor
・Mem: 64 GB
・GPU: NVIDIA® GeForce RTX™ 4090

もっとみる
WSL2でBAGSを試してみる

WSL2でBAGSを試してみる

「追加の2Dモデリング機能を導入し、画像上のぼやけにもかかわらず3D一貫性のある高品質のシーンを再構築できるように、具体的にはBlur Proposal Network(BPN) からピクセルごとのコンボリューションカーネルを推定することでblurをモデル化」したらしいBlur Agnostic Gaussian Splatting (BAGS)を試してみます。

使用するPCはドスパラさんの「G

もっとみる
WSL2でAniPortraitを試してみる

WSL2でAniPortraitを試してみる

「音声と参照ポートレート画像によって駆動される高品質のアニメーションを生成するための新しいフレームワーク」らしいAniPortraitを試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Processor
・Mem: 64 GB
・GPU: NVIDIA® GeForce RTX™ 4090

もっとみる
WSL2でSplaTAMを試してみる

WSL2でSplaTAMを試してみる

「3Dガウススプラッティング放射輝度フィールドによってシーンを表現すると、単一の未配置の単眼RGB-Dカメラを使用して高密度SLAM(同時ローカライゼーションおよびマッピング)が可能になることを初めて示した」らしいSplaTAMを試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Proces

もっとみる
WSL2でRakutenAI-7B-chatを試してみる

WSL2でRakutenAI-7B-chatを試してみる

「Mistral AI社のオープンモデル「Mistral-7B-v0.1」を基に、継続的に大規模なデータを学習させて開発された70億パラメータの日本語基盤モデル」であるRakuten AI 7Bモデル3つのうち、「インストラクションチューニング済モデルを基にファインチューニングを行ったチャットモデル」であるRakuten AI 7B Chatを試してみます。

・Rakuten/RakutenAI

もっとみる
WSL2でAnimateDiff-Lightningを試してみる

WSL2でAnimateDiff-Lightningを試してみる

「超高速のテキストからビデオへの生成モデル。オリジナルの AnimateDiff よりも 10 倍以上速くビデオを生成できる」らしいAnimateDiff-Lightningを試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Processor
・Mem: 64 GB
・GPU: NVIDI

もっとみる
WSL2でSakana AIを試してみる

WSL2でSakana AIを試してみる

「進化的モデルマージにより日本語数学LLMとして構築したEvoLLM-JPは、数学のみならず、日本語の全般的な能力に長けている」らしいEvoLLM-JPを試してみます。

追記(2024/3/22)
10Bのモデルですが、torch_dtypeを"auto"からtorch.bfloat16に変更すると、推論のスピードが改善しました。

モデルEvoLLM-JPは、3種提供されています。今回は3つと

もっとみる
WSL2でStable Video 3Dを試してみる

WSL2でStable Video 3Dを試してみる

「3D オブジェクトの周囲の軌道ビデオを高解像度でイメージからマルチビューに生成するための潜在ビデオ拡散モデル」であるStable Video 3D(SV3D)を試してみます。

使用するPCはドスパラさんの「GALLERIA UL9C-R49」。スペックは
・CPU: Intel® Core™ i9-13900HX Processor
・Mem: 64 GB
・GPU: NVIDIA® GeFo

もっとみる