記事一覧
GPT系の日本語LLMモデル
主に企業からリリースされたGPT系の日本語LLMモデルです。 Hugging Faceのリンクを記載しています。 yellowback https://huggingface.co/yellowback/gpt-neo-japanese-1.3…
AIプロジェクトのスライド構成
概要AIプロジェクトに携わる方は、おそらくスライド作成を頻繁に行うことが多いでしょう。
以下では、AIベンダーやAI関連のコンサルティング業務を担当する方々に向けた、よく利用されるスライド構成についてまとめています。
構成1. タイトル
プロジェクトの名前、日付、作成者の名前を記載します。
PoC(Proof of Concept)の場合、プロジェクトの名前は「フェーズ1 プロジェクト名
Llama 2 論文斜め読み①
Metaの大規模言語モデルLlama2が7月19日にリリースされました!
論文の「Llama 2: Open Foundation and Fine-Tuned Chat Models」を斜め読みしたので、ファインチューニングの章の量が多いので事前学習までとライセンスについて紹介します。
はじめに目次からですが、45pからのAppendixを抜いて、半分ぐらい安全性について議論されているように思
Hugging Face PEFTライブラリの紹介①
更新情報v1: 2023年7月14日
概要Hugging Face PEFTライブラリについて簡単にまとめました。
公式リポジトリはこちらです。
実装されているPEFT手法2023年7月14日では5種類が実装されています。
PEFTの種類の中ではLoRA系とSoftPrompt系に分けられるかと思います。
v0.3.0からAdaLoRAが追加されていました。
LoRA: LORA: LOW
GPT系の日本語LLMモデル
主に企業からリリースされたGPT系の日本語LLMモデルです。
Hugging Faceのリンクを記載しています。
yellowback
https://huggingface.co/yellowback/gpt-neo-japanese-1.3B
abeja
https://huggingface.co/abeja/gpt2-large-japanese
https://huggingface
利用できるAudio Modelのまとめ
音声モデルを利用する機会があったのでPyTorchとHugging Faceで利用できるAudio Model(音声モデル)とそれのリファレンスである論文のリストをまとめました。
Hugging FaceとはTransFormerを用いた機械学習モデルを利用できるライブラリであり、米国企業であるHugging Face, Inc.が提供しています。
PyTorchで2022年の12月5日時点で