Beluga

CEO/CTO at Elith — Ph.D. student at Tohoku …

Beluga

CEO/CTO at Elith — Ph.D. student at Tohoku univ — Author Git book Twitter → https://twitter.com/Beluuuuuuga

AIプロジェクトのスライド構成

概要AIプロジェクトに携わる方は、おそらくスライド作成を頻繁に行うことが多いでしょう。 以下では、AIベンダーやAI関連のコンサルティング業務を担当する方々に向けた、よく利用されるスライド構成についてまとめています。 構成1. タイトル プロジェクトの名前、日付、作成者の名前を記載します。 PoC（Proof of Concept）の場合、プロジェクトの名前は「フェーズ1 プロジェクト名」や「Phase1 プロジェクト名」といった表現で紹介されることが一般的です。時

Beluga

    • Llama 2 論文斜め読み①

      Metaの大規模言語モデルLlama2が7月19日にリリースされました！ 論文の「Llama 2: Open Foundation and Fine-Tuned Chat Models」を斜め読みしたので、ファインチューニングの章の量が多いので事前学習までとライセンスについて紹介します。 はじめに目次からですが、45pからのAppendixを抜いて、半分ぐらい安全性について議論されているように思えました。図1は論文の目次のスクショですが、4のSafetyで20pから31pま

      Beluga

      • Hugging Face PEFTライブラリの紹介①

        更新情報v1: 2023年7月14日 概要Hugging Face PEFTライブラリについて簡単にまとめました。 公式リポジトリはこちらです。 実装されているPEFT手法2023年7月14日では5種類が実装されています。 PEFTの種類の中ではLoRA系とSoftPrompt系に分けられるかと思います。 v0.3.0からAdaLoRAが追加されていました。 LoRA: LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODEL

        Beluga

        • GPT系の日本語LLMモデル

          主に企業からリリースされたGPT系の日本語LLMモデルです。 Hugging Faceのリンクを記載しています。 yellowback https://huggingface.co/yellowback/gpt-neo-japanese-1.3B abeja https://huggingface.co/abeja/gpt2-large-japanese https://huggingface.co/abeja/gpt-neox-japanese-2.7b rinna

          Beluga

        AIプロジェクトのスライド構成

        Beluga

        マガジン

        • 雑記
          1本
        • OSS
          1本

        記事

          マッキンゼーの2022年のAIレポートのメモ

          この記事はこちらのThe state of AI in 2022—and a half decade in reviewの2022年12月6日に公開された記事をメモしたものです。 項目は以下の4つでまとめられています。 Five years in review: AI adoption, impact, and spend Mind the gap: AI leaders pulling ahead AI talent tales: New hot roles, co

          Beluga

          マッキンゼーの2022年のAIレポートのメモ

          Beluga

          利用できるAudio Modelのまとめ

          音声モデルを利用する機会があったのでPyTorchとHugging Faceで利用できるAudio Model(音声モデル)とそれのリファレンスである論文のリストをまとめました。 Hugging FaceとはTransFormerを用いた機械学習モデルを利用できるライブラリであり、米国企業であるHugging Face, Inc.が提供しています。 PyTorchで2022年の12月5日時点で利用できるAudio Modelは以下の通りで5モデル存在していました。 Co

          Beluga

          利用できるAudio Modelのまとめ

          Beluga

          書籍執筆の所感

          2021年の8月から2021月の12月までとある技術に関する書籍を執筆していました。現在も執筆中です。この記事は、その所感です。 執筆前と執筆後で明らかに、執筆内容の技術に関する知識量が増えました。個人的には読者よりも著者が一番勉強になったのではと感じています。また、社内でもその技術に関することをよく質問されるようになり、質問に対しても瞬時に問題を解決できるほど知識量が増えたと感じています。元々、前職でその技術に関して新入社員の教育を行い、外で勉強会を開く程度には詳しかった

          Beluga

          書籍執筆の所感

          Beluga