見出し画像

LLM開発の面白さ,ゼロから頂点までを一気に学んだ! #WandB

AICU media

AICUメディアコミュニケーション事業部のKotoneです！
今回の記事では、Fully Connected Tokyo 2023というWeights and Biases社さん(ウェイツ・アンド・バイアスィズ, 以下WandB)主催のイベントの参加レポートをしていきます。
※本記事は勝手取材です！なにか間違っていましたらTwitter(X)@AICUaiまでフィードバックいただけたら幸いです


しらいはかせの一言メモ：WandB社とは？

WandBさんは機械学習の実験結果管理、データセットのバージョン管理などをされているプロ/学術/ホビー開発者向けプラットフォームです。
わかりやすいところでは「Nejumi LLMリーダボード」という日本語LLMの性能ランキングを掲示している会社さんでもあります。こういうレポートを膨大な実験結果から可視化できるのが最大の特徴ですね。

日本語が扱えるLLMも「ChatGPT4の一強！」というわけでなく、時々ウォッチしてないと、GPT3からGPT3.5ぐらいの性能だといつの間にか順位が逆転して…ということもあります。そしてその測定方法などもきちんとウォッチしていく必要があります。

そういえばテキスト読み上げツール「VOICEVOX」の作者、Hiroshibaさんも3年前からこんなツールをGitHubで公開されておりますね。


Fully Connected Tokyo 2023に参加しました！

10月11日（水）、東京スクエアガーデンにてWeights & Bias社（以下WandB社）主催のイベント「Fully Connected Tokyo 2023」が開催されました。

今回のイベントでは、生成AI/LLMから画像モデル開発まで、最先端のWandBユーザーの方々によるトークセッションを通して開発手法を学びました。

約300人の開発者が集まる会場
トークセッションの様子

Weights & Biasとは？

Weights＆Bias（以下W&B）を簡単に説明すると、「AI開発者のためのプラットフォーム」です。実験の追跡、データセットのバージョン管理と反復処理、モデルのパフォーマンスの評価などを通してより良いモデルをより迅速に構築することができます。
また今回のセッションでは、開発者同士でレポートを共有するなど、チーム内の行動の可視化にも活用されているという話を多く聞きました。

トークセッションレポート

ここからは、トークセッションの様子をレポートしていきたいと思います。
アジェンダはこちら。

W&B社のCarey Phelpsさんによるトークでは、W&Bの運営とサービスの内容について聞きました。

英語でのトークを通訳の方が翻訳します
今回のイベントが開催されたビル
開発プラットフォームの構造



株式会社マクニカの諸橋大地さんのセッション

イスラエルの機械学習、AI構築の会社であるRun:Ai社さんの代理での登壇でした。

GPUを効率的に管理する方法についての話を聞きました

TOYOTA社のEvan Cushingさんのセッション

自動車業界におけるW&Bの活用について学びました。

自動車、歩行者などの検知
ワークフローについて
収集するデータの量をいかに増やすか


SyntheticGestalt社の神谷幸太郎さん

Dagsterというワークフローのツールについてのセッションです。

Qosmo社の徳井直生さん

AIアートとDJを組み合わせたライブイベントの開催をはじめとした、AIの創造性についての話を聞きました。

AIアートが注目を集めている
DJとAIアートの類似点
AIと人が交互にDJを行うという新しいライブ

東北大学教授 言語AI研究センター所属の鈴木潤さん



LLMおよび言語処理研究でのWandB利用についての紹介でした。

Stability AIの秋葉拓哉さん



「LLMを作れって明日上司に言われたらどうしますか？」というテーマでのセッションでした。

弊社の白井暁彦博士がこちらの記事で詳しく解説しています。

論文の執筆チームの人数を見ると、どの工程が開発に重要なのかがわかる

まとめ

実は私はLLMに関しての知識が全く無く、今回ゼロからの学びとなりました。タイトル通りゼロから頂点を一気に学ばせていただき、開発を裏から支えるツールも、生成AIが主役となるDJのようなコンテンツも創ることができるという可能性の広さに刺激を受けました。
LLMや生成AIが持つ影響力を肌で感じることができ、とても良い経験だったと感じました。

交流させていただいたみなさんもとってもフレンドリーでした！
お話させていただいたみなさんありがとうございました！

…とここまで書いたところで…


WandB社公式のイベントアーカイブが発信されておりました！
（今回取材しきれなかった前半のセッションがレポートされています）

プレスリリースより

Weights & Biasesが日本初のユーザーカンファレンスFully Connected Tokyoを開催
（Weights & Biases Japan 2023年10月17日 12時11分）

そして資料公開がStabilityAIさんと日経新聞社さんから提供されております

秋葉さんの講演も動画でまとめられております！


今後も AICU media はLLM開発者のカッコよさを伝えていきます！

キャー！アキバさーん！


追伸：こんな取材でよければ…突撃します！

10月27日（金）17時まで幕張メッセで開催中の「AI・人工知能EXPO」および Japan IT Week【秋】にお邪魔します！
https://www.japan-it.jp/hub/ja-jp.html

今回ご紹介したWandBさんはマクニカさんのブースで各日13時と16時にプレゼンを予定されているそうです

ぜひうちのブースに来て！この登壇をレポートして！！という方はTwitter(X) @AICUai までお声がけください

この記事が気に入ったらサポートをしてみませんか？