【インタビュー】「未踏領域で価値を見出す力を」MLE大葉さんが求めた、ELYZAでしかできない挑戦とは？
【Profile】大葉 大輔 Daisuke Oba ／ 東京大学大学院 情報理工学系研究科 博士後期課程修了。博士（情報理工学）
在学中、学術振興会特別研究員(DC2)に採用。自然言語処理の研究を専門とし、国際学会の採択経験あり。同大学にて特別研究員を務めたのち、ELYZAに参画。ELYZAでは大規模言語モデル（LLM）の研究開発を担当。
まだ世の中に真価が見出されていない領域にこそ、大きな可能性がある
大葉さんの経歴を簡単に教えてください。
修士課程・博士後期課程・特別研究員（ポスドク）と計 6 年間、東京大学で自然言語処理（NLP）の研究を行っていました。計算機が扱う連続的な数値表現と、人間が扱う複雑で曖昧な自然言語という、異なる分野が交わる面白さに魅せられたのがきっかけです。
現在は ELYZA Lab という研究開発チームで、大規模言語モデル（LLM）の研究開発を担当しています。ELYZA への参画以降、「ELYZA-japanese-Llama-2-13b」にはじまり、多くの LLM 開発に関わらせてもらっています。
研究室時代の経験はどのようなものでしたか。
物事の見方が根本から変わりましたね。
まず、課題の価値を見極める力を鍛えられました。研究は基本的に自由なものですが、その意義を広く社会に説く必要があります。論文・学会発表・申請書などではこうした物事の価値を俯瞰的に見ること、言語化することが鍛えられました。初めて書いた論文は、指導教員に原型がなくなるくらい添削いただいたのを覚えています（苦笑）。
また、私がいた研究室では「皆が既に認識している問題に取り組むのではなく、取り組む価値や意義を真剣に考えないと理解が得られないような問題にこそ取り組もうよ。」（意訳）という指導がありました。
これは私自身の価値観にぴったりと重なるもので、研究に取り組む原動力になりました。研究以外の場面でも、自分自身が納得できるかどうかを考えて行動選択するようになっていったと思います。
ELYZAの「Long Term Greedy」とも重なりますね。
まさにその通りで、それが ELYZA に入社した理由の一つです。目先にとらわれず長期的な視点で考え続けられるなら、我々だからこそ見つけられた真実、我々だからこそ社会に届けられたという価値をつくっていけると思います。
Long Term Greedyとは、目先にとらわれず、より長期的な視点で最適化を考えようという、ELYZAの Core Value（価値観） です。こちらの記事にも詳しいので、ぜひ併せてお読みください。
『ELYZA Lab』は何を目指すのか。研究開発を担う Lab チームの想いとは？
実社会への影響を確かめたい、そして自身の社会への影響力を高めたい
ELYZAは大葉さんにとって初めての企業就職だと思います。実際に働きはじめてみての感想はいかがですか？
思っていた以上に毎日楽しいです。入社して早々に「ABCIプロジェクト」や「GENIAC」など大規模なプロジェクトがスタートし、チームで支え合いながら走り切った数ヶ月を経験することができたのですが、とても充実したものでした。研究室では実装や実験を複数人で行う機会はほとんどなかったので、チームでの研究開発は新鮮な感覚でしたね。
※ ABCIプログラム：経済産業省 産総研による生成AI開発支援プログラム
※ GENIAC：経済産業省が2024年2月に立ち上げた国内の生成AI開発力強化プロジェクト
現在の ELYZA Lab は取り組みに対してまだまだ少人数で、全員がオールラウンダーになることが求められます。ほぼ全ての工程に関わることになったお陰で、結果的に技術者として急速に成長できた実感があります。貴重な機会に関われたこと、そして支えてくれたメンバーに感謝が絶えないです。
企業への就職を考えた理由は何だったのでしょうか？
研究室時代から、研究課題の社会的価値を考えることが習慣になっていました。その影響もあってか、自分がつくったものがどのように社会実装され、どのように影響するのか知りたいという気持ちが日に日に強くなっていきました。同時に、社会への影響度合いをいかに高められるか、自分自身の力を試したい気持ちもありましたね。
その中でELYZAを選んだ決め手は何でしたか？
NLP 技術に真剣に取り組んでいて、かつ社会実装を重視している企業を候補にしました。同時に、自分の貢献度合いが見えるという意味でスタートアップ企業が良いとも考えていました。小さな会社が大きくなる過程に興味があったことも大きいです。
企業の情報は調べても分からないことだらけで実際かなり不安でしたが、その中でも ELYZA には信頼感と将来性を感じたのが決め手です。
具体的にはどのような点でそう感じたのでしょうか？
まず、ELYZA は「ChatGPT」登場以前から NLP に投資をしていて、いわゆる流行りに乗ったわけではないという点です。「ELYZA-japanese-Llama-2-7b」などの成果物を通して実力を示していた点も安心できましたね。
そして、今でこそ一般的なアプローチにはなりましたが、「Post-training」※に注力するという強い仮説を持ち、先陣を切ってそれを推し進めていた点です。夢を掲げるだけでなく、地に足が着いている人たちなんだなと感じました。スタートアップに対して持っていた印象が、良い意味で裏切られた感じです。
Post-training とは LLM 開発のうち、事後学習と呼ばれるステップです。こちらの記事にも詳しいので、ぜひ併せてお読みください。
【ほぼ全文】「LLM開発はPost-trainingがカギとなる」ELYZA曽根岡がLLMの現状・課題・展望を解説
大きなことを成し遂げるには、自分たちならではの仮説を持ち、失敗を乗り越え何度もトライするしかないと考えています。そして、ELYZA にはそれをやり遂げる仲間が集まっていると感じました。経営者もメンバーも若く、本気の人たちしかいないですから。
モデル開発で勝負する限り、未踏技術への挑戦は終わらない
ELYZA Lab での取り組みについて詳しく教えてください。
ELYZA Lab では汎用的な日本語LLMに加えて、業界や企業に特化したLLMの研究開発を進めています。大規模プロジェクトが続きプレッシャーも大きいのですが、その分、仮説の規模や達成感も大きくて、いわゆる脳汁がドバドバ状態になっています（笑）。
まだまだ手探りの技術領域だということですね。
毎回「我々はまだ何も知らない」と感じるくらい、未踏の技術領域です。LLM のモデル開発に挑み続けられる環境自体が、希少なんですよね。LLM を使ったアプリケーションの開発は多くのプレイヤーが参入していますが、モデルそのものの開発は計算機資源や資金の制約が大きく、ここで戦えるプレイヤーは少ないです。
仮説はあるものの、やってみるまでどんな結果が出るか分からない。やればやるだけ新しい発見と新しい問いが出てきます。ここが先ほど話した、脳汁のゆえんです。
ぜひ大葉さんの視点で、ELYZA の魅力を教えてください。
まだまだ少数精鋭の組織なので、自分の成長と影響を強く感じながら仕事を進めることができます。経営陣も研究開発への高度な理解があり、可能な限り大きな裁量を与えてくれていると思います。研究者・技術者としての成長を考えるならこれ以上無い環境なのではないでしょうか。
これからのワクワクも教えてください。
少しずつ新しい仲間が増えていくのが楽しみですね。メンバーが増えていくことで、チームの取り組みや社会へのアウトプットの形がどんどん多様化していくはずです。
また、これから社会であたり前に使われる LLM サービスをつくり、「スイングバイIPO」を目指して ELYZA が急成長していくことにワクワクしています。私自身もどんどん成長しながら、影響力を高めていきたいです。
最後に
ELYZAは絶賛、仲間を募集しています！
現在 ELYZA は LLM の開発、および実用化（プロダクト開発）をより加速するため、新しいメンバーを募集しています。 今回インタビューした大場さんを始めとする「ELYZA Lab」チームメンバーと気軽にお話ししてみませんか？
「ELYZA-japanese-Llama-3-70b」の開発裏話など、LLM 技術や研究開発チームについて知ってみたい方はぜひこちらのカジュアル面談をご利用ください。
採用情報資料もぜひ見てください。
ML（AI）エンジニア以外にも、ソフトウェアエンジニア、AIコンサルタントなど様々な職種で一緒に事業を前に進めてくれる仲間を募集しています。ぜひ一緒に先端技術で新しい体験をつくっていきましょう！
● ELYZA 求人募集一覧はこちらをご覧ください
https://open.talentio.com/r/1/c/elyza/homes/2507
● カジュアル面談一覧はこちら
https://chillout.elyza.ai/
この記事が気に入ったらサポートをしてみませんか？