LLM時代にIVRy(アイブリー)のエンジニアリングが進む先

2023年4月4日 11:00

IVRyが2023年3月29日にシリーズBの資金調達を行ったことを記念して、資金調達記念ブログリレーとして、お得意のブログを7日間に渡り、書いていきます。
5日目はIVRyのソフトウェアエンジニアリングについて堀田が書いていきます。

3/29(水)：[シリーズB]13.1億円資金調達して、IVRy(アイブリー)はどこへ向かうのか？ (代表奥西)
3/30(木)：[シリーズB]13.1億円資金調達後IVRy(アイブリー)のセールスチームのこれから (Sales 藤崎)
3/31(金)：日本全国に「魔法」を届ける、IVRyのマーケチームの過去と未来 (Marketing 今坂)
4/3(月)：[シリーズB]僕らは10年後の「当たり前」を作っている~IVRyのプロダクトチームのこれまでとこれから~ (Product 高柳)
4/4(火)：LLM時代にIVRy(アイブリー)のエンジニアリングが進む先
(Engineering 堀田)
4/5(水)：IVRyはLLMで加速する(NLP/AI 町田)
4/6(木)：[シリーズB]コーポレートの壁を打破してエクセレントカンパニーへ〜攻めるコーポレートの挑戦(コーポレート宮田)

IVRyシリーズB資金調達記念ブログリレー

1. はじめに

IVRy(アイブリー)のエンジニアの yuri ( @yuri_ivry ) です。

自己紹介に代えて、社内の Slack を元に GPT がまとめてくれた自分のパーソナリティを引用します。

・技術的な知識を持ち、チーム内での仕事を効率的に行うことを重視している。他の人の動きを見ながら、自分の仕事を拾っていくことを考えている。他の人にも助けを求めながら、自分の仕事を着実に行っている。積極的で、細かいことにも気を配り、他の人の仕事をサポートしようとする、チームワークを重視する人物である。
・IT業界で活躍し、ネットワークやプログラミングなどに精通している。細かい確認を行い、社内外を統一している。礼儀正しく、丁寧な態度を持ち、他者を思いやる気持ちが強く、他者のために尽力する姿勢を持ち、他者を助けることを重視している。そんな、熱心で社会性の高い人物である。

Azure OpenAI Service経由でGPT3を利用しとあるSlackチャンネルの投稿をまとめたもの

IVRy への入社経緯などについては過去の入社エントリにまとめています。

この度、IVRy はシリーズBラウンドにて13.1億円の資金調達を実施し、累計の調達額は17.1億円となりました。
合わせて、AI音声認識機能や Azure OpenAI Service を通して ChatGPT を利用した音声通話の要約機能もリリースしました。

本記事では、そんな IVRy のエンジニアリングについて、「これからどのようなことをやっていくのか？」「この変化の激しいテクノロジ情勢において何に注力するのか？」といったことをお伝えしたいと思います。

2. 時代背景とIVRyの強み

2022年後半以降、Generative AI や LLM の発展が目覚ましいことについて、この記事にたどり着いた方であれば説明は不要かもしれません。
これまでの AI, Machine Learning, Deep Learning などの研究や実践の積み重ねの上に登場したこれらの新しい技術たちを、多くの人の生活を変えるものであるとして受け止めている方も多いでしょう。

しかし、例えば ChatGPT をそのまま活用することができる人ももちろんたくさんいるのは承知の上ですが、それだけでは多くの人の生活が変わるところまではいかないと思っています。
これらの新しくて素晴らしい技術をプロダクトとして落とし込み、きちんと開発・運用し、多くの人に届けることには、引き続き大きな価値があると私は考えています。
言い換えると、LLM そのものが世の中を便利にするということだけではなく、LLM を利活用したプロダクトを作り届けることにもとても価値があるということです。

IVRy は、それが得意な会社です。
様々な技術を、スモールビジネスや中小企業の業務において使いやすいプロダクトとして整え、日本全国の多様な業界に届けることが、私たちの得意分野です。

IVRy というプロダクトがまさにそういう存在であることが何よりの証明だと思います。
IP電話や IVR といった技術自体は元々とても新しいものだったわけではありませんが、それらを使いやすい SaaS プロダクトとして落とし込み、多くの企業で手軽に利用可能な状態にしたことが、IVRy の1つの大きな価値です。
こういった側面を評価いただいた結果として、グッドデザイン賞の受賞や、今回のシリーズB調達に至ることができたと考えています。

3. ソフトウェアエンジニアリングはどう変わるか(私見)

この情勢の中で、ソフトウェアエンジニアを取り巻く環境がどのように変わっていくか、漠然と不安な気持ちになっているエンジニアも少なくないと思います。

毎日無視できない新しい情報が大量に流れてくる中で、未来を予測することはとても難しく勇気がいることですが、それでも2点だけ、明確に変化するであろうポイントを書いてみます。

① with LLM なシステムアーキテクチャへの進化

プロダクトの様々な箇所にこれまで以上に AI を利用する処理が入ることは間違いないと思います。
ChatGPT を API 越しに利用するのか、違う LLM を利用するのか、公開されたモデルを自分たちでマネージドするような世界がくるのか、落ち着く形はまだ見えてこないという印象です。

これにより、パブリッククラウドが出てきたときのように、インフラやアプリケーションアーキテクチャに関する考え方が変わっていく可能性も高いと考えます。
最終的にはデザインパターンとして収斂し整理されるとは思いますが、私たちが生きているのは収斂の真っ只中の時代であり、誰かの成功を待っている余裕はありません。

こういった変化に向き合って、積極的に手を動かしてアーキテクチャの進化にチャレンジしていく必要がありそうです。

② エンジニアの手の動かし方の変化

新しい技術をプロダクトに落とし込んで開発し、リリース・運用していくことは引き続き重要ですが、その際のコードの書き方にも変化が生まれ始めています。

ChatGPT に質問する力、それら Generative AI にテストデータを作ってもらう力、Github Copilot 等の AI support を使って速く良いコードを書く力、など、これまでとは違う角度のスキルを鍛えていく必要が生じてきています。この流れは変わらないでしょう。
こういった変化に対して前向きにチャレンジしにくい環境だと、個々のエンジニアが持っている価値観が一気に一世代前のものになってしまうかもしれないという危機感があります。

IVRy ではみんなで積極的に日々のコードの書き方を変化させていて、プロダクト機能での利活用のみならず、自分たちの働き方においても AI を活用しています。

ChatGPTやGithub Copilot for Businessを交えたモブプロも日常風景になってきましたね

いずれも、従来とはパラダイムが変わっていくということで、この変化に正面から向き合えるエンジニアリング環境に身を置くことが、エンジニア個人の生存戦略(あまり好きな言葉ではありませんが、あえて)としては求められてくるでしょう。

既存のソフトウェア開発チームの外側に GPT 活用の専門部隊を立ち上げることで、いま価値を作っているソフトウェアエンジニアが置き去りにされてしまう、といったことも起き始めているのではと思います。

モバイルやクラウドの存在を当たり前として社会に出た我々20代後半~30代のエンジニアの中には、「ドメイン知識は豊富だが技術的な知識や考え方が古いエンジニア」と接した経験がある人も少なくないかもしれません。
彼らもまた、"モバイルタスクフォース"や"クラウド検討チーム"の発足により、新しい技術トレンドをプロダクトに適用する挑戦機会を奪われた過去があったのかもしれない、と最近は考えるようになりました。

これから数年で自分が身を置く組織の方針次第で、自分自身もそういったエンジニアになりうる、というタイミングが来ているのかもしれません。

ハンターハンター好きが多いことでおなじみの弊社ですが、奥西や私はワンピースも好きです

4. IVRyのこれからのソフトウェアエンジニアリング

これからの大 LLM 時代においても、IVRy はそれらをプロダクトに落とし込み、多くの人の実際の業務の中に組み込める形にして届けていきます。
エンジニアリングにおける目下のテーマは下記の2点となると考えています。

① 圧倒的に業務フィットして使いやすい IVRy の継続的な改善、開発速度の維持向上

深い顧客業務理解と正しい技術理解で良いプロダクトを作り続けることは、引き続き第一に重要です。

IVRy はホリゾンタル SaaS であり、全部載せではなく取捨選択をしなければなりません。ここでは IVRy の value の1つである Simplify x が重要だと考えています。simplify するのは単に機能追加よりも難しく、様々な業界の業務理解ができているからこそ実践可能になるものだと思っています。

LLM や既存・従来の AI モデルの得意不得意を正しく認識し、それらを上手に組み合わせることで、ミッションである「最高のテクノロジーをすべての企業に届ける」プロダクト開発を行っていきます。

また、プロダクトや組織のスケールに対してスピードを失わず、もっと速くできるよう継続的なプロセス改善に取り組みます。
Github Copilot やこれから登場してくるであろう様々な AI ツールによる支援も活用しつつ、 Developer Experience を自分たちで磨き上げていくチームで居続けます。

② ビジネスグロースに対して先手を打つアーキテクチャの漸進的な進化

まずは電話インフラを強化し、サービスレベルの桁を 1 つあげることへのチャレンジをしていきます。

ビジネス領域における電話はこれまで大手通信会社さんがきちんと積み上げてきた社会インフラとしての信頼と責任がある領域であることを、ひしひしと感じています。
IVRy もその期待値に応え続けていけるように、より堅牢なシステムに進化させていく必要があると思っていますし、そこに対しての投資は積極的に続けていきます。

また、電話に閉じないインタフェース展開に耐えうる、アーキテクチャの再構成も検討していきます。

IVRy では電話だけでなく Web の問い合わせフォームなども利用できます。これらの更なるインタフェース展開に対して、データの持ち方やシステムアーキテクチャを検討しはじめています。
例えば、「電話の発着信履歴」と「問い合わせフォームの回答履歴」をまとめて、「顧客対応の履歴」として扱うときに何を考えるか。腕が鳴る方もいるのではないでしょうか。

他にも、toB に閉じないプロダクトが増える中で、データ基盤自体の拡張や、利用している外部ツール含めたデータマネジメントと利活用も積極的に行います。

ChatGPT の Plugin のように、自分たちの持つデータと LLM を協調させる世界がくるのは恐らく間違いないとみています。これからは非構造データも含めた自社データのマネジメントが一層重要になると考えています。
IVRy は特にスモールビジネスや中小企業のリアルな営業活動のデータを抑えており、これらを活かして顧客価値に返していくことができるプレイヤーだと思いますし、そのためにも積極的にデータマネジメントや利活用を行っていきます。

5. 具体的なテーマ例

これまでの話題について、もっと具体的なテーマ例として記載します。
あくまで現時点での一例ですが、特にエンジニアの読者の方の琴線に触れるものが1つでもあればと思っています！

バックエンド/インフラ

Services を適切な分割粒度で構成することへの継続的な挑戦
電話自動応答 Service の技術スタック再検討と自動応答の可用性向上
電話関連の通信プロトコルの変更と各種処理のシームレス化
LLM を活用する/しうる箇所のアーキテクチャ最適化

フロントエンド/ネイティブ

顧客接点の楔となるネイティブアプリ体験の磨き込みに向けた技術スタック方針決めと対応
複数のインタフェース展開に向けたアーキテクチャ設計
レガシーなシステムにしないための継続的な取り組み
パフォーマンスプロファイリングとチューニングによる高速化

AI

※ 詳しくは明日公開予定の記事でもご紹介します。

AI開発フローの磨き込み
自動応答ルールの自動生成やレコメンド
LLM と既存モデルを組み合わせたアプローチの検討と実装
固定のルールに依らない完全な自動応答処理の実現

データマネジメント

通話データや問い合わせデータを CRM データとして取り扱えるように
dbt の導入を始めとしたデータパイプライン・データ基盤のブラッシュアップ
Looker の利活用推進など社内業務フローの自動化効率化、オペレーションエクセレンスの向上

開発プロセス

サービスレベルの高い電話自動応答関連システムも含めた、リリースサイクルの短縮化
ポストモーテムと学習フィードバックを積む強いエンジニアチーム
ChatGPT や Github Copilot 等による AI boosted な Developer Experience の磨き込み

6. おわりに

時代の潮目で変化しようとしてる環境でも、適切な変化のために必要になるのはやはり従来のソフトウェアエンジニアリングやシステム工学の知識・スキルだと思います。
それらを発揮したり成長させたりできる環境とそうでない環境との差が大きくなっていくタイミングが今であり、この先数年をどんな環境で過ごすかがソフトウェアエンジニアとして大きな分かれ目になってくると考えています。
いまお持ちの能力を IVRy で最大限発揮して、一緒に顧客に価値を届けませんか？

まずは気軽にカジュアル面談からお話ができることを心待ちにしています。

私以外のエンジニアとのカジュアル面談も可能です。
・1人目エンジニア/BE 小瀬
・ベテランRailsエンジニア島筒
・4月入社ホヤホヤBE/SRE 松崎
・シニアFE 木梨
・FE/Appエンジニアボルドー
・入社秒読みFE 佐川
・シニアAIエンジニア町田
・QAエンジニア関

カジュアル面談以外でも、直近で下記の2つのイベントを予定していますので、こちらもお気軽にどうぞ。

▼ウェビナー
【特別対談イベント】2名の投資家とCEO奥西が語る電話DXとIVRyの未来
シリーズB資金調達に際して、シリーズAからの投資家であるフェムトパートナーズ曽我悠平氏、Headline Asia/IVS 島川敏明氏、創業者兼代表取締役CEO奥西による対談イベントを開催いたします。
これまでのIVRyの成長の軌跡、資金調達の狙い、今後の展望について語ってまいります。
日時：2023年4月11日(火)19:30～20:30
開催場所：オンライン(zoom)
URL：https://forms.gle/gKhRDVD7Qcv85uiV9

▼オープンオフィス
東京/上野御徒町エリアの弊社オフィスでゆるく飲むだけの会です。
興味ある方は下記のフォームからご回答下さい！
※申込者多数の場合は抽選とさせていただきますので予めご了承ください。
日時：2023年4月14日(金)19:00～
開催場所：IVRyオフィス（新御徒町）
URL：https://forms.gle/TNbymtjFpjYMavRf8

この記事が気に入ったらサポートをしてみませんか？