見出し画像

【動画レポ】ChatGPT Meetup Tokyo #7

今回は2024年5月30日に開催されたChatGPT Communityのイベント「ChatGPT Meetup Tokyo #7 」のアーカイブ動画からのレポートです。日進月歩のこの世界ですが、毎回毎回驚くようなテーマで発表がされるこのイベント、今回はどうでしょうか?

オープニング・会場の紹介

動画のオープニングはまずは会場スポンサーとなったアララ株式会社さんの会場説明です。

そこから本日のアジェンダの紹介、フィードバックのお願い、運営メンバーの募集を簡単に説明され、その後の自己紹介タイムへとつながりました。

当日のアジェンダ

RAGのサービスをリリースして1年経ちました:江頭貴史さん

最初の発表は江頭さん。昨年4月に立ち上げたRAGのサービスのPoCや導入の経験からのフィードバックです。

第1章:1年前にリリースしたサービス(サイト内検索+ChatGPT)

サイト内検索:企業の保有情報を企業サイトの訪問客へ提供する

ChatGPTを組み合わせた理由
・検索利用者の想い:知りたいこと役立つことを1回で知りたい
・提供企業の思い:顧客の悩みを解決、問い合わせ対応の削減、
⇒双方の間の壁をChatGPTなら超えられそう

やったこと
・IBM Watsonの検索技術とChatGPTでRAGを実現

IBM Watsonの検索技術とChatGPTでRAGを実現

実際のイメージ
検索条件の入力欄⇒ChatGPTの回答文⇒Watsonの検索結果
・ChatGPTに検索結果が加わっただけの形

実際のイメージ

<当時のイベント登壇資料>


第2章:リリース1周年を迎えた今

おかげさまでサイト内検索のRAGは好評〜目論見どおりとなった

利用顧客の事例

想定していなかったこと

社内データの活用に使う案件が増加
・サポート業務のマニュアル、FAQ、過去の対応メールを対象にしたPoC
  ⇒業務活用の手応え
  +RAGブームで社内データの活用に注目

〜生成AIを使わない既存サービスも好調
 頻度の高い質問はチャットボット、頻度の低い質問はサイト内検索の結果
 ⇒幅広いニーズに対応できる

第3章:この1年で得られた知見

お客様の多くは検索に困っている
・サイト内や企業内の情報検索がうまく実現できていない
 RAGの前にきちんとした情報検索の環境をつくる

お客様の多くは検索に困っている

検索機能には調整手段が欠かせない
・高精度の検索アルゴリズムがお客様環境で高精度とは限らない
⇒お客様のデータや使い方に合わせて検索精度を改善できる必要がある

検索機能には調整手段が欠かせない

データの整備も一緒に考える必要がある
・企業内データの利活用は大昔からの課題
⇒データ整備の重要性を理解してもらい協力を得ることが大切

データの整備も一緒に考える必要がある

答えてほしいことはお客様によって違う
・RAGで生成AIに答えてほしいことは何か?
⇒目的を意識したモデルの選択やプロンプトの調整が必要

答えてほしいことはお客様によって違う

RAGの案件でもRAGが最適とは限らない
・従来のチャットボットのほうが適している場面も多い
・検索に困っているお客様は自然文で意味検索ができるだけでも充分な事も
⇒RAGは目的ではなく単なる手段

RAGの案件でもRAGが最適とは限らない

利用者の期待と現実を踏まえたUIが必要
・競合はチャットUIばかりだったが検索UIとしてリリース
⇒現在の検索やLLMの性能では、まだ検索UIのほうが目的達成しやすい

利用者の期待と現実を踏まえたUIが必要


授業×ChatGPT 企業内情報共有×ChatGPT:イースト株式会社 毛海さん

次の発表はイースト株式会社の毛海さんによる授業や企業内情報共有における「AIで俺達はもう一度輝ける」という考察です。

専門学校の試験問題作成をChatGPTにやってもらった

小テストをChatGPTで作成しKafootでを実施
⇒授業準備が1/5、生徒の食いつきが非常に良い

講師に求められることの変化
従来)威厳・知識⇒現代)エンタメ力、AIで準備を短縮

小テストをChatGPTで作成しKafootでを実施

人事給与業務でChatGPTを使ってみた

・給与業務でChatGPTに業務に関する情報を質問
・労務相談をしてみる
⇒ちゃんと答えてくれる

労務相談をしてみる

イースト株式会社が提供したAI開発支援・製品活用事例

・旅行会社:外国人向け旅行者向けのチャットボットサービス
・医療機器メーカー:測定情報による診断支援
・教育:英語発音判定でのAI活用(Qulmee)

旅行会社の事例

今日お伝えしたいこと

・システムの開発現場:壁打ちやリーダーによるフォロー⇒AIへ
・学校の教師:教科書をなぞるだけの教師⇒不要に
・簡易なプログラミング作成、情報検索効率化
・作業しかしない部下は必要ない
・知識だけの上司はいらない
⇒生身の人間はAIにはできないことで勝負するしかない


すぐに出来る!TeamsToolkitを用いたAzure OpenAIアプリ開発:JBCC 岡元さん

次の発表はJBCC株式会社の岡元さんによるTeamsToolkitの構築事例です。

Teamsを使ってChatGPTを使う方法

VS Code TeamsToolkitを使用
・きめ細かい開発が可能
・GitHubにRAGの使用、リッチな画面のサンプルコードがたくさんある
・開発の知識、Azureの知識が必要

Teamsを使ってChatGPTを使う方法

VS CodeにTeamsToolkitを導入

・VS Codeの拡張ツールからTeamsToolkitを選択⇒Teamsの開発画面
・GitHubから動くアプリのサンプル情報を参照しながら作ることが出来る
・AzureOpenAIを直接参照して開発できるようになった⇒設定だけで動く

多くのサンプルが提供されている

・作成されたソースのレベルは非常にしっかり
・Readmeにも書かれている

Azure側の設定

・キーやエンドポイントを設定⇒TeamToolkitに埋め込む

Azure側の設定

VS Codeでの実行

・プレビューで確認することが出来る
・ブラウザが立ち上がりTeamsの挙動を検証しながら開発できる
・TeamsはUIに制限があるので確認できると便利

VS Codeでの実行

・公開はAzureのなかのBotServicesで簡単にできる

Teamsで実行


Copilot for M365 実際はどうなん?:@ponponmikankanさん

つぎは人事で業務改善をしているEXCEL大好きの@ponponmikankansanによるM365のお話です。EXCELの同人誌も技術書典に出しているそうです

Copilot大量発生問題

Copilot:副操縦士のこと、MicrosofのAI製品のブランド名
・GPT4およびDall-E3を中心としたモデルを使用
・職場利用ではデータが保護される
・文書や画像生成、データ分析等、利用用途は多岐にわたる

Microsoft BuilldはCopilot祭り状態⇒最も力を入れている

Copilotは各製品に宿るようになった
・あらゆる製品にCopilotが搭載される
・クラウド製品だけでなくハード(Serface)にも搭載

Copilotは各製品に

Copilot for M365って何なん?

おなじみの365アプリ上で事務作業をしてくれる副操縦士
・だいたいは右上にある

だいたいは右上にある

製品ごとに特徴がある
・WORD:文章生成、要約
・Teams:議事録作成、長文メッセージを要約
・Outlook:メールの書き方をコーチング
・FORMS:アンケートの自動生成、選択肢も簡単に作成

⇒今後はTeamsのCopilotが勝手に議事録作成やプロマネ的な仕事も

Copilot for M365 実際どうなん?

登場以来まだ6ヶ月で、いまは「赤ちゃん」
理由1:プロモはかっこいいがまだできないことが多い
    Copilot個々のレベルの差も鬼激しい

イケてるCopilot がっかりCopilot

理由2:鬼開発による圧倒的成長スピード
    毎月毎月更新されている、開発中項目が74件
    今使えなくても、やがて使えるようになる

半年使ってみて思うこと
・ボタンからすぐに呼び出せていつでも気軽に使える・頼れる
・0から資料を作ったり考えることが少なくなった
・大幅な時間の削減効果はないがアウトプット量は増える
・社内ではAIによって作業能力が向上した人がいた

土台がある状態で自分でレンジすれば仕事が終わる

WordのCopilot

これからのビジネススキル
・指示を的確にできる力=プロンプト力が大事に
・ローコードの開発もAIにやってもらう⇒非エンジニアも効率化が出来る

イベント告知

Copilotのコミュニティを作りました


密ベクトル検索だけじゃない! RAGにグラフDBを使うとなにが出来るか考えたい:清水 厚志さん

次の発表は株式会社HBAの清水さんによるグラフDBのお話です。


RAGを構成する技術要素

⇒その中でもベクトル検索に注目

RAGを構成する技術要素

ベクトル検索
・疎ベクトル検索(Splade)
・密ベクトル検索
⇒今回のテーマではない

ベクトル検索

グラフDBを使ったナレッジグラフ

Copilot for M365のデータストアとしてグラフが使われている
・グラフDBを使った事例は少ない

Copilot for M365のデータストアとしてグラフが使われている

実際に構築して動かしてみた
・AWS Bedrock+Neptuneのハンズオンがあったので試してみた
・グラフの構造をもとにCyberクエリを生成していることも確認

グラフDBとは何か?
・オブジェクト、および関係を格納できるデータベース
・ナレッジグラフの格納は代表的なユースケース

グラフDBとは何か?

ナレッジグラフとはなにか?
・Googleの検索の右に出てくる関連情報(ナレッジパネル)に使用

ナレッジグラフとはなにか?

・業務上の単語と業務上の概念を関連付けたもの
・人間の思考ロジックに近い検索ができる

ナレッジグラフとはなにか?

まとめ

・グラフDB(ナレッジグラフ)で人間の思考プロセスに近い検索が実施
 ⇒検索結果の納得感につながる
・ちゃんとモデリングするのは大変そう
 ⇒既存おデータをそのまま流用するような使い方は難しそう
・LLMが高性能化しているので検索で頑張らなくても
 ・・・使い所が難しい

おわりに

クロージング

最後に告知です

次回について
今回はコンパクトにまとめた⇒今後は開催頻度を短くしたい

この記事が気に入ったらサポートをしてみませんか?