AIと僕らが手をとりあうまでの物語

「AIは社会を豊かにするのか」。標準化・仕組化の技術をもつセキュリティエンジニアの筆者…

AIと僕らが手をとりあうまでの物語

「AIは社会を豊かにするのか」。標準化・仕組化の技術をもつセキュリティエンジニアの筆者が安心してAIと共存できる世界を思い描き、実現していく日々を綴ります。

13 ChatGPT社内利用ガイドラインをChatGPTで作った話

ChatGPTが話題になり始めた頃、前回の記事で取り上げたセキュリティ面での懸念、特に業務利用におけるリスクについて、様々な声が聞こえ始めていた。 僕も社内承認を得た上で、機密情報を入力しないなどの注意点を踏まえながら利用していたものの、ChatGPTの公式サイトと見紛う模擬サイトの存在を知るなど、危機感を募らせていた。 そこで、ほかの従業員も安全に利用できるようにするために、社内利用ガイドラインを作成することにした。 こういう注意点を含めたいという要件があったので、そ

AIと僕らが手をとりあ…

    • 12 AIのセキュリティリスクについて

      これまで、生成AIの利用方法や可能性について探求してきたが、今回はAIのセキュリティリスクにフォーカスしてみたいと思う。 世間でも特に注目されている３つのリスクを挙げてみる。 ① 入力データの学習 AIとの会話は学習され、第三者への回答に使われることがある。機密情報が含まれていると、結果的に情報漏洩が起こる可能性もゼロではない。このリスクは生成AIだけでなく、日常的に利用するWebサービスも同様だ。たとえば、GoogleやYahooといった検索サービスで入力したキーワー

      AIと僕らが手をとりあ…

      • 11 文章量の多いAIの回答をFunction callingでわかりやすい回答にしてみた

        ここまで、AIから、画面属性に対する○×判定結果・判断理由・信頼度の3つを以下のように答えてもらえるようになった。 単体のテキストとしては正直読みづらい。画面や画面属性ごとにこれだけのテキストが出てくると、人間の脳には負担が大きすぎる。○×だけ見えるようにしたり、信頼度を数字として応用したり、判断理由を別の場所に隠したりと、それぞれの情報を機械的に扱ってイメージのような画面を実現したい。 技術的な話になってしまうが、ChatGPTのAPIに、Function callin

        AIと僕らが手をとりあ…

        • 10 AIの回答に根拠をもたせてみた

          前回は、Webページの画面属性をChatGPTに判定させるために、APIを使ってあれこれ試してみた。今度は、AIが出した結果を人間の作業画面にどう反映させるかを考えながら、回答文のフォーマットを考えていく。 まずは、指定された画面属性（例. パスワード欄）を持つかどうかで、○か×かという判定結果が必要だ。もしこの判定が完璧にできるのならば、そのまま作業画面に反映させ、人間の作業が要らなくなるという考えも出てくるだろう。 しかし、AIはあくまでアシスタントだ。今の段階ではハ

          AIと僕らが手をとりあ…

        13 ChatGPT社内利用ガイドラインをChatGPTで作った話

        AIと僕らが手をとりあうまでの物語

          09 APIでAIアシスト実現の道筋をみつける

          ここまで、ページ属性判定の業務に生成AIを組み込んだらどうなるのか、どう組み込むとアシストとして活躍できるのかを考え、作業画面のイメージを組み立ててきた。 これを実現するため、次は作業画面に生成AIを組み込む具体的な仕組みを考える。 生成AIの学習モデルはクラウド上にあり、通信して利用する。人が作業している裏で生成AIと通信するには、チャット画面ではなく、APIの仕組みを使う。APIはプログラム向けに提供される機能だが、入力と出力はチャットとほぼ同じだ。指示文であるプロン

          AIと僕らが手をとりあ…

          09 APIでAIアシスト実現の道筋をみつける

          AIと僕らが手をとりあうまでの物語

          08 生成AIによるWebページの属性判定アシストをどう組み込む？

          前回は、Webページの属性判定を生成AIでも行えるかという問いに対し、生成AIが一般常識を獲得しているがゆえに、人間と同じ考え方・同じ基準で判定できるということを考察した。これから、属性判定を生成AIが支援する具体的な仕組みを作っていく。 生成AIが判定結果を出力できたとして、業務のアシスタントとしてどのように組み込むか。もちろんChatGPTといったチャットボットをそのまま利用してもらう手もある。しかし、毎回Webページの情報をプロンプトとして入力するのは大変だし、回答を

          AIと僕らが手をとりあ…

          08 生成AIによるWebページの属性判定アシストをどう組み込む？

          AIと僕らが手をとりあうまでの物語

          07 AIが設計を助ける仕組みを考える

          前回、生成AIの役割として、設計アシスタントの可能性について考察した。考察内容としては、一般常識に基づき作業できるようにする特徴をもつ”標準化”の取り組み背景から、生成AIによる画面の属性判定作業の実施可能性を見出した。 これを実現するためにはどのような仕組みが必要だろう？アシスタントとして活躍するために、生成AIが人間と同じ結果を出せる性能が必要だ。ここで、人間の画面属性の判定作業をシステム的に「入力」「処理」「出力」に分けて捉えてみる。 「出力」は画面属性の判定結果だ

          AIと僕らが手をとりあ…

          07 AIが設計を助ける仕組みを考える

          AIと僕らが手をとりあうまでの物語

          06 AI、設計エンジニアのアシスタントになる（２）

          "脆弱性診断の設計”を生成AIに務めてもらうことにした。といっても人間に成り代わってもらうのではなく、"アシスタント”としてである。 設計には「診断する画面の取得」「画面の属性判定」「内部レビュー」などの工程があり、それらの工程ごとにも随分と細かいルールがある。「設計の支援をよろしく！」とまるっとお願いしても、それなりに動けるアシスタントになるまでに途方もない時間がかかるし、その間にも業務が変わっていることだろう。つまり、各工程で生成AIの手を借りるのが現実的だ。 ちょう

          AIと僕らが手をとりあ…

          06 AI、設計エンジニアのアシスタントになる（２）

          AIと僕らが手をとりあうまでの物語

          05 AI、エンジニアのアシスタントになる

          生成AIに何を任せるか考えた結果、脆弱性診断の設計業務を支援してもらうことにした。 まず、”脆弱性診断の設計”って何のこと？と思うだろうから説明したいと思う。 これまで脆弱性診断は、経験豊富なホワイトハッカーが複雑な攻撃手法を使ってソフトウェアに脆弱性を見つけるのが一般的だ。しかし、この方法には、”ホワイトハッカー個人のスキルに依存する課題”や作業範囲が不明瞭であることや人材不足といった課題があった。 そこで、脆弱性診断を実行する前に、その診断の作業範囲や内容を具体的に

          AIと僕らが手をとりあ…

          05 AI、エンジニアのアシスタントになる

          AIと僕らが手をとりあうまでの物語

          04 AIになにを任せよう？

          ChatGPTの社内活用を進めるために、 人間とChatGPTの役割分担を整理することにした。 まずは、 ・ChatGPTには、どんな役割が担えるのか？ ・人間の仕事で置き換えたとき、どんなサポートができるのか？ これらを身近な業務に当てはめ、考えてみる。 よくある「複数人での作業」を振り返ってみると、それぞれの人たちには役割があてられている。「ダブルチェック」や「成果物の承認」を例として、これらの分担作業を分析してみると、 ダブルチェックであれば「作業＋最終確認」 成果物

          AIと僕らが手をとりあ…

          04 AIになにを任せよう？

          AIと僕らが手をとりあうまでの物語

          03 嘘をつくAI

          どのように社内にChatGPTを導入し、活用できるか。セキュリティ面の制約を踏まえながら、検討が続いた。検討が進むなかで、ChatGPTの高い性能に驚く一方、取り扱いの難しさを実感していた。 導入を難しくしている最も大きな要因のひとつが、 「ハルシネーション」（幻覚） と呼ばれる現象だった。 もっともらしい回答を出力するが、その内容が事実に基づいていないというものだ。 実際に「さいたま市内のおいしいラーメン屋を３つ教えてください」と質問してみると、人気のラーメン店とし

          AIと僕らが手をとりあ…

          03 嘘をつくAI

          AIと僕らが手をとりあうまでの物語

          02 春先の一報、ChatGPTを活用せよ

          「ChatGPT活用プロジェクトみたいなのを立ち上げて、どんどん活用していきましょう！」（原文ママ） 社長からメッセージが飛んできたのは、春先のことだった。そのとき僕は、登録したばかりのChatGPTをあれこれ試しながら、手もとの仕事がラクにできないか、あわよくば、代わってもらえないかなと、呑気に考えていたところだった。 「プロジェクト」ということは、自分だけではなく、会社全体で展開できる活用方法を見出さなくてはいけない。そうはいっても、何にどう活用していくのがよいのか。

          AIと僕らが手をとりあ…

          02 春先の一報、ChatGPTを活用せよ

          AIと僕らが手をとりあうまでの物語

          01 未知との出会い

          「すごいものが出たなあ」 ChatGPTを触ってみて、僕が最初に抱いた感想だ。次いで出た感想が「これ、大丈夫かな」だった。 質問されたことに、頭をひねって、回答を出す。学校や会社で、決して少なくない時間をかけて積み上げてきたスキルで、いまの仕事でもそれが重要な役割を果たしている。 その営みが、目の前のチャットボットによって取って代わられる予感がした。 2023年冒頭、X（旧ツイッター）がChatGPTで盛り上がっていることに気が付いた。しばらく様子見していたが、ミーハー

          AIと僕らが手をとりあ…

          01 未知との出会い

          AIと僕らが手をとりあうまでの物語

          00 はじめに、僕らについて

          読者のみなさん、はじめまして。このブログに興味をもってくださりありがとうございます。 僕らは普段、国内にあるセキュリティ会社のメンバーとして働いています。 脆弱性診断をはじめとしたさまざまなセキュリティに関する取り組みを行い、安全にインターネットが使える社会の実現を目指しています。 そんな僕らが今年、AIに関する調査・研究を実施することになりました。この「AIと僕らが手をとりあうまでの物語」は、実際のプロジェクトを元にしたノンフィクションのお話です。 プロジェクトが始ま

          AIと僕らが手をとりあ…

          00 はじめに、僕らについて

          AIと僕らが手をとりあうまでの物語