AIと僕らが手をとりあうまでの物語

「AIは社会を豊かにするのか」。標準化・仕組化の技術をもつセキュリティエンジニアの筆者…

AIと僕らが手をとりあうまでの物語

「AIは社会を豊かにするのか」。標準化・仕組化の技術をもつセキュリティエンジニアの筆者が安心してAIと共存できる世界を思い描き、実現していく日々を綴ります。

16 ラジオの制作をAIに任せてみた

僕がいる会社では「今日の10分セキュリティラジオ」というインターネットラジオを放送している。毎週4回、セキュリティニュースやトピックを取り上げるこの番組は、社長が…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
2か月前
1

15 ”発言を資産化する仕組み”をAIで作ってみた（後編）

前回の記事で紹介した、AIを使って発言を資産化する以下のプロセスについて、実際に作ってみることにした。 （１）音声をマイクで拾う （２）文字起こし （３）文字起こし…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
3か月前
2

”発言を資産化する仕組み”をAIで作ってみた（前編）

先日、他拠点のメンバーに業務知識の講習をする機会があり、教鞭をとった。1週間かけて行うこの勉強合宿は、僕にとって”大きな挑戦”だった。実りある講習にするために、…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
4か月前
2

13 ChatGPT社内利用ガイドラインをChatGPTで作った話

ChatGPTが話題になり始めた頃、前回の記事で取り上げたセキュリティ面での懸念、特に業務利用におけるリスクについて、様々な声が聞こえ始めていた。 僕も社内承認を得た…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
5か月前
2

12 AIのセキュリティリスクについて

これまで、生成AIの利用方法や可能性について探求してきたが、今回はAIのセキュリティリスクにフォーカスしてみたいと思う。 世間でも特に注目されている３つのリスクを挙…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
6か月前
3

11 文章量の多いAIの回答をFunction callingでわかりやすい回答にしてみた

ここまで、AIから、画面属性に対する○×判定結果・判断理由・信頼度の3つを以下のように答えてもらえるようになった。 単体のテキストとしては正直読みづらい。画面や画…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
6か月前
4

10 AIの回答に根拠をもたせてみた

前回は、Webページの画面属性をChatGPTに判定させるために、APIを使ってあれこれ試してみた。今度は、AIが出した結果を人間の作業画面にどう反映させるかを考えながら、回…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
7か月前
1

09 APIでAIアシスト実現の道筋をみつける

ここまで、ページ属性判定の業務に生成AIを組み込んだらどうなるのか、どう組み込むとアシストとして活躍できるのかを考え、作業画面のイメージを組み立ててきた。 これを…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
8か月前
3

08 生成AIによるWebページの属性判定アシストをどう組み込む？

前回は、Webページの属性判定を生成AIでも行えるかという問いに対し、生成AIが一般常識を獲得しているがゆえに、人間と同じ考え方・同じ基準で判定できるということを考察…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
8か月前
5

07 AIが設計を助ける仕組みを考える

前回、生成AIの役割として、設計アシスタントの可能性について考察した。考察内容としては、一般常識に基づき作業できるようにする特徴をもつ”標準化”の取り組み背景から…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
9か月前
5

06 AI、設計エンジニアのアシスタントになる（２）

"脆弱性診断の設計”を生成AIに務めてもらうことにした。といっても人間に成り代わってもらうのではなく、"アシスタント”としてである。 設計には「診断する画面の取得」…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
9か月前
4

05 AI、エンジニアのアシスタントになる

生成AIに何を任せるか考えた結果、脆弱性診断の設計業務を支援してもらうことにした。 まず、”脆弱性診断の設計”って何のこと？と思うだろうから説明したいと思う。 こ…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
10か月前
2

04 AIになにを任せよう？

ChatGPTの社内活用を進めるために、 人間とChatGPTの役割分担を整理することにした。 まずは、 ・ChatGPTには、どんな役割が担えるのか？ ・人間の仕事で置き換えたとき、…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
10か月前
2

03 嘘をつくAI

どのように社内にChatGPTを導入し、活用できるか。セキュリティ面の制約を踏まえながら、検討が続いた。検討が進むなかで、ChatGPTの高い性能に驚く一方、取り扱いの難しさ…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
11か月前
7

02 春先の一報、ChatGPTを活用せよ

「ChatGPT活用プロジェクトみたいなのを立ち上げて、どんどん活用していきましょう！」（原文ママ） 社長からメッセージが飛んできたのは、春先のことだった。そのとき僕…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
11か月前
6

01 未知との出会い

「すごいものが出たなあ」 ChatGPTを触ってみて、僕が最初に抱いた感想だ。次いで出た感想が「これ、大丈夫かな」だった。 質問されたことに、頭をひねって、回答を出す。…

AIと僕らが手をとりあうまでの物語
AIと僕らが手をとりあうまでの物語
1年前
11
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

16 ラジオの制作をAIに任せてみた

16 ラジオの制作をAIに任せてみた

僕がいる会社では「今日の10分セキュリティラジオ」というインターネットラジオを放送している。毎週4回、セキュリティニュースやトピックを取り上げるこの番組は、社長がメインパーソナリティを務め、先日放送回数が1000回に到達した。裏では台本の作成や収録が泥臭く行われ、多大な時間と労力を要している。そこで、この作業をAIで自動化できないかというプロジェクトが立ち上がった。

まずは台本の生成を自動化する

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

15 ”発言を資産化する仕組み”をAIで作ってみた（後編）

15 ”発言を資産化する仕組み”をAIで作ってみた（後編）

前回の記事で紹介した、AIを使って発言を資産化する以下のプロセスについて、実際に作ってみることにした。

（１）音声をマイクで拾う
（２）文字起こし
（３）文字起こしデータを定期的に要約
（４）イメージ画像を生成
（５）要約とイメージ画像を組み合わせてスライドにまとめる

文字起こしまでは、参考記事のおかげでほぼ順調にできたが、マイク入力をいいタイミングで区切るためには工夫が必要だった。特に講習の

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

”発言を資産化する仕組み”をAIで作ってみた（前編）

”発言を資産化する仕組み”をAIで作ってみた（前編）

先日、他拠点のメンバーに業務知識の講習をする機会があり、教鞭をとった。1週間かけて行うこの勉強合宿は、僕にとって”大きな挑戦”だった。実りある講習にするために、準備は万全にして臨まなければならなかった。

準備をはじめてみると、頭の中にある業務知識をスライド資料だけで伝えるのは到底難しいものだった。補足するためには口頭で多くの情報が必要になった。講習の準備をしながら、この作業を今回限りで終わらせる

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

13 ChatGPT社内利用ガイドラインをChatGPTで作った話

13 ChatGPT社内利用ガイドラインをChatGPTで作った話

ChatGPTが話題になり始めた頃、前回の記事で取り上げたセキュリティ面での懸念、特に業務利用におけるリスクについて、様々な声が聞こえ始めていた。

僕も社内承認を得た上で、機密情報を入力しないなどの注意点を踏まえながら利用していたものの、ChatGPTの公式サイトと見紛う模擬サイトの存在を知るなど、危機感を募らせていた。

そこで、ほかの従業員も安全に利用できるようにするために、社内利用ガイドラ

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

12 AIのセキュリティリスクについて

12 AIのセキュリティリスクについて

これまで、生成AIの利用方法や可能性について探求してきたが、今回はAIのセキュリティリスクにフォーカスしてみたいと思う。

世間でも特に注目されている３つのリスクを挙げてみる。

① 入力データの学習

AIとの会話は学習され、第三者への回答に使われることがある。機密情報が含まれていると、結果的に情報漏洩が起こる可能性もゼロではない。このリスクは生成AIだけでなく、日常的に利用するWebサービスも

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

11 文章量の多いAIの回答をFunction callingでわかりやすい回答にしてみた

11 文章量の多いAIの回答をFunction callingでわかりやすい回答にしてみた

ここまで、AIから、画面属性に対する○×判定結果・判断理由・信頼度の3つを以下のように答えてもらえるようになった。

単体のテキストとしては正直読みづらい。画面や画面属性ごとにこれだけのテキストが出てくると、人間の脳には負担が大きすぎる。○×だけ見えるようにしたり、信頼度を数字として応用したり、判断理由を別の場所に隠したりと、それぞれの情報を機械的に扱ってイメージのような画面を実現したい。

技術

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

10 AIの回答に根拠をもたせてみた

10 AIの回答に根拠をもたせてみた

前回は、Webページの画面属性をChatGPTに判定させるために、APIを使ってあれこれ試してみた。今度は、AIが出した結果を人間の作業画面にどう反映させるかを考えながら、回答文のフォーマットを考えていく。

まずは、指定された画面属性（例. パスワード欄）を持つかどうかで、○か×かという判定結果が必要だ。もしこの判定が完璧にできるのならば、そのまま作業画面に反映させ、人間の作業が要らなくなるとい

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

09 APIでAIアシスト実現の道筋をみつける

09 APIでAIアシスト実現の道筋をみつける

ここまで、ページ属性判定の業務に生成AIを組み込んだらどうなるのか、どう組み込むとアシストとして活躍できるのかを考え、作業画面のイメージを組み立ててきた。

これを実現するため、次は作業画面に生成AIを組み込む具体的な仕組みを考える。

生成AIの学習モデルはクラウド上にあり、通信して利用する。人が作業している裏で生成AIと通信するには、チャット画面ではなく、APIの仕組みを使う。APIはプログラ

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

08 生成AIによるWebページの属性判定アシストをどう組み込む？

08 生成AIによるWebページの属性判定アシストをどう組み込む？

前回は、Webページの属性判定を生成AIでも行えるかという問いに対し、生成AIが一般常識を獲得しているがゆえに、人間と同じ考え方・同じ基準で判定できるということを考察した。これから、属性判定を生成AIが支援する具体的な仕組みを作っていく。

生成AIが判定結果を出力できたとして、業務のアシスタントとしてどのように組み込むか。もちろんChatGPTといったチャットボットをそのまま利用してもらう手もあ

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

07 AIが設計を助ける仕組みを考える

07 AIが設計を助ける仕組みを考える

前回、生成AIの役割として、設計アシスタントの可能性について考察した。考察内容としては、一般常識に基づき作業できるようにする特徴をもつ”標準化”の取り組み背景から、生成AIによる画面の属性判定作業の実施可能性を見出した。

これを実現するためにはどのような仕組みが必要だろう？アシスタントとして活躍するために、生成AIが人間と同じ結果を出せる性能が必要だ。ここで、人間の画面属性の判定作業をシステム的

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

06 AI、設計エンジニアのアシスタントになる（２）

06 AI、設計エンジニアのアシスタントになる（２）

"脆弱性診断の設計”を生成AIに務めてもらうことにした。といっても人間に成り代わってもらうのではなく、"アシスタント”としてである。

設計には「診断する画面の取得」「画面の属性判定」「内部レビュー」などの工程があり、それらの工程ごとにも随分と細かいルールがある。「設計の支援をよろしく！」とまるっとお願いしても、それなりに動けるアシスタントになるまでに途方もない時間がかかるし、その間にも業務が変わ

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

05 AI、エンジニアのアシスタントになる

05 AI、エンジニアのアシスタントになる

生成AIに何を任せるか考えた結果、脆弱性診断の設計業務を支援してもらうことにした。

まず、”脆弱性診断の設計”って何のこと？と思うだろうから説明したいと思う。

これまで脆弱性診断は、経験豊富なホワイトハッカーが複雑な攻撃手法を使ってソフトウェアに脆弱性を見つけるのが一般的だ。しかし、この方法には、”ホワイトハッカー個人のスキルに依存する課題”や作業範囲が不明瞭であることや人材不足といった課題が

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

04 AIになにを任せよう？

04 AIになにを任せよう？

ChatGPTの社内活用を進めるために、
人間とChatGPTの役割分担を整理することにした。
まずは、
・ChatGPTには、どんな役割が担えるのか？
・人間の仕事で置き換えたとき、どんなサポートができるのか？
これらを身近な業務に当てはめ、考えてみる。

よくある「複数人での作業」を振り返ってみると、それぞれの人たちには役割があてられている。「ダブルチェック」や「成果物の承認」を例として、これ

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

03 嘘をつくAI

03 嘘をつくAI

どのように社内にChatGPTを導入し、活用できるか。セキュリティ面の制約を踏まえながら、検討が続いた。検討が進むなかで、ChatGPTの高い性能に驚く一方、取り扱いの難しさを実感していた。

導入を難しくしている最も大きな要因のひとつが、

「ハルシネーション」（幻覚）

と呼ばれる現象だった。
もっともらしい回答を出力するが、その内容が事実に基づいていないというものだ。

実際に「さいたま市内

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

02 春先の一報、ChatGPTを活用せよ

02 春先の一報、ChatGPTを活用せよ

「ChatGPT活用プロジェクトみたいなのを立ち上げて、どんどん活用していきましょう！」（原文ママ）

社長からメッセージが飛んできたのは、春先のことだった。そのとき僕は、登録したばかりのChatGPTをあれこれ試しながら、手もとの仕事がラクにできないか、あわよくば、代わってもらえないかなと、呑気に考えていたところだった。

「プロジェクト」ということは、自分だけではなく、会社全体で展開できる活用

もっとみる
AIと僕らが手をとりあうまでの物語

AIと僕らが手をとりあうまでの物語

01 未知との出会い

01 未知との出会い

「すごいものが出たなあ」
ChatGPTを触ってみて、僕が最初に抱いた感想だ。次いで出た感想が「これ、大丈夫かな」だった。

質問されたことに、頭をひねって、回答を出す。学校や会社で、決して少なくない時間をかけて積み上げてきたスキルで、いまの仕事でもそれが重要な役割を果たしている。

その営みが、目の前のチャットボットによって取って代わられる予感がした。

2023年冒頭、X（旧ツイッター）がCh

もっとみる