【情報セキュリティ回#10】生成AIを悪用できる知恵あるなら…
先日「犯罪に利用できる生成AI公開」の記事を目にしました。
道具に貴賤はありません。道具を使う人の使い方に沿ったアウトプットが作られます。
同様に、生成AIが悪いのではなく悪い使い方をしているから悪いのです。
ちょっとだけ視点を変えると、「よくそんなAIの使い方を思いついたな！」と違うポイントに気づきます。
生成AIを使ったことがない人は、数年後には、使い続けている人と大きくアウトプット量で差がつく可能性があります。
決して褒められない行動結果でも、学べることはあります。
「ふーん」で記事を読み終えるには、もったいないです。
生成AIを使った悪用の事例
記事の要点は、以下です。
①犯罪目的に改造された生成AIが、インターネットに公開
②その生成AIとチャットができる
③犯罪に使う道具の作り方をそのチャットに聞くと、回答する
あなたが通常利用している、チャットできる生成AIは、プログラムで
「犯罪に使う道具の作り方」は回答しないように制限されています。
今回の悪用できたのは、「犯罪目的に改造された生成AI」の存在です。
生成AI自体は、作成できる環境ができています。
少し学んで、クラウドの環境を使うことで昔よりも簡単に作成できます。
その生成AIに、犯罪に使う道具の作り方の情報を大量にインプットすることで、生成AIが回答可能となります。
その生成AIを使うことで、③のように回答ができるようになります。
悪用から学ぶ、生成AIの使い方
悪用するために作られた生成AI。そこから以下の３点が分かります。
１）生成AIは、chatGPTだけではない
２）生成AIがチャットで返す回答は、作ることができる
３）インプットがゴミなら、アウトプットもゴミ
１）生成AIは、chatGPTだけではない
有名になり過ぎたからでしょうか、生成AI＝chatGPT、と思いがちです。
しかし、そうではないです。
無料で利用可能なチャットのツールとしては、
・マイクロソフト社がサービス提供する Copilot（こぱいろっと）、
・Google社がサービス提供する Bard（ばーど）
などがあります。
最近では、WebブラウザではなくLINEを利用したチャットができるAIなども簡単に作成できます。API（えーぴーあい）と言われる手段を用いて、
LINEと生成AIとをつなげることができたりします。
２）生成AIがチャットで返す回答は、作ることができる
生成AIを含めて、いわゆるAIは、
・たくさんの情報を入力し
・記録して分析し
・最も確率が高い情報を出力する
ツールです。
「最も確率が高い情報を出力」する手法が、様々あります。
AIは、1950年代後半から、多くの方々が実験や検証を重ねました。
"生成AI" と言われるのも、手法の１つです。
重要なのは、「入力した情報を分析して、出力する」ことです。
chatGPTは、「入力した情報」が、圧倒的に多いのです。
多いから、いろんなことを聞いても回答してくれるように見えています。
期待と異なる回答を返すこともあります。
誤った回答、ではないです。
入力した情報の関連の割合が、相対的に高い情報を表示しただけです
３）インプットがゴミなら、アウトプットもゴミ
上記の２）で書いたように、「入力した情報を分析して、出力する」です。
入力がとても大事です。
入力が誤っていたり期待と違うと、結果は期待する出力になりません。
人間のように、
行間を読む
京ことばを読み解く
ようなことは、生成AIはできません。
文章の情報は、
単語と助詞/助動詞に分割されて、それぞれの紐づけの関連を数値化するだけです。
なので、インプットの通りの分析しかできないです。
その結果がアウトプットです。
まとめ
記事を見て「けしからん！」と感情のままにSNSに書き込むこと。
個人的には否定的ですが、否定はしません。
記事を見て「なるほど！」と論理的に解釈してSNSに書き込むこと。
個人的にはこちらを選択します。
なぜか。学べるからです。好奇心をがんがんに揺さぶってくれるからです。
好奇心こそが、あなたのやる気やポジティブな感情を湧きたててくれます。
内面からポジティブにできる方法を使わない手はないです。
悪用に使った手法を用いて、あなたの手で誰かのお役に立てる使い方をしてみませんか？
悪用に使うほどの手法です。ベクトルを180°向きだけを変えてみる。
きっと、「ありがとう」の言葉が周囲にふえるでしょう。
以上です。