閑～生成AIは忖度の夢を見るか
私が良く見ているnoteの1つに、キタきつね氏のセキュリティ記事紹介があります。非常にありがたい次第です。
日本ではセキュリティ関連情報が、ほどんど出回っていないので、非常に価値のある情報noteです。
本題：IPAのレポートから見える生成AIの忖度能力
そのキタきつね氏のnoteで紹介されていたIPAの調査レポートが興味深かったので紹介します。
IPAテクニカルウォッチ「米国におけるAIのセキュリティ脅威・リスクの認知調査レポート」 | 情報セキュリティ | IPA 独立行政法人 情報処理推進機構
このレポートの中で、専門家風の人にインタビューしているのですが、その中で面白いものがありました。
I have heard before that AI is trained on models to be convincing, not correct.
つまり生成AIは「正しい事ではなく、もっともらしい説得力のある事を学習していると聞いた」という事ですね。
「聞いた」という一文がどういう意味を持つかはさておき、非常に興味深い事です。私が以前から言っていた
AIの忖度力
という問題が現実のものであるという示唆がここにもありました。
忖度力はハルシネーションとは別で、厄介な現象です。
生成AIの忖度力の例として、画像生成AIを使ってみましょう。
以下の画像は「ダンスする医者」の画像をCopilot様に作成してもらいましたが、4枚とも黒髪で長髪の女性です。
ちょっと調べると、医師の男女比率は男性8：女性2らしいので、忖度抜きであれば、4枚のうち3枚は男性でもよい気がします。まぁ、2枚でもいいですが。
ちなみにnoteから私への推薦記事に、よく中小企業診断士という資格を持った方の記事が出でてくるので、この資格を調べたことがあるのですが、男性9：女性1という、なかなかの男女比率だったので「講義をしている中小企業診断士」という画像を作らせてみました。
そうすると、見事に4枚ともスーツを着た男性で、まぁまぁ現実を反映しているという事でしょう。
なぜ、医師は現実の比率に反する出力をするのでしょうね？
何を思うかは皆様にお任せしますが、AIの回答というのは、画像一つ取っても何らか忖度力が働いている可能性がここから示唆されます。
生成AIを用いるときは、忖度に気を付けないと、腰ぎんちゃくに囲まれた経営者のように、現実に反した情報に囲まれるリスクがあるという事です。
ちなみに、最近、タイトル画像に「警告：AI生成中」という文字を付けなくなったのですが、私のような忖度力の低い人間の意向を、忖度力の高いAIが全くくんでくれず、一度も採用していないという事実に基づくものではなく、単に加工しなくても横長の画像が作れるようになったからです。
ついでに、もう一つ気になった事
IPAのレポートのインタビュー中に、もう一つ気になる一文があります。
The greatest risk is from software developers accessing AI through APIs. Developers use AI enabled API for routine work which requires input of data. This also means that the developers are spilling out some important information into the cloud, and other AI models/systems are now collecting and training on your data.
ここでインタビューを受けているエキスパートの認識…
この記事が気に入ったらサポートをしてみませんか？