![見出し画像](https://assets.st-note.com/production/uploads/images/126929249/rectangle_large_type_2_0a80e31904ebcdde27058831a1d2c008.png?width=1200)
【晋バルサン:人工知能の進化の先をみつめる】生成AIがはらむ可能性と危険性
元神戸大学大学院生 晋バルサン
狭まっていく生成AIの利用範囲
昨年から、「生成AI」というワードが世間の関心を集めている。学習したデータをもとに文章や画像などを出力する人工知能のことであるが、近年の急速な技術進歩によって、専門家以外にもその有用性が伝わりはじめ、より一層注目されるようになった。
それに伴って、日々新しい生成AIが公開されており、つい最近もマイクロソフト社の画像生成サービス「Bing Image Creator」に、新型画像生成AI「DALL・E 3」が搭載された。これはオンライン上で手軽に画像を作ることができるサービスで、文章を入力するだけでそれに沿った内容の画像を作ってくれる。
試しに、「逮捕される安倍晋三」と入力して作成ボタンを押してみると、とても質感の高い画像が生成された。昨年の8月に公開された人気の画像生成AI「Stable Diffusion」と比較しても、明らかに高品質である。
安倍晋三は「安全でないコンテンツ」
しかし、画像を生成するにあたって厳しい制限がかけられており、システムが「有害なコンテンツ」と判断した場合、画像の出力は行われない。
さらにこの規制は日を追うごとに厳しくなり、10月4日の時点では前述の安倍晋三の画像を作成することが可能であったが、それから数日後には「安全でない画像コンテンツが検出されました」というエラーとともに、安倍晋三という言葉が含まれる画像の大部分がブロックされるようになってしまった。
安倍晋三を「安全でないコンテンツ」と判断して排除するようになったのは、とても皮肉が効いていてユニークであるが、制限が厳しすぎるあまり使い勝手が悪くなってしまったという印象を受けた。
また、前述の画像生成AI「Stable Diffusion」は、個人用PCで動作させることが可能でプログラムなども公開されているが、「Bing Image Creator」はオンライン上でしか使えず、中身もブラックボックスである。
このように制限が厳しい上に、不透明な生成AIサービスは多く、対話型AIとして有名なChatGPTも政治的話題や成人向けコンテンツなどをブロックして回答を拒否することが多い。
上記のような制限によって倫理的な問題に対処しているというのがマイクロソフト社やOpenAI社(ChatGPTの開発元)の言い分であるが、そうした倫理規範をごく少数のテック系企業に委ねることは極めてリスクが高い。生成AIの利用が進むほど、社会全体がAI開発元の意向に左右されやすくなると考えられる。
また、マイクロソフト社やOpenAI社といった生成AIの開発力が高い企業は、制限のない高性能なAIを独占することが可能で、他の企業よりも明らかに優位な立場にいる。
制限の多い不完全な生成AIサービスを公開する裏で、強力なAIを開発し、自社の優位性の維持を図っている可能性は高い。このような状況を放置すれば、テック系企業による寡占化はさらに進行し、社会倫理まで私物化されかねないだろう。AI開発元の欺瞞に満ちた「倫理フィルター」を疑い、厳しい目を向ける必要があるのではないか。
![](https://assets.st-note.com/img/1703904105375-IIUAyPEMFD.jpg?width=1200)
(人民新聞 23年11月5日号掲載)
【お願い】人民新聞は広告に頼らず新聞を運営しています。ですから、みなさまからのサポートが欠かせません。よりよい紙面づくりのために、100円からご協力お願いします。