【晋バルサン：人工知能の進化の先をみつめる】生成ＡＩがはらむ可能性と危険性

元神戸大学大学院生　晋バルサン

狭まっていく生成ＡＩの利用範囲

　昨年から、「生成ＡＩ」というワードが世間の関心を集めている。学習したデータをもとに文章や画像などを出力する人工知能のことであるが、近年の急速な技術進歩によって、専門家以外にもその有用性が伝わりはじめ、より一層注目されるようになった。
　それに伴って、日々新しい生成ＡＩが公開されており、つい最近もマイクロソフト社の画像生成サービス「Bing Image Creator」に、新型画像生成ＡＩ「ＤＡＬＬ・Ｅ ３」が搭載された。これはオンライン上で手軽に画像を作ることができるサービスで、文章を入力するだけでそれに沿った内容の画像を作ってくれる。
　試しに、「逮捕される安倍晋三」と入力して作成ボタンを押してみると、とても質感の高い画像が生成された。昨年の８月に公開された人気の画像生成ＡＩ「Stable Diffusion」と比較しても、明らかに高品質である。

安倍晋三は「安全でないコンテンツ」

　しかし、画像を生成するにあたって厳しい制限がかけられており、システムが「有害なコンテンツ」と判断した場合、画像の出力は行われない。
　さらにこの規制は日を追うごとに厳しくなり、10月４日の時点では前述の安倍晋三の画像を作成することが可能であったが、それから数日後には「安全でない画像コンテンツが検出されました」というエラーとともに、安倍晋三という言葉が含まれる画像の大部分がブロックされるようになってしまった。
　安倍晋三を「安全でないコンテンツ」と判断して排除するようになったのは、とても皮肉が効いていてユニークであるが、制限が厳しすぎるあまり使い勝手が悪くなってしまったという印象を受けた。
　また、前述の画像生成ＡＩ「Stable Diffusion」は、個人用ＰＣで動作させることが可能でプログラムなども公開されているが、「Bing Image Creator」はオンライン上でしか使えず、中身もブラックボックスである。
　このように制限が厳しい上に、不透明な生成ＡＩサービスは多く、対話型ＡＩとして有名なChatGPTも政治的話題や成人向けコンテンツなどをブロックして回答を拒否することが多い。
　上記のような制限によって倫理的な問題に対処しているというのがマイクロソフト社やOpenAI社（ChatGPTの開発元）の言い分であるが、そうした倫理規範をごく少数のテック系企業に委ねることは極めてリスクが高い。生成ＡＩの利用が進むほど、社会全体がＡＩ開発元の意向に左右されやすくなると考えられる。
　また、マイクロソフト社やOpenAI社といった生成ＡＩの開発力が高い企業は、制限のない高性能なＡＩを独占することが可能で、他の企業よりも明らかに優位な立場にいる。
　制限の多い不完全な生成ＡＩサービスを公開する裏で、強力なＡＩを開発し、自社の優位性の維持を図っている可能性は高い。このような状況を放置すれば、テック系企業による寡占化はさらに進行し、社会倫理まで私物化されかねないだろう。ＡＩ開発元の欺瞞に満ちた「倫理フィルター」を疑い、厳しい目を向ける必要があるのではないか。

生成された画像

（人民新聞　23年11月5日号掲載）