生成AIと「真理リスク」について考える

昨今話題を集めている生成AIですが、これには大きなリスクがはらんでいることもわかっています。具体的には以下のようなものがあります。

画像生成などにおける「著作権リスク」
文章生成における「真偽性リスク」

それぞれ解説します。

まず、画像生成における著作権リスクですが、これは言わずもがな「絵柄割れ厨」問題に直結するものです。学習元のデータが著作権を侵害している場合、ほとんどすべての生成AIによって得られたイラストは著作権侵害物になります。

もちろん、今の段階では「生成AIによって作られたものは著作権がない」とか言われたりしますが、アメリカなどではこれをめぐる裁判なんかも行われており、現状岐路にあると言ってもいいでしょう。

そして、二つ目の文章生成における真偽性リスクについてですが、これは生成した文章が「本当かどうか」や「正しいかどうか」について考えるときに生じる問題です。この手のＡＩは基本的に知りうるデータを学習していますが、「真理的に正しいかどうか」はわかりません。

まだ5次元があるのかどうかもわからない上、マルチバースがあるのかどうか、あったとしてそこはどんな場所かわかっている、知っているなら、それをもとに学習すれば「より真理に近い」といえるわけですが、地球上のデータ、乃至は今の段階であるデータではじき出される答えにどの程度の真理性が伴っているのかは、不安に残る部分があります。

文章生成は著作権侵害のリスクはないですが、本当かどうかリスクはあり、画像生成はその逆ということで、どちらも問題があることには変わりません。

今後の生成ＡＩの展開は雲行きが怪しいところも否定できないでしょう。つい最近バイナンスという巨大なクリプト取引所が「ボーダーレス取引所」であることを米国から否定されたように、今後もテクノロジーのある一面においては社会的リスクとしてマイナス評価を食らうこともあるでしょう。

それを織り込んでいる必要性はユーザーにはあるかもしれません。