Generative AIの発展とインターネット上の情報の価値の変化を考える

ChatGPT以降、AIの発展・普及は留まる事を知りません。Generative AIの発展によって、様々なコンテンツが自動的に生成可能となりました。
特に文と絵はすでに人が作ったものとの見分けが難しい段階に達しました。今後は動画、音楽、デザイン、Webサイトなども自動化が進むことでしょう。

さて、そこで問題になるのが、「AI製の情報の氾濫」と、「AIは主にインターネット上の情報を基にして学習する」という部分です。

この点を少し深堀りしてみたいと思います。

インターネット上にAI製コンテンツが氾濫する

近い将来、というかすでに片足突っ込んでいますが、今後インターネット上にはAIが生成するコンテンツが山のように生まれるでしょう。

そもそもAI以前から、SEO的に上位を取って短期的に稼ぐことだけを考えた様な「情報系サイト」がたくさん乱立しており、検索の邪魔になっているのは皆さんご認識のあるところかと思います。

そういうサイトを作る様な人はAIで作った"適当な"文章をベースにコンテンツを作る事を躊躇しないでしょう。推測ですが。
なので、今後そういった小銭稼ぎ目的のAI製コンテンツでインターネットがどんどん"汚染"されていくことが予想できます。

そうすると、既存の検索や集合知を売りにしているサイトは意味が薄くなっていくのではないでしょうか。Amazonのレビューとか、価格.comのレビューとかそういうのは特に顕著だろうと思います。
そして、まわりまわってそれを基に学習していくAIも、いずれ自分自身に汚染されていくと思われます。

インターネットの入口と出口がAIになる問題

その一方で、コンテンツをまじめにいちから作っている人にも問題が生じます。
情報をこれまでの様な検索サイトで検索せず、AIをベースに検索し、その出力もAIに依存する未来が来ると想定されます。

そうすると、（ChatGPTの様に）広告が出たりというマネタイズ可能なWebサイトに行かずにユーザーの用は完結するので「高品質な無料コンテンツを出して広告で稼ぐ」というモデルは崩壊します。
お金に限らず、承認欲求目的でも満たされない事になるでしょう。
生成AIは自らの一次ソースが生まれなくなってしまう環境を自分で作ってしまうのですね。

この点はChatGPT（GPT-4）に色々聞いてみましたが、課題の認識はあるが特に対策は無く、コンテンツ作る側がなんか考えるんじゃないの、くらいの回答しか出ませんでした。つまり対策は無いです。

一部、コンテンツ制作側にも実入りがあるようなやり方を考えている向きもあるようですが、まあ出力に対する「あるクリエイター個人の貢献割合」を割り出したりする事なんて不可能でしょうから、そういった世界的団体が一律配分でもするのでもなければ無理があるでしょう。（サム・アルトマン氏の理想にも重なる部分がありますが…）

じゃあどうなっていくの？

このnoteが実は良い例だと思っているのですが、今後は有用な情報は有料である世界に戻ると考えています。（これまでも「本」という形でありましたよね）

そして、有料コンテンツをAIに混ぜる際にはコンテンツ制作側が学習時点で課金させるような話になるでしょう。なぜかというと、前述の様にAI側が「学習しちゃった後」で使用に対してコンテンツ制作側を選別して支払うことが不可能で、事前にそれが実現しなければ持続可能性が保てないためです。

そして、前述の通り、情報そのものの価値はAIに吸い取られるので、コンテンツ提供側は「いい事を言っている」だけではマネタイズは難しくなり、それらを売る「ブランド」が必要になっていくでしょう。
つまりは「あの人が言っていた」や「あの企業の情報なら確かだ」という意味付けです。昔の世界に近しいですね。

そういった情報を総合したAI…おそらくはGPTベースで考えればLangChainや32kのGPT-4 APIでデータ投入して実現できる内容になるとは思いますが、それを有料で提供する知識人や企業が生まれてくると考えます。

データは価値があります。
だからこそ、勝手に使われるなら囲い込まれる。
ちょっと残念ですが自然な流れかなと思っていますが、皆さんどうお考えでしょうかね？
目先の権利問題などは問題視されていますがこの点ってあんまり議論を見かけません。手遅れになる前に色々まとまって社会的にコンセンサスが得られると良いな、と思っているおっさんです。