再帰の呪いで生成AIの精度が激減・多様性が消滅するかもしれない
ChatGPT等の生成AIは、インターネット上に公開された長年の人間のクリエイティブな活動結果によって創造されたコンテンツデータをインプットにして、機械学習を行い、予測モデルを構築しています。
しかしながら、ChatGPTや画像生成AIStable Diffusion等の生成AIが作り出したデータがインターネット上に広まり、生成AIがインプットする学習用データ自体も、生成AIが作り出したデータとなるケースが多くなってくることが想定されます。
参考：生成AIのデータがインターネットを汚染、基盤モデルを崩壊させる「再帰の呪い」 日経クロステック
上記で英国・カナダの研究が紹介されており、「前の世代のモデルで出現確率が高い事象や言葉が後の世代では過大評価され、逆に出現確率が低いものは過小評価されることが分かった。」という結果がでています。
この結果が正しければ、生成AIから出力されるアウトプットは、時間の経過とともに多様性が失われて行くことになります。ネット上のどこを見ても、似たような文字情報、画一的な画像情報等の氾濫している世界になるかもしれない、とういことです。
もし、生成AIからのアウトプットから多様性が失われていくならば、人間自体が創作するコンテンツの価値の重要性が、今まで以上に高まっていくかもしれません。
頂いたサポートは、Noteでの創作活動に活用させて頂きます。