生成型人工知能とインターネットの相互作用

以下の論文によると生成型AIで作ったコンテンツが世の中に流通すると、そのコンテンツをAIが学習する。
AIが作成したコンテンツをAIが学習するとフィードバックループにより生成物が劣化するらしいとのこと。

https://arxiv.org/abs/2306.06130

この研究では、人工知能（AI）が作り出す画像やテキストとインターネットの関係について調査しています。最近のAIツールは、リアルな画像やテキストを作り出すことができ、これが社会にどんな影響を与えるかが話題になっています。これらのツールは、インターネット上に公開されている大量のデータを使って動作します。そして、これらのAIツール自体が新たなデータを作り出し、それがまた次のAIモデルの訓練に使われるという状況が生まれています。
つまり、新しいAIツールは、人間が作ったデータとAIが作ったデータの両方で訓練されることになります。これにより、AIとデータの間にフィードバックループが生じ、それがどのような影響を及ぼすかが問題になっています。例えば、新しいAIツールは、実際のデータとAIが生成したデータの混合物で訓練されたときにどう振る舞うのか、新しいデータで進化し改善するのか、それとも逆に劣化するのか、などです。
この研究では、この問題を調査し、いくつかの初期結果を報告しています。結果からは、AIが作ったデータを使って新しいAIモデルを訓練すると、生成される画像の品質や多様性が時間とともに劣化する可能性があることが示されています。これは、AIが生成したデータを新しいAIモデルの訓練に使うことが、必ずしも良い結果をもたらさないかもしれないということを示しています。
(ChatGPT翻訳)