DeepMindの研究チームは、現在の大規模言語モデル（LLM）は人間によって生成されたデータに過度に依存しており、LLMの発展にとって望ましい状況ではないと考えました。

DeepMindの研究者らが有効性を検証した、LLMに自ら高品質な訓練データを生成させる「自己学習」 | AIDB

人間によって生成されたデータに過度に依存？
「過度」がどのくらいなのか、その程度が分からないけど、人間によって生成されたデータに依存するのは仕方がないのではないか。
だって、人間の世界を扱うんだから。
違うんかな。