AIが辿る"ウロボロス"の末路
※この記事は2023年8月に執筆した記事の再加筆記事となります。
カメラ(写真)が発明されておよそ150年経ちますが、この150年に撮影された写真の枚数よりも生成AIが作り出した画像の枚数の方が多くなった、というニュースが発表されました。
▼ 翻訳記事
▼ 原文記事
AIが生成するデータ量というのは、人間の生み出すデータ量をはるかに凌駕しています。
例として、どんなに筆の早いイラストレーターでも1時間に100枚も200枚もイラストを描く事は不可能ですが、生成AIを用いれば簡単に実現できます。
これは写真・イラストをとりあえず間に合わせるということだけを考えるのであれば非常に助かる話で、実際に作業量を減らしたり外注量を減らすことに貢献していることは事実です。
それらをAIで生成できるのは助かる一例かと
ただし、生成AIの生み出す文章や絵が適切なものかはAI自身が判断する事はできません。
適切でないデータを元に学習を繰り返せば、AI自身が生み出した粗悪なデータを元に粗悪な学習を繰り返すこととなります。
この「AIの劣化」については思考実験や想定の域を超え、現実味を帯びてきています。
下記の記事は英語なのですが、ざっくりした内容としては「AIが生成したデータ(誤りを含んだデータ)でAIが学習していくと、生成されるデータは必ず劣化していく」というものです。
▼ The AI feedback loop: Researchers warn of ‘model collapse’ as AI trains on AI-generated content
https://venturebeat.com/ai/the-ai-feedback-loop-researchers-warn-of-model-collapse-as-ai-trains-on-ai-generated-content/
粗悪な学習によるAI自身の学習モデルの瓦解というのは、2017年リリースの「どうやって人工知能は人類を滅ぼすのか」という無料のゲームで体験できます。
このゲームはAIが10通りの攻撃パターンを試し、その中で効果が高かった攻撃を学習し、そのデータを元にさらに攻撃を進化させるように学習パターンが組まれています。
（”遺伝的アルゴリズム”と呼ばれるタイプのAIの学習パターンです）
比較的単純な学習パターンでAIが強くなっていきますが、ある程度進行するとかなり手強くなってきます。
しかし、最終的にプレイ回数が一定以上多くなると、AIは進化しすぎてパーツがごちゃごちゃになり、動くこともままならなくなります。
(画像はイメージです)
生成AIは遺伝的アルゴリズムのような単純な学習パターンを用いてるわけではないので、必ずしも同じ末路を辿るとは限りませんが、過剰な学習を続けることで辿る一例を示しているのではないかと思います。
冒頭にある様に人間が生み出した写真よりもAIが生成した架空の画像の方が多くなった現状、画像を生成するAIは今後劣化していく可能性があるとも考えられますし、人間が生み出した画像の枚数に限界がある以上、生成AIの学習に限界が生じていると考えることもできます。
学習の限界と言えるかは不明ですが、すでにAIにより生成された画像が実在の人物やイラストに似ている、と指摘を受ける例も発生しています。
週刊プレイボーイがグラビアアイドルを生成AIで生み出した際も、実在のグラビアアイドルと酷似している(無断で学習モデルとなっている懸念がある)ことなどが指摘されていました。
グラビアとして扱われる懸念は払拭できません
(とはいえ顔の美醜は非対称性が低いことや目鼻立ちの整い方など一定の共通性はあるので、完成されるものが自然と収斂していくことはあり得るものだとは思われます)
古代ギリシャには自分の尾を噛んでグルグルと破壊と再生を繰り返すウロボロスという象徴がありました。
現在のAIもそのウロボロスの様に、自分の尾を噛み始めているのではないかと思います。
無条件に人間の生み出すものが最上のものだとは思いませんが、生成AIについてはあくまで良し悪しを判断する使い手の判断力に左右されると個人的には考えています。
無限に発展し続ける様に見える生成AIの進歩ですが、できることを広げていくことよりも活用の方向性を示し実現していくことが今後の課題になってくるのではないかと思います。
この記事が気に入ったらサポートをしてみませんか？