生成AI無断学習禁止の弊害

今年はiPhoneを買うかな。生成AIが好きなので。

アップル、iPhone 16から全面的に「生成AI」導入で戦略転換 | Forbes JAPAN 公式サイト（フォーブス ジャパン）

ただAppleの生成AIがどの程度のものかは気になる。生成AIはデータの質と量を求めるわけだが、Appleはこれまでプライバシーを重視する発言をしているため、量を確保することができているか心配なためだ。

とはいえAppleがプライバシーを守るのは他社からという意味であって、自分たちはプライバシーを守りながら学習したと言い出す可能性は高い。俺は機械学習に個人情報を使うことに寛容的であるので、それで生成AIの性能が上がるなら賛成だ。

生成AIと学習というと、Twitterで「無断学習反対」だとか、「クリーンなデータのみで作ったものしか認めない」なんて意見をよく見る。ここにツイートをいちいち貼ったりはしない。どうせ今日も誰かが言っているし、明日も言っている人がいる。

一見するとこれは正しそうだし、それがあるべき姿なように思える。しかし本当にそうだろうか。歴史を振り返ると、良かれと思って作った制約が、むしろ悪い方向に働くというのはよくあることである。無断学習を禁止し、生成AIはクリーンなデータでしか作れないとなった時、これが悪い方向に働くということは無いのだろうか。