見出し画像
Photo by ポール・セザンヌ / メトロポリタン美術館

画像生成ＡＩが大人になる日

hiroki

Stable Diffusionの開発会社の代表者がアーティストを軽視する言動をしたということで、画像AIに関する時計の針が加速しそうな予感がしたので未来予測的なことを呟いてみる。なお、自分は法や規制の専門家という訳ではなく、ＡＩの専門家ですらなく、単なる素人インターネットウォッチャーの予想であるということは先に明記しておく。

発端はnalgamiさんのこのツイート。

まず、一般的な傾向として、テクノロジーは常に法律や規制に先行する。世の中に大きな影響を与えるテクノロジーが登場したとき、しばらく野放しな時期があり、その時には清濁巻き込んで独特の輝きを持つ。多くの人が熱狂し、そのテクノロジーの功罪を語りながらも社会に大きなインパクトを与える。いわゆる「青春期」が訪れる…が、そのうち規制が追いついて社会との折り合いがはじまる。

テクノロジーやプラットフォームの青春期は社会がテクノロジーと同化するにつれて短くなっている。この流れは早まることはあっても遅くなることはない。世界的に見れば規制側もテクノロジーを理解した人達が増えており、インターネット黎明期と今では規制が作られる速度が全然違う。DeFiやNFTの時の速度は速かったし、今後もこの速度は速まるだろう。

この青春期はテクノロジー側が自由と利益を謳歌出来る期間だ。が、ほどなく規制が始まってテクノロジーを提供する企業は社会に対する責任を取らなければならなくなる。Appleにしろ、DeNAにしろ、ニコニコにしろ、Youtubeにしろ、誰もがその道を通っており、例外はない。大いなる力には大いなる責任が伴う。この責任を取るようになったフェーズを「青春期」に対して「青年期」とでも呼ぼうか。大人の始まりである。

SDの開発元は、音楽に対してのAIモデル「Dance Diffusion」に対しては、著作権フリーコンテンツのみを使うと明言したらしい。

これはつまり、SD側が暗にアーティストの「ＡＩに学習されない権利」を認めてしまった、という事を意味する。もし認めていないならばなぜ商業音楽を対象から外したのか説明が付かないからだ。実際には商業音楽は弁護士を山ほど連れてこられるからリスク回避のためなのだろうが、では画像はなぜそうしないのかという一貫性がなくなってしまった。

アーティストの「ＡＩに学習されない権利」はこれまで存在しなかった文脈だが、そう遠くないうちに守らなければならない権利になるだろう。さらに、「学習の影響を受けている可能性がある画像を配信停止させる権利」「学習されているかどうかを調べる権利」などもアーティストの権利として合わせて獲得されるだろう。

欧州委員会が定めたGDPRによって、実質的に全世界のインターネットサービスは個人情報の取り扱いに対する対応を迫られた。つまり、世界が繋がっていることで、欧州委員会が決めたことを実質的に世界中が守らなければならなくなった。こうした委員会はそのくらいの力を持っている。逆らえば手厳しい制裁を受ける。

ＥＵは美術に先進的な国を多くもつ地域だ。そんなＥＵとってはアーティストの権利は積極的に守らなければならない資産だと言える。テクノロジーがアーティストやアート資産への尊敬を欠いていれば、それに対する強い規制を作る情熱やサポートも高まるだろうから、そうした権利は否応なしに守らざるを得なくなる。そしてSDのようなテクノロジーとその提供会社は「青春」を卒業して大人にさせられる。昨今の情勢を鑑みると、大人になるまでに残された時間は長くて２年というところではないだろうか。

多分、その辺は欧州あたりが先行してひとつの形が出来たら、業界側が自主規制を始めてなんか形になっていくんだろうと予想する。
その結果、おそらく以下のようなことは起きるんじゃないかと思われる。

１つ目。AI生成された画像に対するメタデータ添付の義務化。昨今の画像ファイル形式は、任意のデータ長のメタデータをヘッダーにつけられるので、「ＡＩ生成されたこと」や「使用されたモデルの名前とバージョン」「モデル自体を指すGUID」なんかは最低限埋め込まれることになるだろう。また、後述するが、モデルに対する問い合わせ窓口のURLも埋め込まれるかもしれない。

2つ目、AIモデルおよび生成結果に対する責任の拡大。AIモデルを使用する企業は、利用モデルに対する法的責任の表記と、利用モデルの学習済みデータ一覧に対する検索が出来るデータベースの提供、そして特定の画像に対する学習データからの除外申請を受け付ける窓口を用意する義務を背負うだろう。
アーティストは自分の画像がモデルに使用されているかを検索することが出来、もし使用されているならばどういう経路で許諾されたのかを把握出来（たとえば特定のイラスト投稿サイトの利用規約で同意した等）、そして除外申請をすることが出来るようになる。
画像を共有するプラットフォームは、こうした対応を適切に行っているAI以外で生成された画像の投稿を禁止するという要項を利用規約に盛り込むことになるだろう。

ついでに、画像メタデータは一般的なWebブラウザーでサポートされ、右クリックでAIモデルの情報を参照し、調査可能になるだろう。

人類はすでに画像程度なら１億枚だろうが１０億枚だろうが収拾、保存、クエリ出来るシステムを有しており、一企業がそれを保持するのはまったく不可能ではない。それを払って運営するのが大人の責任ということになるだろう。

3つ目は継続的なゼロからの再学習とモデルの更新義務。学習済みモデルから特定の画像だけの影響を除去することは困難なので、一定の期間毎にDBを最新の状態に反映して学習のし直しをするという形態を取らせられるだろう。もしそうなれば、これがキッカケで「より小さいデータセットでよりよい結果を生む」という方向の研究が花咲くように思う。モデルデータはシステム的に頻繁な更新を常とし、基本、APIを通すか最新版をDLして使うという形になるだろう。また、SSLのようなコンセプトで、学習モデルは定期的に「期限切れ」となり、またこれを検証するための認証システムも整備されるのではないだろうか。

４つ目はこれらのコンプライアンスに沿っていない「違法AI」の頒布および利用の禁止。
ここまで整備されれば、画像を投稿させるプラットフォームが対応することで実質的な締め出しはそれなりの速度で可能となるように思う。
ばら撒いちまえばもう分からんという考え方で行動する人々も出てくると思われるが、AIで生成された画像はおそらくまたそれを判別するAIによって駆逐可能で、そういう戦いが行われていくのではないか。かくして「違法ＡＩ」「脱法ＡＩ」のようなものが生まれ消えしたりしつつ、Webから(SSLのない)HTTPが消えたように、一般的には「適法ＡＩ」でなければ危なくて使えないという世界になるだろう。コンプライアンスに沿っていないＡＩは、自宅で個人の楽しみのために使う権利は残されつつも、インターネットの世界や商業の世界で使うことは難しくなるだろう。

ここまで要求されるだろうか？と思うこともなくはないが、アーティストの権利保護とＡＩの共存を考えると、このくらいの対応はむしろ不可避なのでないだろうか。ＡＩ企業が次のビッグテックになる日が来るならば、なおさらだ。

画像生成ＡＩの有用性は凄まじく、しかし現在これが社会に与えている影響もまた大きい。私たちはそのように社会にインパクトを与えるテクノロジーをいくつも見てきたが、生き残ったテクノロジーは大人の階段を上った。

ＡＩもまた程なく、大人の階段を登るだろう。多分、そう遠くない未来に、社会が受け入れられる形を模索しながら。

この記事が気に入ったらサポートをしてみませんか？