テッド・チャンによる生成AI批判と自由意志の話
◆前回の記事の短い補足
前回の記事に貼ったリンクの記事内で、テッド・チャンの韓国での講演のサイトを紹介しましたが、私はこれを自力で発見できませんでした。ネットでテッド・チャンファンの方が紹介しておられたのを、勝手に共有しました。
これは自分が、チャンの行動をすべて追う探索能力がないことを示しています。
だから私は「紹介する活動をしてます」と言いましたが、その能力を信頼しないでください。活動とすら言えません。継続するか不明。でもファンではあります。
また、自動翻訳も本来、使うのは誠実ではありませんでした。良訳にはなりません。
実際、「根本的に非人間化するテクノロジーである」のニュアンスに不満があります。「根本的には、非人間化のためのテクノロジーである」と言い換えたほうがいいかもしれません。（やっぱり合ってるかも？根源的に非人間化するほうでいいかも？）
◆次のチャンの動向の予想
ところで、チャンは発言毎により苛烈なAI批判に踏み込んでいく印象を受けますが、次はどうなるでしょうか？
チャンは人間のアーティストのみがするものとして、「選択」というキーワードを用いました。しかし、機械は選択をしないのでしょうか？チャンはその説明のために次は「自由意志」という概念を使うと私は予想します。
その根拠は次の段落を読めばわかります。
◆よくみる反論への再反論
現状、チャンの批判があまり厳密で専門的ではないという評価が考えられると思います。しかし、今は一般人に対して常識の範囲内で語りかけるのも有効かと思います。たとえば以前のchatGPTに対する、「web全体のテキストの不可逆圧縮されてぼやけたjpegのようなもの」という比喩も、万人がわかるとは限りません。興味のない人には届かないでしょう。だから今は、できるだけ簡易な言葉で話している印象を受けます。これが広く知られるべき人権問題だからです。
しかしこれらの簡素な説明で、AIユーザーが納得しているとは思いません。
チャンに対する、現在観測されている反論には、〝テッド・チャンは「選択」をキーワードにAI批判をしているが、生成AIだって選択していると言えるのではないか、機械に選択が出来ないとなぜ言えるのか〟という感じのものがあります。2～3回見ました。
これは雑に再反論が出来て、ここでの選択は自由意志を持った人間の意識にしかできないものと、単に定義すればいいわけです。機械がするものは入力に対応する出力でしかないのであり、内部がどれだけ複雑であったとしても、クソデカ関数でしかありません。（画像生成AIが同じ入力に違う出力を返すのは、多分拡散モデルが毎回違うノイズを疑似乱数から作っているからではないでしょうか？知らんけど）（間違ってたらすみません）
これは自然現象にも同じことが言え、例えばポロックが絵の具を板に流すとどこで分流するかわかりません。人間には予想不可能な分子等の相互作用がそれを決定しますが、これは選択とは呼べません。無理に言うなら、物理法則さんに「選択」してもらっているように感じますが、それを選択と呼ぶのは擬人的で、実際は決断者がいません。画家の選択を初期値として、結果までの過程が決定論的に実行されるというイメージです。（量子どうこうの細部は考えません）
ここで、計算機内のシミュレーション・物理演算と、現実の物理現象は、意思が介在しない点では同じだということがわかると思います。（だからクリエイターにとって3Dソフトはいいけど、他人の選択が入ってくる生成AIは駄目なのです）
それら自然現象や計算は、ここでの定義では「選択」ではないのです。
次にこのような反論が予想されます。実際この世はすべて決定論的で、人間の脳もクソデカ関数に過ぎず、真の意味で選択しているとは言えないのでは？ということです。しかし、そのような議論はここでは踏み込まないでいいでしょう。（そこに限界まで踏み込んだうえで人間の主体性を擁護するのがテッド・チャンやグレッグ・イーガンですが）（ほぼ自由意志の否定まで行ってますが、なぜか最後には人間が自由だと結論づけている）（踏み込みたい方は、それらの小説を読んでください）
踏み込まずに考えるならば、単に、法的には自由意志のある主体とされているのが人間であり、だから人間の行動は自発的な選択であり、その責任を負わなければならないという感じです。それは人権の発生源となる、普遍的な決まり事ではないですか？「人間を入出力のある決定論的なプログラムとして扱ってはならない」と言い換えられます。
法的には、人間は選択しているとされ、機械はしないとされます。今はそれで十分なのです。
（人間の脳には量子論的な神秘性があるみたいな話は現在では否定されています。心身二元論やオカルトに力を借りる必要はありません）
（例えば、システム論であるオートポイエーシス論は、人間を自律的システムと見做し、他律的システムである機械と明確に区別します）
とはいえここで次の問題が発生します。生成AIは人間の「選択」の集積である絵画のデータベースから訓練されているのです。これは選択を行わない機械といえるのでしょうか？もちろん法的には言えます。少なくとも、この選択はユーザーではなく学習元の著作者由来のものではあります。自由意志による選択が、統計的に分析され、他人の選択と一緒くたにされ、機械的な計算結果と同格にされてしまいました。このこと自体が結構非人間的な感じがしませんか。これを単なるフォトショップと同じ道具と呼んでしまうことにも問題があります。こういった、著作物に表現された自由意志の痕跡を守るために、著作権法や著作者人格権があるのではないですか。
先程得られた、「人間を決定論的なプログラムとして扱ってはならない」という教訓に反しています。
ここからはちょっと突飛なSF話になります。
こうした人間の選択に対する解析が許された場合、AIの人たちが好きなシンギュラリティ後や遠未来にも困ることになります。人間が計算機内で永久に苦痛から開放されて暮らすのですよね？異論はありません。でも、特定の入力に対する人間の出力が解析されて逆算された場合、自分のコピーが無限に拷問されるということになりかねません。自分というプログラムを演算するメモリの領域が不可侵であるだけではなく、自分の出力結果も解析対象として扱われてはなりません。（これ合ってますか？）（この段落は適当なので無視していいです）
とにかく、人間の選択をひとまず特別扱いし、機械的な解析から守ることが、根源的には人権を守ることにもつながるということが、なんとなく雰囲気的に伝わったと思います。
まだ不完全な説明しかできませんでしたが、難解で突飛な議論にならずとも、実は簡易な言葉で決着するのではという気もします。
「欧米はキリスト教だから神の被造物である人間の特別さにこだわるのでAIを見下しがち、だけど日本は無宗教だから機械である生成AIを差別せずに認めるよ～」みたいな言説もありますが、テッド・チャンやグレッグ・イーガンがキリスト教を痛烈に否定してきた作家であることを思い出してください。彼らはそういう議論を経た末に人間のアーティストを擁護し、生成AI企業を見下しています。
生成AIへの耽溺は、無宗教や合理的態度から生まれるものではないと思います。アニミズムや終末思想と言いたくなりますが、そういうものでもなく、単に懐疑的思考の欠如から生まれるのでは。
日本人はドラえもんやアトムから得た教訓によってAIとの共存を望んでいると言う人は、実際には知性ではない、電力と無から著作物を無料で産み出すとされる、著作権版の錬金術マシンに没頭するのび太が登場する物語が、どんなオチを迎えるかについて想像するべきではと思います。
この記事が気に入ったらサポートをしてみませんか？