『AIの時代と法』(小塚荘一郎)

またしても自分が西洋よりの考えが刷り込まれているのだなと感じた。
・個人がデータ主体である考え方がしっくりきた
・AIを"電子人"とみなす考えが納得できる

巨大に溜まったデータにも主体が発現する。それを構成するデータ1つ1つが誰かによって提供されたもの。それなら (a, b) = (AI, データ提供者) は (a, b) = (企業, 社員) に似ているのではないか。a が提供する利益や損失は b に還元され、a が負う責任は b が背負う。このように設定してしまえば、形式的な問題は解決される気がした。しかし、ほぼ無制限にデータに対する責任を負わされることになるので当然却下になるだろう。あと気軽にデータ提供できなくなる。(アホな考えだった…おそらく統一的な形式にこだわってしまう人間だからだろう)

という具合に、つらつら思ったことを書き並べるので悪しからず 。

追記: ちゃんと整理できたら焼き直そうと思います。

AIに学習させたい世界線

　自動運転を実現するため、VRでシミュレーションをする取り組みがある。この考えが伸びて、AIが学習してしまう現実のバイアスを回避するために、一度 "現実を模した理想的な学習空間" を構築してデータを採取するなど考えた。個人的にいい案ではないかと思う。バイアスの問題に加えて、現実で採取するデータはいろんな理由からノイズが乗っていたり欠損していたりするからだ。まだAI社会は発展途上だからこそ、あるAIサービスの実現にはどんなデータを使う必要があるのかなども分からない場合も多い。わかっても試してみたい種類のデータがいざとなるとプライバシーの問題に引っ掛かる。そんな面倒で動的な環境で悩みとまるよりも、現実にそっくりのVR社会を実現してデータ収集した方が良いのではないか。

"ルール=コード"の上位にくるべきモノ

　書評ではコードと法は違うと述べたが、多分これは今までの話で、著者のいう予想が正しいのなら、つまり法の領域がコードに置き換わるのなら、結局どこまでを明文化するという問題になる。
　技術的に 可能/不可能 によるルール(=コード)が 許される/許されない というルール(=法)よりも先行するのなら、そしてコードが法に替わるというのなら、メタコードなんて言うべきだろうか、これが技術としていつか現れるのではないかと感じた。"最大限~につとめる"などの条項をどう実装するかはさておき、こういうコードでなければ実行できないフレームワークなら作れるだろう。とくれば技術の標準化につながる。いや今日でも議論としてあがっている。技術者ならきっちりかっちり決めておきたいだろう。規格書をはじめ、基本的に明確なルールがあると開発効率は格段に上がるからだ。
　という具合にーー説明できたとは思えないがーーとにかく開発側は明文化したいのだが、明文化しないことが今後の社会が発展する上で大事というのは正直？という感じがする。

効率と曖昧さは本質的に矛盾する

　ここでの曖昧さは、完全にコードに任せない、あるいは明文化しないと意味で使っている。AIにやってほしいことがあるからコードに任せようとするのだろうから、効率と曖昧さは矛盾しているはずなのだ。砕けていうなら、物事をガンガン進めたいのだけど、そうするとまずいから慎重にならないといけない。中庸というやつを要求されている。

性善説から性悪説へ移るのか

　なんかかっこいいので、こういう見出しにしたが、性善説or性悪説というより、利用者を信用するかどうかという話。

　世の中が複雑になってきたし、もっと複雑になって行くという予想は共感してもらえるだろうか。共感してもらえるのなら 、自分のデータが誰にどのように利用されているのか、ちゃんと把握する人が少数だと思うだろうか。この2点を認めるのなら、たった一人の技術者による違反行動がどれほどの問題なのかわかる。
(ハッカーによる攻撃で巨額の損害が社会にもたらされるなどいいケース)

　本来なら技術者に限ったことではない。利用者に関しても、ある程度の理解と意識を求められるべきであるが、そんな要求はなかなか通らないので当然技術的に制限をかけられる。この現象はchatGPT等に現れている。逆に、制限ができるというのだから安全とも言える。なんせ物理的な形を取らないのだから。子供が電車のレールに石をおいただけで大事故につながりうるが、全国のレールに全てガードレースを短期間で設置できたのか。飲食チェーンの調味料ボトルが舐められないようにできるのか。(いやできるのかもしれないが)

　(近所の回転寿司のレールが消えて悲しかったです…..)

　昨今のニュースと本書を読んで、また今までの知識と合わせて、利用者を信用しないことを前提とする流れが広がるのだと確信した。そうくれば当然性悪説に近づき、信用スコアリングに似たシステムが導入される。その究極系がいわゆるディストピアと呼ばれる社会になる。