イラストを読み込み、機械学習させ画像を出力するサービスを提供することは罪なことか

はじめに

昨今、様々な分野で機械学習が注目されています。特に今多くの人の目を引いているのは、イラストを生成するサービス。Midjourneyなどで生成された画像がTwitterでバスりにバズったのは記憶に新しいですね。
さて、そんな空前絶後(?)の画像生成サービスのブームの真っ只中、とあるサービスが公開されました。そのサービスの名前は、「mimic」

mimic

なんでも、読み込んだイラストの特徴を捉え、あたかも同じイラストレーターが描いたかのような画像を出力してくれるらしい。自分は「お〜、便利で扱いやすそうなサービスが出てきたな」と好意的に受け止めていましたが、どうもそうは思わない人もいるようです。ツイートを見たとき、反応はファボ1万とリツ1万、ほぼ同数でした。これはなにかあると思い、リプライを覗いてみると…。

「イラストレーターの権利が侵害される」
「これは一体誰が得をするサービスなんだ」
「なぜこんなものを作った。イラストレーターには害しかない」
「悪用されるのがわかっているのに公開するのか」

…といったようなものが多く見られました。ここで、私はふと思いました。
「ツールを作って公開した開発者に、罪はあるんだろうか」

父と話してみよう

自分一人では考えがまとまりそうもない。そんなときは博識超絶技巧プログラマーの父と話してみるのが一番。いまいち納得できなかった話を、とことん付き合い考えがまとまるまで相手をしてくれる、いい父親やで…。
以下、父との会話を要約して、ちょっとだけ盛って書いてみることにします。

大和「お父様、少々お話が」
父「ほう？」
大和「最近、機械学習ってはやってるよな」
父「せやな」
大和「いろんな画像を学習させて、お題に合わせて出てくるのとかおもろいよな。マシンパワーでぶん殴れるようになったおかげや」
父「せやな（天下無双）」
大和「ところで、こいつを見てくれ。こいつをどう思う？」
ここで話題の「mimic」のWebページを見せる。
父「ほー、おもろい。いいんじゃね」
大和「これ、ちょっと炎上してるんよな」
父「はぁ？なんで？」
大和「規約では自分の描いたイラストを読み込ませろと書いてるけど、技術的には他の人のイラストを読み込ませることももちろん可能なんよな。その結果生成された画像が、悪用される可能性がある、と批判されてるんよな」
父「ふーん。で？」
大和「え？それだけ？」
父「おう。どこに納得してないんや」
大和「うーん…」

開発者に罪はあるのか

大和「リプライを見てもらうとわかると思うんだけど、このサービスを開発、公開した人を批判するものが多いんだよな」
父「ふーん」
大和「これ見て思ってたんだが、開発者に罪はあるんかな？」
父「ない。あるわけない」
大和「ふむ…。ズバッと言い切るやん」
父「ないに決まってるでしょーが。んで？」
大和「開発者は悪用されるとわかってるかどうかはまあ置いておくとして、サービスを開発し、使える状態にしたわけよね？もしかしたら、これに他人のイラストを読み込ませ、学習させ、出力された画像を販売する人が出てくるかもしれない」
父「せやな」
大和「もちろん、勝手に他人のデータを使用して出てきた画像を売り捌いたやつが悪いのは当然のことなんだけど、そんなことをできるようにした人、つまり開発者には罪はあるん？」
父「ない」
大和「どうしてない、と言い切ることができるんや？」
父「これはあくまでツール。つまり道具でしかない」
大和「せやな」
父「入力に対し、結果である出力を返す。言ってしまえば、そういう道具なわけ」
大和「確かにな。でも、開発者に罪はないとどうして言えるんよ」
父「じゃあ例えばの話よ。職人が包丁を作りました。めちゃくちゃ切れ味が良くて好評です。たくさん売れて、みんな使っています。人の役に立てて、職人さんは嬉しそうです」
大和「いい話やん」
父「しかしある日、殺人事件が起きました。なんと、凶器は職人が作った切れ味の良い包丁でした」
大和「あらまぁ」
父「職人は当然、この刃物で人を殺すことができることは知っている。このとき、職人は悪いか？」
大和「いや、その包丁で刺したやつが悪いやろ」
父「じゃあ、これとイラスト生成の話、何が違うんや」
大和「んにゃぴ…」

道具とは「入力に対し、結果を返すもの」

父「要はな、イラスト生成してくれるやつは、道具なわけ」
大和「せやな」
父「道具は、入力に対し出力、結果を返すもの。これはわかる？」
大和「せやな」
父「イラストを学習しました。結果として画像を返します」
大和「うんうん」
父「包丁も同じ。包丁を使いました。結果、対象物が切れました」
大和「…ふむ」
父「道具の使い方を制限するのは不可能に近い。もしかしたら、開発者が想定しない悪用方法だってあるかもしれんやろ」
大和「確かにな」
父「大事なことやからもう一回言うぞ。道具は、入力に対し出力、結果を返すもの。どんな結果が生じるかは入力次第、つまり使い手次第なわけ。イラスト生成の場合は、結果をどう使うか。これも使い手次第やな」
大和「開発者が使い手を選ぶなんてのも難しいしな」
父「これでも、開発者が悪いと言えるか？」
大和「俺は言えないな」
父「そうやろ」
大和「道具を使った結果の責任を負うのは使用者。開発者はあくまでも作っただけで、その結果の責任を負う必要はない。ってことやな？」
父「そういうこと。車でもコンピュータでもナイフでも、便利な道具である一方、使い方次第では凶器にもなり得る」
大和「せやな。開発者に責任を追求するのが当たり前になってしまうと、何も生み出すことはできないもんな」

【補足】
大和「じゃあ結果として、直接なにかを攻撃してしまうような道具はどうなんよ。今回のとは全然関係ないけど、どっかのサーバーを攻撃する、みたいなのとか」
父「それは当然、開発者は修正か公開取り下げの義務がある。意図したものか、そうでないかは関係なく、そういうふうに働いてしまう道具なのであれば、開発者は対処しないといけない」
大和「イラストの場合はただ生成するだけで、出てきたデータを悪用するのは悪意を持ったユーザーだから、直接攻撃しているわけではない、という考えでOK？」
父「そーゆーこと」

まとめ

ざっくりではありますが、父との会話をまとめてみました。話した内容を覚えている限り要約して書いたつもりではありますが、国語力はカスなのでうまくまとめられていないかもしれないし、父が本当に伝えたかったことを自分がわかっていないかもしれません。
高専で情報工学を専攻している自分としても、今回の騒動で叩かれている開発者が不憫だなと思いました。きっと、誰かの役に立つ便利なツールを作りたい、という考えで作られたものだと思います。一技術者として、mimicを開発した方々を尊敬し、支持します。
ここまで読んでいただき、ありがとうございました。何かの参考になれば、幸いです。