生成AIによる「新証言」という問題：創作のための時事勉強会25

紅藍（カクヨムで新作『偽王子事件』公開中！）

※注意
　本記事は時事的問題について、後で振り返るためにメディアの取材や周囲の反応を備忘録的にまとめたものです。その性質上、まとめた記事に誤情報や不鮮明な記述が散見される場合があります。閲覧の際にはその点をご留意ください。


事例概要

発端

※関東大震災から100年という節目に、絵画や史実などをAIに学習させ被災者の証言を新しく作り出すプロジェクトを企画。

以前にも似たような

※「ひろしまタイムライン」とは「現代にSNSがあったら」というコンセプトのもと、新井俊一郎という人物の残した資料から想像を膨らませ生み出した「シュン」という人間にSNSをやらせる企画。

※問題が指摘されたのは一部表現に差別的なものが含まれていたため。あくまで当時を再現したもので、一面では事実であり、かつNHKの企画であるという側面を利用し差別的な言動を流す行為は犬笛に近い。

※早川氏の指摘はひろしまタイムラインにしろ今回にしろ、物語を作り流す中で「語っているのは誰か」「その語りにどんな思想性があるのか」という点の問い。もっと言えば「誰が何の目的でそれを語っているのか」を架空の「シュン」やAIを盾にすることで誤魔化しているのではないかという指摘。

個人見解

　AIの抱える問題のひとつが、AIの生じさせた自体への責任を誰が取るか、という点だ。拡張知能（Augmented Intelligence）であれば最初から判断の主体は人間であると想定されているが、人工知能（Artificial Intelligence）の場合、AIが判断するところまでが機能として想定されている。だがAIの判断をそのまま利用するかどうかは、誰が確認しているのだろうか。

　つまりAIを利用することで「これはAIがはじき出したものなのでそれを公開することに我々は責任を持たなくていい」という誤った認識があるのではないか。これは差別問題における「事実の提示なら差別ではない」という誤った認識と同根の問題でもあろう。例えばある外国人が犯罪を犯したとして、その人が外国籍であることは事実だが犯罪報道に必要性のない外国籍を報道すれば、それは差別扇動であると考えられる。今の日本で「外国人の犯罪」という「事実」がどう使われるかなど明白だからだ。分からないならジャーナリストは止めた方がいい。

　同時にAIがはじき出したものは一定の事実らしく見えるが、それをそのまま出すかどうかはまた別の問題である。「AIが出したものだからそのまま出しても責任はない」とはならない。

　また早川氏の指摘のように、AIの利用は「AIを使ってその物語を生成する誰か」の欲望を脱臭する目的があるだろう。物語を語るのは誰で、その誰かは何故その物語を語るのか。それを「AIに資料を読ませたらこんな物語を出しました」で誤魔化そうとしているわけだ。実際には我々は、その物語がAIの出力したものであるという証拠すら持っていないわけだが。

この記事が気に入ったらサポートをしてみませんか？