生成AIによる「新証言」という問題:創作のための時事勉強会25
※注意
本記事は時事的問題について、後で振り返るためにメディアの取材や周囲の反応を備忘録的にまとめたものです。その性質上、まとめた記事に誤情報や不鮮明な記述が散見される場合があります。閲覧の際にはその点をご留意ください。
事例概要
発端
これは歴史の捏造でしかないので……
— 箱[いぬ いぬ]🏳️⚧️(倉田タカシ) (@deadpop) August 21, 2023
日本赤十字社という大きな機関がやってしまうのがいっそう深刻でやばい。https://t.co/564T8IQxWd
びっくりひどいプロジェクトだが、念のためこの企画の監修者のクレジットを探してみたが、プレスリリースには書いてなかった:「絵の中にいる避難者100人が、当時の文献60万字を読み込んだAIの力を借りて、発災当日に経験したことをショートストーリーとして語ります」 https://t.co/1EEgYG0Zjo
— 早川タダノリ (@hayakawa2600) August 21, 2023
※関東大震災から100年という節目に、絵画や史実などをAIに学習させ被災者の証言を新しく作り出すプロジェクトを企画。
以前にも似たような
2020年のNHK広島「1945ひろしまタイムライン」で、「75年前の中学1年生・新井俊一郎さんの日記をもとに、今の広島の10代が想像をふくらませ、「シュン」として伝えます」としれっと公式アカウントがツイートしていたが(すでに削除されている)、それと同じ匂いを感じる。
— 早川タダノリ (@hayakawa2600) August 21, 2023
最近、こういう論法で「国民の物語」再生産を肯定する人を散見するが、「祖国の物語」を語る主体は誰であり、そのイデオロギー性はいかなるものかが常に問われる。その他方で、そこに介在する人間の思惑が伏せられたままで〈AIが紡ぎ出す「物語」〉が平然と流されようとしているわけか。 https://t.co/RnGEQG1Bgb
— 早川タダノリ (@hayakawa2600) August 21, 2023
※「ひろしまタイムライン」とは「現代にSNSがあったら」というコンセプトのもと、新井俊一郎という人物の残した資料から想像を膨らませ生み出した「シュン」という人間にSNSをやらせる企画。
※問題が指摘されたのは一部表現に差別的なものが含まれていたため。あくまで当時を再現したもので、一面では事実であり、かつNHKの企画であるという側面を利用し差別的な言動を流す行為は犬笛に近い。
※早川氏の指摘はひろしまタイムラインにしろ今回にしろ、物語を作り流す中で「語っているのは誰か」「その語りにどんな思想性があるのか」という点の問い。もっと言えば「誰が何の目的でそれを語っているのか」を架空の「シュン」やAIを盾にすることで誤魔化しているのではないかという指摘。
個人見解
AIの抱える問題のひとつが、AIの生じさせた自体への責任を誰が取るか、という点だ。拡張知能(Augmented Intelligence)であれば最初から判断の主体は人間であると想定されているが、人工知能(Artificial Intelligence)の場合、AIが判断するところまでが機能として想定されている。だがAIの判断をそのまま利用するかどうかは、誰が確認しているのだろうか。
つまりAIを利用することで「これはAIがはじき出したものなのでそれを公開することに我々は責任を持たなくていい」という誤った認識があるのではないか。これは差別問題における「事実の提示なら差別ではない」という誤った認識と同根の問題でもあろう。例えばある外国人が犯罪を犯したとして、その人が外国籍であることは事実だが犯罪報道に必要性のない外国籍を報道すれば、それは差別扇動であると考えられる。今の日本で「外国人の犯罪」という「事実」がどう使われるかなど明白だからだ。分からないならジャーナリストは止めた方がいい。
同時にAIがはじき出したものは一定の事実らしく見えるが、それをそのまま出すかどうかはまた別の問題である。「AIが出したものだからそのまま出しても責任はない」とはならない。
また早川氏の指摘のように、AIの利用は「AIを使ってその物語を生成する誰か」の欲望を脱臭する目的があるだろう。物語を語るのは誰で、その誰かは何故その物語を語るのか。それを「AIに資料を読ませたらこんな物語を出しました」で誤魔化そうとしているわけだ。実際には我々は、その物語がAIの出力したものであるという証拠すら持っていないわけだが。
この記事が気に入ったらサポートをしてみませんか?