『ディープフェイクの衝撃』はAIを取り巻く課題を包括的に取り上げた解説書

『ディープフェイクの衝撃 AI技術がもたらす破壊と創造』（笹原和俊、PHP新書、2023年2月17日）を読んだ。ひとことで言うとディープフェイクだけでなく、社会とAIの共生について包括的に整理した解説書だった。歴史から社会的背景、問題点などがさまざまな観点から整理されていてわかりやすく全体像を把握することができる。すでにこの問題についてよくご存じの方は特定のテーマを掘り下げた資料の方がよいと思うが、そうではないほとんどの人におすすめできる。

●本書の内容

本書は4章構成になっている。
第1章　ディープフェイクとは何か
第2章　ディープフェイクを作る
第3章　ディープフェイクに備える
第4章　ディープフェイクと共存する
第1章ではディープフェイクおよびAIに関わる問題の全体像を簡単に紹介している。ディープフェイクの利用が急速に広がり、それがもたらす正と負の影響などを幅広く解説している。
第2章ではディープフェイクの歴史と技術についてわかりやすく解説している。技術的素養がなくても原理を理解できるようになっている。
第3章は、主としてディープフェイクの検出技術についての章となっている。AIによる判別などが解説されている。
第4章は、人間とAIのよりよい共生について、そのメリットやリスクを事例をあげて紹介している。ディープフェイクが社会に及ぼす影響を研究した論文は少ないので貴重かもしれない。

幅広い話題をコンパクトにまとめているので、とりあえずディープフェイクがなにか知りたい人は1章を読めばいいし、社会へのインパクトを知りたい場合はさらに4章を読むとよい。ディープフェイクの具体的な仕組みを知りたければ2章を読めばわかる。といった感じでさまざまな関心に応えられる内容となっている。

個人的には第4章に著者の問題意識や今後の方向性が示されていて興味深かった。AIを支える学習データの問題点を3つあげており、参考になった。
1．データのバイアス　データにはバイアスがあり、それを学習したAIは当然偏見を持つようになる。
2．データの著作権の問題　学習に用いたデータの著作権問題である。
3．データ汚染の問題　AIによって大量のコンテンツが生成されるようになると、それが流通するコンテンツの多数を占め、そこからAIがさらに学習することになってしまい、もとからあるバイアスがさらに強化される。

著者自身も戦略的創造研究推進事業CRESTで「インフォデミックを克服するソーシャル情報基盤技術」に取り組んでいる。ディープフェイクあるいはAIと人間の共生について関心を持つ方には参考になる良書である。

●感想

本書はとてもよくまとまっており、良書であることは間違いない。読んでいると個人的に今後考えたいことがいろいろ頭に浮かんできた。本書の感想というよりは、本書を読んだあとに考えたことと言った方が正しいかもしれない。

・虚構と事実

本書ではAIに「サーモンラン」の絵を描かせたら鮭の切り身が泳いでいる絵がでてきた話が紹介されている。これは学習データには鮭そのものよりも切り身の画像が多かったせいと説明されている。そして鮭の切り身しか見たことのない人間がいたら同じような絵を描くもしれないともしている。
AIは虚構と事実を判別できないようだ。正確に言うと、情報空間そのものには虚構と事実を区別するものはないのかもしれない。チャーマーズの『リアリティ+』っぽい感じになってきたけど、ほとんどの人間は虚構と事実を直感的あるいは体感的に区別する。
この乖離は将来的に深刻な問題になりそうな気がしている。

・そもそも我々の社会は偏った情報に満ちている

インターネット以前、社会に広げる情報の多くはメディアや指導的立場（宗教や活動家含む）にいる人々から発信されたものが多かった。メディアを含めこれらの発信する情報にはかなり偏りがある。メディアは中立的と言われるが検証した研究によればかなりの偏りがある。
インターネットの普及によって偏りがより強化されるようになった。AIは2つの方法でこれをさらに強化する可能性がある。ひとつは本書でも触れられている過去データから学習することで偏りを学ぶこと、もうひとつは研究サプライチェーン（後述）による強化だ。
いずれもネットやAI以前から存在したものの強化である以上、社会そのもののあり方や価値感を問い直す必要があるような気がする。ネットやAIだけにフォーカスしての対処は対症療法でしかなく、根本的な問題が放置され深刻になるリスクがある。

・研究サプライチェーンの問題

研究を行うにはデータ、資金、研究者、施設などさまざまな要素が必要であり、これらの要素の出自と動機はその成果に影響を与える。各国政府および企業が多額の資金と研究者を投入しているAIはまさに研究サプライチェーンの問題を集積しているとも言える。
本書ではデータの問題についての指摘があったが、それ以外の要素も気になる。研究サプライチェーンについては何度か記事を書いたので気になる方は下記をどうぞ。
ビッグデータ統計は、中立や客観性を保証せず、しばしば偏りを生む

・AIにおける初期値鋭敏性

初期値鋭敏性というのはカオス理論の言葉で、ほんわずかな初期値の違いが大きな結果の違いを生むことを指している。AIにもそれがあるような気がする。
たとえばSNSのアルゴリズム。なんらかの理由で保守系をリコメンドしやすいバイアスが含まれていた場合、それによって保守系に関心を持つ利用者が増え、エンゲージメントも増加する。するとそれを学習してさらに保守系をリコメンドすることになり、最初のわずかな偏見が拡大されてゆく可能性がある。
そしてエンゲージメントを生みやすいAI生成コンテンツ（ディープフェイクや偽情報など）を最初に気づくのはSNSのAIであり、短い期間でそれは拡大されてゆく可能性がある。

・AIによるディープフェイク検出について

これはチューリングの停止問題のように見えるのだけど、私の勘違いだろうか？

好評発売中！
『ネット世論操作とデジタル影響工作：「見えざる手」を可視化する』（原書房）
『ウクライナ侵攻と情報戦』（扶桑社新書）
『フェイクニュース　戦略的戦争兵器』（角川新書）
『犯罪「事前」捜査』（角川新書）＜政府機関が利用する民間企業製のスパイウェアについて解説。