AIの危険性を訴えるFreedom on the Net 2023 10年以上遅い
FreedomHouseの「Freedom on the Net 2023」（https://freedomhouse.org/report/freedom-net）が公開された。AIの危険性を大きく扱っているというのでさっそく読んでみた。
インターネットの自由は13年連続で低下していると書いてあり、直近10年前後は民主主義の劇的な後退、格差の拡大など世界のあり方を変える出来事が起きていることがわかる。正確に言えば、インターネットの自由、民主主義の後退、格差の拡大はいずれも結果のひとつであり、それを引き起こした大きな変化については、これらに比べると大きく取り上げられることはない。
AIもまた大きく取り上げられるが、AIの濫用を生んだ背景についてはあまり語られない。
●内容
幅広く事例などをまとめており、インターネットの自由や非民主主義的なAIの濫用についてざっと確認するにはよい資料だと思った。
今回のレポートの主な調査結果では下記があげられていた。
世界人口の79％が政治的、社会的、宗教的コンテンツを投稿したことで逮捕、投獄される国に住んでいる。先日のV-Demの記事（https://note.com/ichi_twnovel/n/n729420cc4997）の世界人口の72％が独裁主義国に住んでいるという数値に近い。
世界人口の68％が当局が現政権を支持するコメンテーターを配置し、ネット世論を操作している国に住んでいる。少なくとも47カ国の政府がコメンテーターを配置しており、10年前の倍となっている。少なくとも16カ国でそのためにAIが利用されていた。
世界人口の67％がネットへの投稿のせいで殺されたり、襲われたりする国に住んでいる。調査対象70カ国のうち、過去最多の55カ国で人々はネットの投稿がもとで法的制裁を受け、41カ国ではネット上での発言を理由に身体的暴行を受けたり殺害されたりした。最も深刻なケースはミャンマーとイランだった。
世界人口の66％が政治的、社会的、宗教的コンテンツを掲載したWEBがブロックされる国に住んでいる。表現の自由で保護されるべきコンテンツがブロックされた国は過去最多の41カ国。少なくとも22カ国では政治的、社会的、宗教的内容の検閲のためにAIを導入することを法律で強制しているか、インセンティブを与えている。
アメリカとヨーロッパで偽情報対策の一環として行われているWEBのブロックやSNSへのアクセス制限は非生産的である。
世界人口の54％はSNSへのアクセスが制限あるいは禁止された国に住んでいる。
世界人口の46％は政治的な理由でネットやモバイル通信がたびたび遮断される国に住んでいる。
・AIの濫用
このレポートではAIの検閲と抑圧についてくわしく触れられている。プライバシーを侵害するビッグデータの利用、AIによる自動監視が利用者に自己検閲を強いる可能性、学習データに潜んでいたバイアスを強化、永続的に持ち続けるなどの問題をあげている。
AI利用の検閲によって検知されにくい、より正確な検閲 を行うことができるようになり、 国民の反発を最小限に抑え、政治的コストを減らせた。
少なくとも22カ国では政治的、社会的、宗教的内容の検閲のためにAIを導入することを法律で強制しているか、インセンティブを与えている。インドやベトナムなどが例としてあげられている。
また、民主主義国でも同種の規制が行われることがあった。2023年5月に提出されたフランスの法案では、司法ではなく行政機関から指示された場合、ブラウザがウェブサイトをブロックすることを義務付けている。同じくフランスではSnap ChatやTikTokの制限も考えられている。
生成AIは偽情報を加速させており、民間のネット世論操作代行企業によっても利用されている。少なくとも16カ国でAI利用偽情報が確認された。
・プラットフォームの対策の後退
代表的なSNSプラットフォーム企業がモデレーションや偽情報対策の人員を削減するなどしており、代わりにAIを使う可能性が高くなっている。
・改善の可能性
改善の見られた国では、デジタル・アクティビズム、市民社会、独立した司法が寄与していた。
本レポートでは、過去の経験を生かしてAIをうまく利用して、EUのような規制をうまくゆくことでコントロールできる可能性を示唆している。
●感想
このレポートの提言は20年以上前ならまだ可能性はあったかもしれないが、いまではもう可能性は低いだろう。世界を取り巻く環境が大きく変わっているにもかかわらず、旧来の民主主義的価値感と社会観をあてはめるには無理がありすぎる。
このレポートに書かれているAIの濫用って結局5年前に描いた下記のことのような気がする。
たとえばこのレポートでは非民主主義国が増えている理由にはなにも触れていない。しかし、先日のV-Demの記事（https://note.com/ichi_twnovel/n/n729420cc4997）で紹介したように、独裁化した国は偽情報を利用する。そして、独裁化した国に、本レポートの話は通じない。
何度も言っていることだが、気候変動、パンデミック、資源不足、格差拡大、移民増加によって世界は危機的状況に向かっており、社会は不安定になり、分断化しやすくなっている。これは民主主義にとってはマイナスであり、権威主義にとってはプラスだ。しかもロシアのウクライナ侵攻によって資源不足が急速に顕在化したように、この変化は人為的に加速できる。
この変化が背景にある以上、少なくとも過去のように規制や自主性に頼るアプローチの有効性はかなり疑問だ。
ヨーロッパがかつてのように世界の中心的な役割を担っていたなら話は別だが、現在はそうではない。非民主主義国は人口で多数を占め、経済的にももうすぐ民主主義国を追い抜く、民主主義国への貿易の依存度が低い一方で民主主義の独裁主義国への依存は高まっている。
AIを牽引するビッグテックがヨーロッパを捨ててしまえば、話は終わってしまう。さらに、ありていに言えば民主主義国の中でアメリカの市場と企業が非民主主義国と有効な関係を続ければヨーロッパがなくても困らないかもしれない。
ヨーロッパの非民主主義国が増加する可能性もある。すでにそうなりつつある国は複数ある。
などということを考えると、今回のレポートは過去の世界観で世界をとらえることの難しさをあらためて考えさせられるものだった。
好評発売中！
ネット世論操作とデジタル影響工作：「見えざる手」を可視化する
『ウクライナ侵攻と情報戦』（扶桑社新書）
『フェイクニュース 戦略的戦争兵器』（角川新書）
『犯罪「事前」捜査』（角川新書）＜政府機関が利用する民間企業製のスパイウェアについて解説。
本noteではサポートを受け付けております。よろしくお願いいたします。