AIに善悪の区別はない: 人間中心のAI社会原則に基づいたプライバシー侵害の範疇について

過去10年間で、インターネットの毎日またはほぼ毎日の使用が急速に増加している。今や、13~19歳のうち80.5%、20~29歳のうち87.1%の人が日常的にインターネットを使用してSNS(ソーシャルネットワーキングサービス)を閲覧している(総務省,2020)。インターネット、及びSNSが不可逆的に普及していく中で、SNSは若者の精神的な健康を阻むのに大いに影響しているというデータが複数存在する。例えば、Royal Society for Public Healthの2017年の調査によると、恐らくSNSの使用率が高いであろう10代女性の10人に9人は自分の体に不満があると回答した。さらに、10代から20代前半の女性が短期間だけSNSを閲覧すると、ボディイメージへの懸念がSNSを利用していない人と比べて高くなることがわかった。

これには、検索履歴や動画視聴履歴、記事広告のジャンルによる滞在時間の違いなどからAIが推測した推薦コンテンツの質が大きく関わっていると考えられる。例えば、オンライン署名サイトChange.org内のキャンペーン『【Youtube広告】YouTubeでよく見る体毛や体型などに関する卑下の広告、やめませんか？』には、2021年1月現在で47000人以上の署名が集まっている。このキャンペーンの概要は、体毛が濃い、体型がふくよかである、目が一重であるといった特定の身体的特徴についてネガティブな描写をし、それを克服できるものとして何らかの商品を広告するYouTube内のCMについて問題提起をするものである。この署名に賛同した人の多くは、実際に身体的特徴を卑下する内容の広告を見たことがあり、それに不快感を抱いたものと考えられる。当該署名活動はYouTube内の広告を対象に行われているが、TwitterやInstagramなど、他のSNSであっても、特定の身体的特徴を卑下し、それを解消する商品を紹介する、という内容のPR投稿や広告は少なからずあり、それがサジェスト機能によって選択の余地なくタイムラインに追加されることも多い。アクセス数や滞在時間といった目標数値を課せられたアルゴリズムは、インターネット上に残るあらゆる履歴や、それらを基に推定される年代や性別から、ユーザーが明言していない個人的なコンプレックスをも高い精度でサジェストし、新しい家電の購入を検討している人にセールの情報を流すのと同様に、コンプレックスを刺激し、商品を紹介する関連広告を提供するのである。

また、『やばいデジタル “現実”が飲み込まれる日』(NHKスペシャル取材班, 2020, p.161-162)では、2017年に起きた、14歳の少女モリー・ラッセルが自殺した事件について以下のような記述がある。自殺した少女の父親は、少女がフォローしていたSNSのアカウントをいくつか見つけ、自殺までの足跡を辿った。すると、SNS上で自殺や自傷行為を誘う投稿を多数閲覧していたことがわかったという。

父親は、娘の死の背景をこう考えている。モリーさんは若者によく見られる気分の落ち込みがあった時、こうした類いの検索をしたことがあった。するとその閲覧データをもとに、SNSのアルゴリズムが、モリーさんに対し次々と類似の投稿へと誘うようになった。それはまるで、閲覧履歴を元にオススメの商品広告が配信されるかのように。モリーさんは勧められるがままに投稿を見続け、死に近づいていってしまったのだ、と。
　モリーさん本人に確かめようがない今、この仮説の最終的な検証はできない。しかし、アルゴリズムは、オススメする投稿内容の是非をどこまで判断できているのだろうか。人間ならばこの手の投稿をリコメンドするのはよくないと判断できるが、アルゴリズムが機械的にそれを実行してしまう恐れは確かにある。

周知の事実ではあるが、アルゴリズムには善悪の概念はない。アクセス数を稼ぎ、ユーザーに「適合した」コンテンツを提供することには、上述した2つの例のように、人間の自尊感情を傷つけ、健康な精神を蝕み、場合によっては自殺を選ばせる危険性があると考えられる。
プライバシーの侵害は、現在の憲法解釈に基づいた定義では「私生活をみだりに公開されない権利、また公開された誤情報について訂正や削除を求める権利」とされている(小町谷,2004)。現在の定義では、ユーザーが頻繁に用いる検索語句や閲覧する記事内容から適合性を推測された記事広告の表示はプライバシーの侵害には当たらない。しかし、平成31年3月29日に開催された第4回統合イノベーション戦略推進会議において公表された「人間中心のAI社会原則案(仮)」では、プライバシー確保の原則について以下のような記述がある。

AIを前提とした社会においては、個人の行動などに関するデータから、政治的立場、 経済状況、趣味・嗜好等が高精度で推定できることがある。これは、重要性・要配慮性に応じて、単なる個人情報を扱う以上の慎重さが求められる場合があることを意味する。(中略)AIの使用が個人に害を及ぼすリスクを高める可能性がある場合には、そのような状況に対処するための技術的仕組みや非技術的枠組みを整備すべきである。

AIによるサジェスト機能によって明言していないコンプレックスを推測され、自己肯定感を削ぐ内容のコンテンツに絶えず誘導されることによる被害は広範であり、うつ病や自殺を引き起こすこともある。AIが提供する「使用者に適した投稿や広告の表示機能」により、そのように精神的健康を害したり、自ら死を選んだりする人間が存在する状況は、上記のAI社会原則案に基づくと、「個人に害を及ぼすリスクを高める可能性」があり、「単なる個人情報を扱う以上の慎重さが求められる」ケースであると考えられる。
個人の行動に関するデータから高精度で推定できる選択傾向に関してはプライバシーの範疇であり、またこうした広告サジェストは人間中心のAI原則を逸脱していると考え、対処のための技術的または非技術的仕組みを提供するべきであると言える。

『悪のAI論 あなたはここまで支配されている』(平和博,2019,p.239-240)に興味深い記述がある。欧州委員会が公表した「AIがもたらす重大な懸念」では、自立型致死兵器(LAWS: Lethal Autonomous Weapons Systems)に関して、「現在、いくつかの国や企業が、自立型致死兵器の研究、開発を進めている。その内容は、標的の選別機能を持つミサイルから、人間の介入なしに誰を、いつ、どこで攻撃するかを判断する認知機能を持った学習能力のある兵器にまで及ぶ」という懸念があるという。
これはドローンを用いた自動追尾機能や顔認証を用いた暗殺への危機感からの提言であるが、「精神的健康を害する、または希死念慮を強化する危険のあるコンテンツを表示した場合、高い確率でのアクセスや長い滞在時間が期待できるユーザーを推定し、同種のコンテンツに誘導し続ける」という広告表示アルゴリズムについても、「認知機能を持った学習能力のあるAIが」「人間の介入なしに」「ある種の特性を持った個人を識別し」「悪影響を及ぼす」点で、本質的には同様の問題が起こっていると言える。

アルゴリズムを用いた関連投稿、及び広告表示機能は、高いアクセス率や長い滞在時間のみを目標としており、誘導したコンテンツの内容がユーザーにどのような影響を与えるかについては考慮されていない。その高い推測精度を用いた結果だけを見れば、AIは単に「適合率の高いユーザーに適切な広告を提供した」ように見える。だが、AIを取り入れることが前提の社会において、人間主体のAI運用を考えた場合、これらのアルゴリズムで人間の精神的健康が脅かされる状態は決して理想的とは言えない。
AIに「ユーザーのプライバシーを侵害しない」というアルゴリズムを組み込む技術的仕組みによって人間主体のAI運用を行うのは、プライバシーの定義や広告内容の学習などの障壁があり現実的でない。非技術的な仕組みとして、コンプレックスを刺激し、健康な精神を損なう内容の広告提供を運用者が許可しないことが、AI社会原則に基づいた新しいプライバシー管理と言える。

参考

Change.org -『【Youtube広告】YouTubeでよく見る体毛や体型などに関する卑下の広告、やめませんか？』(2021年1月26日アクセス)
https://www.change.org/p/youtube%E5%BA%83%E5%91%8A-youtube%E3%81%A7%E3%82%88%E3%81%8F%E8%A6%8B%E3%82%8B%E4%BD%93%E6%AF%9B%E3%82%84%E4%BD%93%E5%9E%8B%E3%81%AA%E3%81%A9%E3%81%AB%E9%96%A2%E3%81%99%E3%82%8B%E5%8D%91%E4%B8%8B%E3%81%AE%E5%BA%83%E5%91%8A-%E3%82%84%E3%82%81%E3%81%BE%E3%81%9B%E3%82%93%E3%81%8B

『やばいデジタル “現実”が飲み込まれる日』- NHKスペシャル取材班,講談社現代新書,2020年発行
https://bookclub.kodansha.co.jp/product?item=0000347890

『悪のAI論 あなたはここまで支配されている』- 平和博,朝日新書,2019年発行
https://publications.asahi.com/ecs/detail/?item_id=20744

首相官邸 -統合イノベーション戦略推進会議 第4回 『人間中心のAI社会原則（案）』(2021年1月27日アクセス)
https://www.kantei.go.jp/jp/singi/tougou-innovation/dai4/gijisidai.html
https://www.kantei.go.jp/jp/singi/tougou-innovation/dai4/siryo1-2.pdf

プライバシーの権利―起源と生成― -小町谷育子,2004(2021年1月28日アクセス)
http://www.archives.go.jp/publication/archives/
http://www.archives.go.jp/publication/archives/wp-content/uploads/2015/03/acv_15_p48.pdf

RSPH - #StatusOfMind : a report for young people’s mental health (2021年1月28日アクセス)
https://www.rsph.org.uk/static/uploaded/d125b27c-0b62-41c5-a2c0155a8887cd01.pdf

総務省 令和2年版情報通信白書 -図表5-2-1-9 年齢階層別ソーシャルネットワーキングサービスの利用状況(2021年1月28日アクセス)
https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r02/html/nd252120.html#n5201090