AIによって自分の考えが操作されている
3.2.4 サブリミナル
AIによって自分の考えが操作されているとしたらどうでしょう？精神疾患さえ疑われそうな話のようにも聞こえますが、実際に起こるかもしれません。Facebookは、ネガティブな感情が伝染するかどうかを調べるための実験[1]を行い、問題になりました[2]。この実験では、約68万人のユーザーのニュースフィードにおいて、ポジティブな投稿とネガティブな投稿の表示を意図的に操作し、一部のユーザーにはネガティブな投稿が多く表示され、別の一部のユーザーにはポジティブな投稿が多く表示されるように調整されました。
実験の結果、ネガティブな投稿が増えたユーザーは、自分自身もネガティブな投稿を増やし、その逆も同様で、ポジティブな投稿が増えたユーザーはポジティブな投稿を増やす傾向があることが明らかになりました。つまり、感情はオンライン上でも伝染するという結論が導かれました。
しかしこの実験は、倫理的な問題が指摘されることになりました。Facebookはユーザーの同意を得ずに実験を行い、その感情を操作していたため、プライバシー侵害や倫理的な疑問が提起されました。この問題は、オンラインプラットフォームにおけるデータ利用や倫理規定の整備に関する議論を呼び起こすことになりました。
この事案がサブリミナルに該当するかどうかは判断の分かれるところかと思いますが、現在議論が進んでいる欧州委員会のAI規制では、サブリミナルな技法をつかって対象者の行動を実質的に歪めるシステムを許容できないリスクのあるAI技術であるとしています。詳細は次章で説明します。
サブリミナルというと、かつてコカ・コーラがマーケティング目的でサブリミナル効果を利用して問題になったというストーリーを思い出す方も多いかと思います。この例からもわかる通り、サブリミナルとマーケティング関係が深く、また、その境界はあいまいであることがあります。サブリミナル効果が人の潜在意識に刺激を与えて人の行動に影響を与えようとすることが問題となる一方、ランディングページ（LP）の改善などにより、多くの人がそれを意識しないままに自分の行動を変えられているということが問題となることはありません。
クリック数を上げる目的でLPをテストし、最適化することは、ユーザーの無意識の心理を利用して行動を促すことになります。このため、ある意味でサブリミナル的なアプローチと言えます。ほかにも、行動経済学の活用[3]やデザイン領域におけるアフォーダンスなど、従来の知覚や認識という概念には収まりきらないような意識へ作用させるマーケティング技法も存在します。レストランやショッピングモールの色彩も消費者の購買行動への影響を狙ったものです。このように意識と潜在意識を分けたときに、明確に意識されない領域を刺激することは多く見られますが、ほとんど問題となることはありません。
問題となるかならないかを分けるポイントとしては、行動を左右されたユーザーに不利益がないように配慮しているかどうかが重要でしょう。明確に意識されない領域への刺激を利用すること自体は必ずしも問題ではありませんが、倫理的な観点や透明性が求められるため、そのバランスを見極めることが重要です。広告主やマーケターは、ユーザーの利益を損なわないようなマーケティング活動を行い、適切な情報開示を心がけるべきです。
[1] Experimental evidence of massive-scale emotional contagion through social networks
https://www.pnas.org/doi/10.1073/pnas.1320040111
[2] Facebookの感情伝染実験に非難の声、研究者が謝罪
https://xtech.nikkei.com/it/article/NEWS/20140701/567842/
[3] 代表的な例としては、希望小売価格と販売価格を併記し、希望小売価格よりも安い販売価格を提示して割安感を印象付ける「アンカリング効果」などの活用が挙げられます。
AIのリスクの4つのレベルとそれぞれの規制
欧州委員会のAI規制では、AIのリスクを4つのレベルに分類し、それぞれに対応した規制を設定しています。以下に各レベルとその規制内容を説明します。（noteでは一部割愛します。）
a. 「許容できないリスク」のあるAI - 禁止
許容できないリスクを伴うAIは、その利用が禁止されます。例として、①サブリミナルな技法を使用したAI、②特定の人物や集団の脆弱性（年齢や身体的・精神的障害）を悪用するAI、③公的機関のソーシャルスコアリングシステム、④法執行目的のリアルタイム遠隔生体識別システムの四つがが挙げられています。③のスコアリングシステムについては、中国で行っているソーシャルスコアリングが該当すると思われます。④の生体認証については、顔認証、指紋認証、静脈認証などすべての生体認証が該当すると思われます。規制の背景には前章でも挙げました顔認証に関する問題があると思われます。特に黒人女性についてはその精度が他と比べて大きく低いこと示されて、このようなバイアスの問題には強い関心が払われています。この２つには公的機関という限定はついていますが、一般企業であっても注意を払うべきでしょう。
次の人工知能の実務は、禁止されるものとする。
（a） その者又は別の者に精神的な又は身体的な害を生じさせ又は生じさせるおそれのある態様でその者の行動を実質的に歪めるために、その者の意識を超えたサブリミナルな技法を展開する AI システムを市場に置き、サービスを提供し又は利用すること
「①サブリミナルな技法を使用したAI」についてはFacebookがネガティブな感情が伝染するかどうかを調べるための実験を行い、問題になった件がその例として挙げられるでしょう。
人間には知覚できないノイズを紛れ込ませることでAIの判断を間違った方向に導く手法を紹介しましたが、人間には知覚できないノイズが人間の潜在意識に影響する可能性も否定できません。
この記事が気に入ったらサポートをしてみませんか？