アルゴリズムの危険性について。

 Youtube, FaceBook, インスタグラムそしてインターネットのCM、私達は日常生活の中で数多くのアルゴリズムと遭遇そうぐします。アルゴリズムとは概念がいねんてきには与えられた問題を解決かいけつするための手順てじゅんや方法を公式化したプログラムのことです。
　そして私たちが日常生活の中で触れ合うユーチューブの動画おすすめアルゴリズム、SNSのお友達推薦すいせんアルゴリズム、ネットのCMのアルゴリズムたちは「使用者たちの目線めせんを集める」と言う問題の解決を目的として作られたものです。使用者に多く露出ろしゅつされればされるほどもっとたくさんのお金が入るシンプルな構造こうぞうのせいです。私はこのシンプルの構造が呼び起こしたいくつの問題点のついて話したいと思います。

　私が思う初めての問題は同じ主題しゅだいばっかりみるように、あるいはみさせるようになってしまうことです。例えばSNSの場合アルゴリズムの推薦すいせんで自分と同じ興味を持っている人と仲良しになりやすいです。こんなふうに作られた関係の中でSNSの利用者は自分が考えることが他人の口から表現され、自分の考えも簡単に認みとめられやすい状況じょうきょうにハマってしまいます。
　このような環境かんきょうのなかで使用者は個人にあわされた情報だけを聞かされるようになり、確証かくしょうバイアスになりやすくなります。私が一番警戒けいかいしているのは使用者が認識できずにこのような状況に陥おちいることです。

「人々が意識していない内に濾過ろかされた情報の泡にとじこまれる現象」アメリカの進歩運動団体しんぽうんどうだんたいMOVE　ONの理事長りじちょうであるエリ·フレイザーが２０１１年出版した本でフィルターバブルと名前を付けました。おそらく私達は皆ユーチューブとかで自分が検索けんさくしたことと関連したものばかり飛び出るフィルターバブルを経験した事があるはずです。

　二つ目の問題は、アルゴリズムは目立ってさえすればどんな物でも大勢の人々の目線を受けるようにすることです。有名人の刺激的しげきてきな人種嫌悪じんしゅけんおの書き込みや社会的な問題になりうる政治家せいじがの発言など、昔なら自然に忘れられるだけの一時のゴシップがアルゴリズムに乗って世の中を漂ただようようになりました。批判のコメントを書くために集まった人とも同調どうちょうするために集まった人もアルゴリズムの立場からすると皆金づるにしかほかなりません。

　２０２１年、もとフェイスブックの社員であるフランシス·ハウガンの内部告発ないぶこくはつがありました。フェイスブックが有名人の人種嫌悪じんしゅけんお発言や偽にせニュースなどの特定のコンテンツが利用者にとって悪い影響を与あたえている事を十分知りながらも放置ほうちしてきたってことがその内容です。そして、２０１８年に個別使用者と似ている考えと感情を共有きょうゆうする人々の書き込みがもっと多く露出されるようにプラス値ちを与えるようにアルゴリズムを設計し、その結果として極端きょくたん的なコンテンツと両極化りょうきょくかを作り上げる環境ができてしまいました。
　こういった極端きょくたんで両極りょうきょくな主張が社会の水面の上に上がりやすくなり、社会的な混乱こんらんをまねきました。

　3つ目の問題は、これらのことが多くの人とは離れたままで起こっているということです。私たちは一般的に極端な思考を持った人々を街頭がいとうでの集会しゅうかいやテレビのニュースを通じて見ることが多いと思います。その誰も空から降ってくるように極端なあるいは偏かたよった集団ができたとは思わなはずです。だからといって，彼らがなぜそこまで極端な思考を持つようになったのかを知っている人もはいなはずです.
　

 私はこのアルゴリズムの危険性について、周りの人々はどのように認識しているのか質問し、その答を総合そうごうしてみました。
　まず、アルゴリズムの全般ぜんぱん的な認識について聞いた結果、答えてくれたほとんどの人が肯定こうてい的な面と否定ひてい的な面を持っていると答えました。肯定的な面では関心を持ったテーマについて新しい情報を提供ていきょうする点が便利だったという点、否定的な面では一度はまったテーマがあちこちで露出し、一度はまったテーマから抜け出すことが難しいとのことでした。

　次の質問は、アルゴリズムが推薦すいせんする数多くの情報の中でも、片方の意見だけを聞いたりして意見が偏かたよらないように、情報の分別力ふんべつりょくを育てる方法について質問しました。多くの人が複数のメディアを通じて自分が得た情報に対する多様な見方を得ることで、情報の分別力を育てることができるだろうと答えました。また、常つねに自分に推薦される情報が偏っている可能性があることを認知にんちし、新しい情報を受け入れる時は慎重しんちょうを期きさなければならないと言っていました。

　質問し、答えを総合そうごうしてみると皆アルゴリズムという技術そのものについては中立ちゅうりつ的な意見を持っており、自分に伝わる情報が偏ることもあることを知ってはいるが、それほど気にしていなかったです。

　質問を聞いた人たちが、大きくアルゴリズムの危険性をあんまり気にしていなかったとを見て、もしかしたら私は過剰反応かじょうはんのうをしているのではないかという気がしました。アルゴリズムの危険性を語るアルゴリズムにはまり警戒けいかいしすぎるのかもしりません。

　しかし、最近コロナが始まったばかりの頃、外国でマスク着用に反対する人達が多く現れ、社会的な混乱こんらんが大きくなったことを考えれば、それほど敏感びんかんに反応しているわけではないと思いました。

結局、私の結論けつろんはこうです。

 十分に自から情報を区別して受け取ることができる使用者にとって、アルゴリズムは便利で役に立つ技術です。
　しかし、情報分別力がない場合使用者は危険なアルゴリズムにはまりやすいです。　これをただ個人のミスや不注意ふちゅういのせいにすることはだめだと思います。無慈悲むじひに利益りえきだけを追求ついきゅうするアルゴリズムをそのまま放置しているのはとても良くないと思います。それで、私はアルゴリズムに「何らかの規制きせいが必要だ」と思います。