見出し画像

プラットフォーマーの規制と分断する世界

はじめに

2021年を迎え、スタートアップ業界でも最も話題になっているトピックのひとつは、「トランプ大統領と保守系ソーシャルメディアアプリ『Parler』」だろう。

これまでの政治問題の延長線という話ではなく、ドナルド・トランプ氏のTwitterアカウント永久停止、AppStoreからParler(パーラー)の削除から「インターネットの表現の自由」の話でもある。シリコンバレーでも、トランプ氏のTwitter停止について、テック企業が一線を超えた判断だと議論を呼んでいます。特にインフラサービスのAWS、Apple、GoogleがParlerに対しての対応は非常に厳しく、今後のインターネットの未来を変えるのではないかと言われている。

今回は、なぜシリコンバレー界隈やテック企業に関係があり、どう影響するのか、そもそもどういう問題なのか解説をしたいと思います。

事件のはじまりは、ワシントンDCの議事堂で

日本時間1月7日、首都ワシントンD.C.の連邦議会議事堂では、バイデン氏を次期大統領に選出するための審議が行われていた。その最中、アメリカ全土から集まったトランプ支持者が連邦議会議事堂へ侵入。

議事堂への襲撃や占拠により、警察官など含め複数人が亡くなった。繰り返し選挙不正を訴えているトランプ氏がこの事件を招いたのではと議論になる中、FacebookやTwitterをはじめとするプラットフォームがトランプ氏のアカウントを一時、もしくは永久停止・削除。

マーク・ザッカーバーグ氏は「民主主義に対して暴力的な反乱を作り上げた」と述べ、Facebookは無期限アカウントブロック。

画像1

引用:Facebook

Twitterからの永久停止理由は、と大きく分けて理由は5つ。(以下日本語訳)

画像2

引用:Twitter

1. トランプ氏がバイデン氏の大統領就任式に参加しないとツイートしたのは、彼の支持者からすると選挙不正を信じるべきというサインでもあり、元々トランプ氏が反乱が起きた次の日に動画メッセージで語った「整然とした政権移行」に反する言葉と考えられる。
2. トランプ氏が就任式に参加しないため、反乱者・支持者からすると就任式は「安全」なターゲットとなること。
3. ツイートで反乱者を「アメリカ愛国者」と語っているように見えるため、反乱をサポートしているように見えるかもしれないこと。
4. ツイートの言語と内容は、トランプ氏が明らかに「整然とした政権移行」を行う予定は無いように見えること。
5. Twitter上、及び他のプラットフォームでワシントンDCで同じような反乱の計画の話が始まっていること。

Twitterが語る、他プラットフォームは、Facebookや保守派系SNS「Parler」を指している。Parlerは暴力的なコンテンツが多く、トランプ氏がTwitterでペンス副大統領を「使えない」など悪口を言ったことで、ペンス副大統領の処刑をParlerで呼びかけるトランプ支持者が現れた。

議事堂の外に首吊り縄があったのは、ペンス副大統領を処刑するためとも言われている。

画像3

引用:Twitter

Parlerだけでなく、DliveやGabなどのプラットフォームに集まった多くのトランプ支持者は反乱の計画やライブ配信をそのプラットフォーム上で行っていた。その結果、AppleとGoogleはParlerを各自のアプリストアから削除。そしてAWSもParlerへのサービス提供を停止することを決定した。Apple、Google、Amazonが削除及び停止の理由は、「暴力を止めるモデレーション要素・機能がないこと」。

筆者としては、TwitterやFacebookがトランプ氏のアカウントを停止よりも、Apple、Google、AmazonのParlerに対しての判断の方が実は危険なのではないかと心配している。シリコンバレーのテック企業のトップの人たちも同様に、今後のインターネットがどう変わるか、多くの議論がされている。次に、「テック企業が個人のアカウントやアプリを削除すること」について解説したいと思う。

プラットフォームと「表現の自由」

アメリカでは特に「表現の自由」が重要視される国。そもそもアメリカはイギリスに反する声を上げて作られた国でもある中、歴史的に異なる意見を言える場所は民主主義の根本として考えられている。

実際に、これまでトランプ氏の投稿はFacebookやTwitterは(場合により注意喚起があったが)停止はしていない。これらのプラットフォームは、「米大統領としてトランプ氏の声を削除するのは表現の自由に反することだ」と述べていた。筆者もそれは間違いではないと思っている。世界のトップリーダーの発言は貴重なもので、その発言が正しいのか悪いのかはプラットフォームではなく、それを読む人か政府が判断するものだと信じている。

そうなると、なぜ今トランプ氏やParlerアプリは削除されたのはなぜだろう?それは、文脈と状況が変化したからだと思っている。今回の場合、トランプ氏が支持者に対し、議事堂への侵入を勧め、さらに再び起こりうるリスクがある。もちろん過去4年間の彼の言動は暴力を招くリスクはあったが、このレベルまでには至らなかった。実際にアメリカの裁判所でも表現の自由が覆されるケースがある。それは暴力を引き起こすケースや名誉毀損などの事例があるが、トランプ氏の言動はここまで至ったと言えるため、例え表現の自由の理論が出ても、暴力を引き起こす言動は表現の自由に当てはまらない。

そもそもTwitterやFacebookは会社なので、自分たちでルールを決められる。そのルール自体に一貫性がないのも問題ではあるが、公共サービスでは無いので、表現の自由の理論が使えても各プラットフォームは独自のルールを作れるので、それに従わないと削除されるのは仕方がない。例えば、アメリカではヘイトスピーチは表現の自由で守られているが、FacebookやTwitterは禁止事項である。

一貫性の無い、アカウント削除のルール

今回のみならず、TwitterやFacebookは数々のアカウントを削除やブロックしてきた。ただ、そこで問題なのは、一定のルールがあまりなく、その時々に判断をしている風に見えること。もちろん各ケース、特殊で異例な文脈であることはわかってないといけない。しかし、TwitterやFacebookは初期にこれだけ大きなものになると想像していなかったため、コンテンツモデレーションがかなり難しく、準備ができていなかった。

考えないといけないのは、なぜこのタイミングでTwitterがアカウント停止をしたのか?もちろん暴力を引き起こすという理由もあるが、それだけが目的だったのか?TwitterやFacebookは法人なので、株主に対して最大限のお金の利益をもたらすのが使命である。両社はおそらく安全性のインパクトと売上のインパクトをどちらとも見ている

そしてそれ以上に多くの大手テック企業は政治の動きに合わせてポリシー変更を行っている。これから入ってくる民主党はテック企業に対してかなりプレッシャーを与えると言われているので、トランプ氏のアカウント削除はアメリカ政府に対してのアピールとも言える。

コンテンツの責任は誰にあるのか?セクション230

一貫性がないまま削除をすると、Twitterがリベラルなプラットフォームと言われても仕方がない。明確なルールが定まれてないからこそ、TwitterやFacebookが特定の人物像を選んでアカウント削除しているようにも見える。プラットフォーム上でどのコンテンツが見られても良い・悪いを判断するのであれば、そのコンテンツの影響の責任も持たないといけない。

プラットフォーム上でのコンテンツに対して責任を負う・負わない判断に関しては実は法律で定められている。通信品位法 第230条(通称セクション230)は、インターネット企業がホストする第三者のコンテンツに対する責任からインターネット企業を保護するもの。この法律では、ユーザー生成コンテンツが投稿されるインターネット企業はディストリビューターだけであるので、自社コンテンツを出すパブリッシャーとは違う扱いになるべきという考え。例えば雑誌の中に悪質なコンテンツが入っていれば、出版社が責任を負わなければいけないが、その雑誌を扱っているコンビニや本屋は責任をを問われない。

セクション230には、もう一つ重要なルールがある。そのルールは、ディストリビューターは暴力的・非常識・悪質なコンテンツのアクセス制限または可用性のコントロールができること(アメリカの憲法で守られているものを含める)。これはいわゆる多大なる権力をインターネット企業に与えていると同様のこと。1996年にこの法律が作られた当時のアメリカではインターネット上のアダルトコンテンツの普及が話題になり、そのパニックを抑えるためにアメリカ政府がインターネット企業にディストリビューターとしての定義を失わずに権力を与えることにした。それは権力を与えなかった場合、インターネット企業がアダルトコンテンツの削除を行わないと恐れていたからでもあるが、同時にそれは将来的にインターネット企業が誰でも検閲出来る力を与えてしまった。

どのコンテンツを出すか、出さないかの判断はテック企業の方々がやるべきかは正直難しい問題だ。実際に、新型コロナウイルスが最初に広がったときには、各プラットフォームは間違った情報を削除していた。しかし、コロナを研究するエキスパートたちも、調べていくうちに途中で判断が変わることもあり、過去にエキスパートが話したことも嘘と判断されてしまう。

集中するシリコンバレー企業の権力

今回の暴動の中で、テック業界のリーダーたちにとって話題になったのがAWSとApple・GoogleがParlerに対しての判断。AppleとGoogleはそれぞれのアプリストアから削除して、AWSはサービス提供を停止した。ここまで一つのアプリに対して積極的に動いたのは珍しい。TwitterやFacebookとは違いインフラの話になる。

簡単に言ってしまえば、シリコンバレーの会社が世界的に権力を持つ米大統領の発言をシャットダウンすることが可能。つまり、これはアメリカだけでなくAWSを使う他の国や政治家にも同じことができるということでもある。実際に2020年10月にも日本政府がAWSを使うと発表している。今回で全世界のリーダーたちが分かったのは、シリコンバレー企業、特にインフラ事業に権力が集中しているということ。

今回はAWSだったが、それに続いてアメリカのDNSサーバー企業がParler.comを停止することも可能になる。どこまでこれが続くかが問題。

AppleやGoogleもアプリ市場を完全に支配している企業。その2社から嫌われた瞬間、多くのユーザーへのアクセスが消えてなくなる。ブラウザーのSafariやChromeにも同様のことが言える。

インターネットの分断、地方分権の可能性

この問題は、アメリカの政治問題だけにとどまらず、世界的問題だと思う。Twitter、Facebook、Amazon、Apple、Google、シリコンバレーの会社が国のインフラを停止することが可能である。

これで各国は自社のインターネットインフラ(ホスティング、決済、DDoS保護)を作る必要性が生まれると言われている。アメリカは世界で最も大きい決済ネットワーク企業VisaとMastercardがあるが、実際にアメリカ政府がクリミア共和国に対して制裁を加えたときにVisaとMastercardはクリミアでのサービス(ATMやカード)を停止した

今回の暴動の関係者とも言われているアリ氏は、VenmoとPayPalからアカウンをシャットダウンされた。

このようなリスクを避けるためには完全地方分権されているクリプト技術が必要だが、その発展はまだ時間がかかるだろう。そのため多くの国は自社のインフラを作ることも考える必要がある。中国はこれを既に何年も前から行っている。そして、実際にアメリカも行っている。AWSやGoogleを使う部門もあるが、アメリカ政府では自社システムを作るケースも多い。

ユーザー側としても、コントロールされないサービスを使いたい需要が増える。Signalは、暗号化メッセージアプリで、コンテンツを見れないように様々な自社インフラを用意している。アメリカやそれ以外の国で流行っているのは、会社に自分のコンテンツを見られて、それをベースにコントロールされるのを嫌がっているから。

このようなサービスがどんどん増えてもおかしくない。今後Helmsのように自分のサーバーを簡単に立ち上げて、メールなど重要機能を自分の管理の元使えるようになる。

それと比べてFacebookの直近の動きを見てみよう。2021年2月からWhatsAppはFacebook本体アプリとデータ共有を行う予定。WhatsAppの1番のサービス優位性であるプライバシーをFacebookが殺している。こう言う動きが大手テック企業で行われているからこそ、SignalやTelegramなど暗号化されたツールやサービスが人気になっている理由だろう。

アメリカ政府はこう言う暗号化サービスを嫌っていて、各サービスに対して「Golden Key(黄金の鍵)」、裏口を設置するようにお願いしている。ただ、そうなると、その「Golden Key」のセキュリティが非常に重要になる。アメリカ政府はセキュリティ的に問題ないと言っているが、直近の実績を見ると、信頼するのは難しい。

最近話題になった、サイバーセキュリティ企業SolarWinds社のハッキング事件で、アメリカ国司法省のメールと、アメリカの裁判所が被害にあった。政府の裁判所からは密閉された案件と起訴状、いわゆるアメリカ政府が秘密にしている犯罪データ(場合によっては証言者のデータまで)暴かれた。このSolarWindsハッキング自体は情報収集だけだったが、アメリカ政府以外にもWindowsのソースコードなど、色んな機密データが他の国に渡った。

強いアルゴリズムの先にある世界

今回のアカウント停止問題については、各テックプラットフォームが判断したものだが、ほとんどのコンテンツモデレーションはアルゴリズムによって活用される。そして、どのアルゴリズムも中立ではない。各テック企業は株主・ステークホルダーのために設けなければいけなくて、今現在だとその儲けはプラットフォーム上でのエンゲージメント(主に利用時間)から生まれているので、各プラットフォームのアルゴリズムはそれに合わせて作られている。

どのテック企業も膨大なAIモデルを活用して、それが会社のポリシーを規制していると語っている(これは国の法律に従いたくないから)。

大体どの機能を見ても、裏にはアルゴリズムが存在する。広告、レコメンドされるツイート、画像検索の結果ページ、オートコンプリート機能(しかもYouTubeとGoogle検索でもまた変わる)、フォローするべきアカウントなど、全てがアルゴリズム化されている。New York Times記事によると、YouTubeのレコメンド動画はサイト全体の70%の利用時間を影響している。

各プラットフォームで最も利用時間が長いのが白人至上主義者たちであれば、テック企業はその人たちにアピールする。Facebookの自社調査で発覚したのは、過激派グループにジョインするメンバーの64%はFacebookのレコメンドアルゴリズムから来ていること。FacebookによるとQAnon関連のグループやページだけで300万人のメンバーがいるとのこと。それを考えると、Facebookは約200万人の過激派メンバーを作り上げたとも言える。そして過激派グループのアイデアや投稿の方がシェアやいいねがされやすい。そう言う人たちをプラットフォームから取り除くと、ユーザー数とエンゲージメントが落ちて、それに合わせて売上がウォールストリートの投資家の期待を裏切り、株価が落ちてしまう。

トランプ氏がアカウントを削除されたこと、そして一貫性のルールがないのは各テックプラットフォームの利益に影響したからが一番わかりやすい説明かもしれない。トランプ氏のアカウント削除はこれから入ってくるバイデン政権に対してのアピールで、一貫性のルールがないのは、悪質なコンテンツやアカウントで儲かっているから。今までは何もアクションを取らないのがテック企業のスタンスだったのは、いずれかメディアはこのニュースを取り上げなくなるのを理解していたからだが、トランプ氏の場合だとどんどんツイートや発言がエスカレートしたからこう言うことに至ったとも言える。

逆に、大手テック企業からすると、セクション230のような法律より、トランプ氏のアカウント削除について世間に騒いで欲しい。実際にテック企業の権力を変える法律は静かに揉み消すのが目的なはず。

一つ明らかなのは、テック企業のアルゴリズムの影響力は半端ないこと。仮にGoogleエンジニアがGmailのスパムアルゴリズムを少し変更するだけで、多くの人たちが影響される可能性がある。

解決法を考えてみた

じゃあどこまでテック企業はユーザーや政府をコントロールしてもいいのか?Google、Facebook、Amazonは解体させるべきなのか?それとも独占法に違反していると言ってしまうと今後のイノベーションが止まるのか?完全な解決案はないが、以下幾つか検討するべき解決方法を考えてみた。

・セクション230の改革
この記事で説明したように、今現在のセクション230はテック企業に圧倒的な権力を与えている。特に重要なのは、アメリカ憲法が守っている表現の自由などを覆せられるルールのおかげでFacebookやTwitterが好き勝手出来てしまう。この文面を少し変更するだけで、インターネット企業はディストリビューターでありながら、アメリカ政府のルールを従ってプラットフォーム運営することになるので、よりフェアで平等なプラットフォームになる。

・法人モデルを考え直す
大手テック企業はこれだけ巨大になると、政府化してしまう。各社は国レベル、場合によっては国以上のユーザー数と影響力を持つことになり、今現在は利益を最大限に伸ばすミッションを持つ法人形態として存在する。もしかしたら、このサイズの会社になると根本的にこの法人モデルを変える必要があるかもしれない。
アメリカの選挙を変えるほどの影響力がある中、テック企業のリーダーたちは政治家とは大きな違いがある。それは政治家は国民から選ばれるが、テック企業のリーダーは選ばれない。Facebookに関しては取締役たちですらザッカーバーグ氏の判断を覆せない。これだけのサイズの会社になると、この会社形態が正しいのかは考えるべきかもしれない。

・テックを理解する政治家
ここが最も重要な課題かもしれない。明らかに今のアメリカ、そして全世界のほとんどの政治家たちはテクノロジーを理解していない。そのため、いくらFacebook、Google、Amazon、Twitterなど大手テック企業にヒアリングをしても何も進まない。2018年にザッカーバーグ氏に聞かれた一部の質問を聞くと、明らかに基本的なことを理解していない政治家がいるのがわかる。

そして政治家たちが気にしなければいけないことは、テック企業は上手くロビー活動や色んなリサーチのファンディングを行って、自分たちが証明したいポイントをエビデンスとして作っている。GoogleやFacebookは議員に直接お金を渡してロビー活動をするのではなく、色んなシンクタンク組織をファンディングしてリサーチをさせるようにしている。実際にFacebookはDFR Labsに様々なリサーチを頼んでいる。有名な大学もよくリサーチのファンディングを受けるケースがあるので、一見第三者のレポートに見えるが、実は裏ではテック企業が動いているケースも多々ある。

・アルゴリズムのレギュレーション?
今のテック企業はアルゴリズムで成長している。そして各テックプラットフォームが世間の考え方、ライフスタイル、そして時には政府や選挙を影響出来ると考えると、アルゴリズムが世の中を影響している結論になる。そんなアルゴリズムに対してグローバルでルールを作るべきかは正直分からない。アルゴリズムには必ずバイアスがあり、悪いバイアスも多々ある(例えば、Amazonの採用アルゴリズムが女性を差別したことが発覚)。ここに関しては良い解決案はないが、どの国も考えなければいけないことだと思う。

結論

今回の騒動は10年分ぐらいのインターネットの課題を一斉に吐き出した。これは単なるトランプ氏のアカウント削除として見るのではなく、インターネット全体のあり方を変えるかもしれない出来事として考えるべき。シリコンバレーのトップVCや起業家の中では、大手テック企業が一線を超えたのではないかと心配そうに話し合っている。これによってインターネットの分断が進むのは間違いない。遠い視点から見ると、TwitterやFacebookなどが法律を上手く活用して多大なる権力を集め、その責任を一切負わずに勝手にルールを作れる。その結果、多くの政府、起業、そして人々はテック企業の信頼を失い、今後はよりレギュレーションが増えることが予想される。ただ同時に、地方分権システムの発展につながる可能性もあるとも言えるので、そこには期待したい。

今後テック企業を作る上では、会社の方針を明確にしなければいけない。プラットフォーム上のコンテンツをコントロールする警察になるのか、それともリスクがあってもユーザーに完全なる自由度を与えるのか。どちらにせよ、一貫性のあるルールや判断が欠かせない。平等にルールが実行されなければ、プラットフォームの信頼を失うのは仕方のないことだろう。

Written by Tetsuro (@tmiyatake1) | Edited by Miki (@mikirepo)

この記事が気に入ったらサポートをしてみませんか?