『Silicon Values』（ジリアン・ヨーク）ブックトーク
うぐいすリボン主催ブックトーク「性表現の自由と規制をめぐって」
第３回『Silicon Values』
著者：ジリアン・ヨークさん（電子フロンティア財団 国際的表現の自由分野ディレクター）
質問：スヴェトラーナ・ミンチェバさん（全米反検閲連盟プログラム顧問）
うぐいすリボンでは、表現の自由に関係する様々な本の著者をお呼びしてのブックトークを実施しています。このシーズンでは、世界的に議論が激化している性表現をめぐる自由と規制の問題についてとりあげます。
本シーズン第３回目の今回は、GoogleやAmazonなどの巨大IT企業が、国境を越えて表現の自由の生殺与奪を握る現在の社会を描いて世界的に話題になった『シリコン・バリューズ：監視資本主義下の表現の自由の行方』の著者であるジリアン・ヨークさんに登場して頂きました。
（2022年12月にビデオ収録。本稿はそこからの抄訳）
著者ジリアン・ヨークが語る『Silicon Values』
『Silicon Values：監視資本主義下の表現の自由の行方』の著者、ジリアン･ヨークです。
法律が秘密裏に制定される社会を想像してください。その法律は、いつでも改定される可能性があり、民主性も透明性も正当な手続きもありません。法の執行者は、現地の事情に疎い経験不足の人物か、訓練された機械です。架空の社会の話ですが、類似の場所があります。シリコンバレーの閉ざされた世界です。プラットフォームの多くが、そこで構築、運営されています。
私がこのテーマに関心を持ったのは、20年前にモロッコに移住して、「ライブジャーナル」が使えないと知った時です。アメリカ育ちの私には初めての経験でしたが、モロッコでは「不適切な」サイトを政府がブロックしていました。例えば、王室や政府への批判や、西サハラ問題の議論などです。モロッコの人権侵害を取り上げたサイトをはじめ、多数のサイトが閲覧不可でした。モロッコ生活ではオフラインでの検閲も経験しました。2007年、王族に成り済ましてウェブページを作成したとして、ウラジーミル･モルタダという青年が逮捕されました。運営者であるフェイスブックは該当ページを削除。モロッコ政府の要請だったかは不明ですが、私は興味を引かれました。
そして１年後、オープンネット･イニシアチブという研究プロジェクトに参加しました。そこで65以上の国のインターネットフィルタリングについて調査したのです。モロッコのようなネット検閲が世界中で行われていることを知りました。宗教や政治の話題、性表現、ヘイトスピーチなどが数十か国で日常的に検閲されていました。ある時、モロッコの青年からフェイスブックによる検閲の連絡を受けました。
まず検閲という言葉を定義しましょう。通常、法的な検閲といえば、政府が行うものをイメージしますね。しかし検閲の本質は、権威者が表現や物事に対して規制や罰を科し、自らの支配力を示す行為です。これが私の著書における検閲の定義です。つまり、この権威を行使するのは国家に限らず、他の機関でもあり得るのです。宗教団体、文化団体、教育団体や、企業が所有するプラットフォームなどです。
私に連絡してきたモロッコの青年は、フェイスブックページで宗教と教育の分離を求め、ページを削除されました。これが、コンテンツ規制に関する報告書を書くきっかけでした。
アメリカのプラットフォームは、憲法で表現の自由を保護されています。自分たちのプラットフォームでどんなコンテンツを扱うかを取捨選択する自由があるのです。コンテンツ削除の事例には不当に感じるものも多数ありました。名前を理由にフェイスブックのアカウントを停止された女性。フリッカーに投稿されたルーマニアの少年の喫煙写真。警察の暴行を撮影したユーチューブ動画。これらの削除は独断的です。
当初、私は居住歴のある中東や北アフリカを中心に研究を進めていました。チュニジアとエジプトの民主化運動にも注目しました。本の冒頭では、この時代にソーシャルメディアがどう活用されたか、また、国や各プラットフォームがどんな検閲をしたかを書いています。
次のテーマに移る前に、当時を象徴する事例を紹介します。まずは、ジャーナリストのワーイル･アッバスの例です。彼はユーチューブに警察による暴行の動画を投稿し、アカウントを停止されました。サービス開始初期の2007年に起こった出来事で、ユーチューブ社内でも大きな議論の的となりました。親会社グーグルの法律家チームまで参加して、動画が伝えようとしている人権被害と、動画の暴力性の問題の、どちらを重要視するかの決断を迫られました。彼のアカウントは復元されましたが、動画は削除されたままでした。
次に紹介するのは、2010年に警察に殺害されたエジプト人青年ハリード･サイードに関するページの事例です。「私たちはハリード･サイード」のフェイスブック・グループは、2011年１月に集団デモを呼びかけました。実は、デモの数か月前にこのグループページはフェイスブックから一度削除されていました。管理者が偽名を使用していたためです。この時、フェイスブックは創業初期で、市民社会と密接に関わっていました。一般人がフェイスブック社の重役にページの復元を直接要請できました。このグループページが復元されていなければ、歴史は違ったかもしれません。これらの事例は、プラットフォームが、政治的に大きな役割を担っていることを示しています。
ヌードや性表現に対するネット検閲も私の研究分野です。多くのソーシャルメディアが女性の胸の露出を禁じていると知り興味を持ちました。当初、フェイスブックは胸の写真をすべて禁じていました。授乳中の写真もです。女性の乳首は「陰部」として削除対象にされる一方、男性の乳首は問題とされませんでした。彼らはヌード規制の理由をこう説明しました。グローバルな利用者の中には文化的背景や年齢からヌードに過敏に反応する人もいると。つまりシリコンバレーの重役たちが表示可能なコンテンツを決める基準は、遠い世界の人々がどう感じるかという彼らの推測でしかないのです。
懸念を抱いた私は、規約変更を求める活動に参加、特にフリー･ザ･ニップル運動は成果を上げています。それでもヌードや性表現の規制は存在します。フェイスブックは現在、授乳中の写真や、芸術的な作品、伝統行事における女性の胸の露出は禁止していません。しかし男性の胸は許可しながら、女性とノンバイナリーの胸は禁止するという差別は続いています。この規約は女性やノンバイナリーを性の対象化して、芸術表現にも悪影響を与えるものといえます。
例を紹介しましょう。アダムとイブを描いた「ザ･ニューヨーカー」の漫画です。
キリスト教の「原罪（original sin）」とかけた「こんなの初めて（It was original.）」のセリフ付きです。私は面白いと思いましたがフェイスブックは違いました。女性の胸の画像を禁じる規約に違反しているとみなしたのです。
これに対して、『ザ･ニューヨーカー』は、新しい漫画を出します。
同じ構図ですが、こちらの２人は服を着ています。「ザ･ニューヨーカー」は、この件の記事の中で、恐らく問題となったのはイブの乳首だけだと述べました。漫画でも、裸の胸の扱いが男女で異なるのです。これらの事例を受け、企業側は一部の規約を緩めましたが、規約の適用は利用者から通報を受けるコンテンツ･モデレータの気分次第です。
こちらの例を見てください。
ダビデ像も葉で陰部を隠されてきた歴史がありますが、今は元の裸体のままで展示されています。フェイスブックでも削除されません。
一方 クールベ作の「世界の起源」は有名な絵画であっても卑猥とみなされています。
今、例に挙げた作品は、世界中の美術館で人々の目に触れて、後世に残るでしょう。苦戦するのは、現代アート作家やアマチュア芸術家です。
次の事例は、実際のところは性表現でもヌード表現でもなく、月経に関する表現の事例です。これは、詩人のルピ･クーアが月経のタブー視を破るためにインスタグラムに投稿した写真です。
この写真はすぐに削除されました。
しかし有名人は例外が認められるようです。
雑誌社がフェイスブックに投稿したこの写真は明らかに規約違反ですが削除されませんでした。
イチジクの葉を使った昔の検閲は作品の一部を隠しました。これに対して無名の芸術家を標的にした現代のネット検閲は作品すべてを削除します。芸術自体が消失するのです。影響を受けるのは芸術家に限りません。
『Silicon Values』では、トランス女性コートニーの経験を紹介しています。彼女は性別移行の過程をインスタグラムに投稿しどの時点で「女性の胸」と判断されるか調べました。
彼女の言葉を引用します。
「定期的に上半身裸の写真を投稿して様子を見ました。始めて２～３か月で運営側は私の投稿を削除し、ホルモン療法を受ける以前の胸の写真まで消されました」
性的な写真というわけではなかったのに、彼女の実験全体が削除されたのです。
第６章で述べたようにシリコンバレー企業の規約はアメリカの文化や立場の強い人の声を反映しています。既存の文化基準に従っているだけと企業側は言うかもしれません。女性の身体を隠せと要求するのは一体、誰の文化基準なのでしょう。この何が基準なのかという問いは、本書全体を貫くテーマでもあります。企業の利用規約は教育情報にも影響を及ぼします。ある女性器関連の書籍はフェイスブックから何度も削除されています。性的コンテンツやその作者に対する規則は厳しさを増すばかりです。
2018年、ＳＥＳＴＡ/ＦＯＳＴＡ法が制定され、この傾向は更に加速。性的人身売買を阻止するためだったはずの法律が、性表現を萎縮させました。企業は法に抵触することを恐れて、過度なコンテンツ規制に走り、スポーツであるポールダンスさえ性的すぎるとみなすようになりました。セックスワーカーたちは、プラットフォームから追放されました。法に従い、性表現を控えていたにもかかわらずです。
プラットフォームのユーザーが住む国でセックスワークが違法とは限りません。ドイツで合法的に働いていても、アメリカの検閲で痛手を負うのです。これが本のメインテーマにつながります。シリコンバレーやワシントンの会議室での決定事項が世界中の表現に影響を与え、アメリカ的価値観を押し付けている。その決定に最も影響されるのは、活動家、女性、ＬＧＢＴＱ、芸術家など社会的に弱い立場にあるコミュニティーなのです。
規約の策定者は自分の価値観に染まりきっていて、その有害性に気付いていません。だからこそ声を上げて、有色人種や、クィア、トランス、女性、障がい者、芸術家など、あらゆる周縁化された人々が議論の席に着くことが重要なのです。これが私の本の要旨です。世界中のプラットフォームは自らの価値観をユーザーに押し付けるのをやめて、市民社会の声を聞き、規約の透明性を確保すべきです。ユーザーが検閲に対し、異議を唱えられる仕組みも必要です。プラットフォームで犯罪の扇動やヘイトスピーチなどが増加しているのは事実です。企業には、人権に関する国際的な枠組みに則したコンテンツの適正評価を行う責任があります。しかし、プラットフォームで起こる有害行動に注目するだけでなく、重要な表現を削除することの有害性も考えていくべきです。
著書では、表現を守るため私たちに何ができるかを論じました。なぜなら未来は私たち次第だからです。ありがとうございました。
インタビュー・コーナー
プラットフォームとヌード、性表現
ミンチェバ：
ブックトーク「性表現の自由と規制をめぐって」へようこそ。
あなたの表現の自由についての熱心な研究と啓発活動、多彩な著書の執筆に感謝します。今回の本ではソーシャルメディア・プラットフォームが、ユーザーに過剰な検閲を行っている問題を取り上げていますね。そして、そこには「市民社会の監視の目」や「透明性もない」と。また、プラットフォームの運営企業と政府が裏取引をする可能性を指摘しています。人権上の懸念から政府が直接は行えない検閲を、企業が代行してしまう可能性があると。世界的なソーシャルメディア・プラットフォームの規模を考えると、その検閲の影響力は強大でしょう。政治や様々な文化問題への私たちの向き合い方も左右します。
これは、ヌードやセクシュアリティに関しても同様です。プラットフォームは、性の価値観を人々に押し付けているといえます。しかもシリコンバレーのポリシー決定者の価値観ですらなく、彼らの想像上の繊細な人々の価値観に基づいてです。その基準は性差別的で、女性の身体を過度に性的に扱います。そして、芸術や性教育などの諸問題の処遇も、コンテンツ･モデレータの一存です。この対談では、今の状況に至るまでの経緯や、現在の課題、今後の見通しを聞かせてください。
質問したいことがたくさんありますが、まずは、大規模プラットフォームはなぜヌードとセックスに厳しいのか、そこから教えてください。これはいったい誰の価値観を基準にしたものなのでしょう。多様な性的サブカルチャーが発展しているアメリカの文化が基準になっているとは思えないのですが、なぜだと思いますか？
ヨーク：
複数の要因が考えられますが、いくつかのポイントについて突っ込んで考えてみたいと思います。まず、現在のアメリカの性的サブカルチャーは活発ですが、その多くが歴史的に強く抑圧されてきたことも事実です。解放運動が盛んになった60年代頃までは抑圧傾向にありました。そうした歴史的背景や、アメリカにおける数々の保守運動、またキリスト教信仰の影響から、今の社会にも保守的な性質はあります。ほんの数十年前まで、音楽の歌詞の性表現すら抑圧されていたことは、念頭に置くべきだと思います。
1980～90年代に入っても歌詞の規制は続きました。最近映画にもなったエルヴィス･プレスリーが良い例です。数十年前、私の両親が若かった頃の話ですが、エルヴィスはダンスを理由に逮捕されそうになりました。
ミンチェバ：
腰振りですね。
ヨーク：
腰振りダンスです。アメリカには二面性があります。オープンな文化と表現の自由の伝統がありますが、特に性表現には真の自由があったとは言えません。
これを証明する法的要素もあります。わいせつ表現の規制などです。私は法律家ではないので大まかにお話ししますね。
ポルノグラフィの普及に対する反動がオフラインでもオンラインでも見られました。70年代のポルノ雑誌創刊者ラリー･フリントへの訴訟、そしてネット上のポルノを規制するための通信品位法の制定、これについては後述します。2018年には性的人身売買の防止法案であるＳＥＳＴＡ／ＦＯＳＴＡが可決され、性的コンテンツに大打撃を与えました。セックスワーカーの組織化や、オンライン･セックスワーカーの通常の活動、さらに表現としてのヌードも規制されたのです。
ヌードや性表現の厳しい規制の裏には様々な要因があります。ある種のサブカルチャーや性的な音楽表現が興隆したと言っても、これらのコミュニティは今も多数派の壁に直面しています。「子どものために」過激な表現を抑圧したがる文化と戦っているのです。
通信品位法とＳＥＳＴＡ／ＦＯＳＴＡ
ミンチェバ：
振り幅が大きいですよね。自由化の時代のあとは弾圧の時代が訪れます。
通信品位法とＳＥＳＴＡ／ＦＯＳＴＡに関してお聞きします。90年代のインターネットポルノをめぐる混乱と、アクセス可能なポルノが爆発的に増加した経緯、その後に制定された通信品位法が失敗に終わった理由を教えてください。
ヨーク：
当時の記憶はあまりないので、研究に基づいてお話しします。私がまだ幼かった1980年代～90年代初頭、アメリカで子どもがポルノに出くわすことは稀でした。地下室でプレイボーイ誌を見つけたり、友人の家で有料チャンネルを見たりする以外には、ポルノを見る機会はほとんどなかったのです。
しかし90年代のインターネットの普及で状況は激変。ネット環境があれば誰でもポルノを見られるようになりました。人は性的コンテンツを好むものですし、インターネットは格好の手段でした。ブロードウェイのミュージカル「アベニューＱ」に、「インターネットはポルノの為」という歌がありましたが、それくらい、ネットでポルノを見るのは一般的だったのです。
当然、反対運動も起こります。1995年、パソコン画面の前に座る子どもの姿がタイム誌の表紙を飾りました。仰天した表情の下には、「サイバーポルノ」の文字。危機感をあおる情報操作です。雑誌の記事では当時のニュースグループ内でポルノがまん延していることを示す研究を取り上げていました。大学生が書いたその論文は大学の学術誌にも掲載されました。ニュースグループ上の画像の８割がポルノだという研究は波紋を呼び、公聴会の開催につながりました。公聴会にはネブラスカ州とワシントン州選出の上院議員が出席。民主･共和両党が共同で通信法改正案を提出しました。これが後の通信品位法です。改正案は既に施行されていた猥褻表現の規制を、インターネットにも適用したものです。改正案提出のきっかけは、一介の大学生の論文で、しかも不正確でした。ニューヨーク･タイムズ紙が、粗雑だとして掲載を見送ったものです。それでもこの論文は社会に衝撃を与えて、通信品位法が導入されました。ただし、一部は後に最高裁で違憲とされ、わいせつ物の規制に関する条項が削除される一方、第230条は残りました。企業の免責を規定した第230条は妥当な内容だと言えるでしょう。この流れの興味深い点は、たった１つの不正確な研究、つまり誤情報が上院議員をも動かして、法案提出につながったことです。問題のある法律だったので、撤廃されて幸いでした。
ミンチェバ：
通信品位法の部分撤廃は、研究の誤りのせいではなく、子どものために大人の表現を制限することが問題視されたからでしたね。子どもが見るものを制限するには、より簡単で合憲的な方法があるわけで。
ヨーク：
そのとおり、この法には様々な課題があり最終的に撤廃されたのです。
ミンチェバ：
現行の通信品位法第230条は今日のインターネットのあり方を作った法律といえます。プラットフォームが多様な言論をホストすることを可能にすると共に、第三者の投稿内容に責任を負わずに管理できるようにしました。その第230条が、ある困難に直面して、最近話題を呼んでいます。この点についてお話しいただけますか？
ヨーク：
通信品位法第230条の例外が、ＳＥＳＴＡ／ＦＯＳＴＡです。ＳＥＳＴＡ／ＦＯＳＴＡ制定の背景には数々の要因がありますが、「バックページ」の一件が主な引き金です。
バックページはセックスワーカーが顧客を探すサイトで、政府から取締りの標的にされました。詳細な経緯は省略しますが、オンライン性的人身売買の報道が人々の恐怖をあおっていました。もちろん憂慮すべき問題ではあります。そこで例外規定が作られて、性的人身売買を含むコンテンツをホストした企業が責任を問われるようになりました。ＳＥＳＴＡ／ＦＯＳＴＡという名称は、上院と下院で提案された２つの法案が一本化されたことを意味しています。プラットフォーム側の免責を除外する法ですが、内容があいまいで、性的コンテンツが広く抑圧される結果となっています。企業の対応が法定のものか、法律違反を恐れて独自に行ったものかは不明です。これは暴力的過激主義の防止や経済制裁に関する違反、テロリズムへの加担など、企業の法的責任が問われる分野で、よく見られる現象です。でも 今回の件は特に深刻です。表現の自由として保障されるべきものが「性的人身売買」と分類されることになるからです。プラットフォーム企業の多くはアメリカが拠点のため、世界中のコンテンツに萎縮効果を与えています。
ミンチェバ：
抑圧されたコンテンツの例は…
その前に法案の正式名称を、皆さんにお伝えしましょう。ＳＥＳＴＡは性的人身売買抑止法、ＦＯＳＴＡは州と被害者のためのインターネット性的人身売買対策法です。これを略して、通称ＳＥＳＴＡ／ＦＯＳＴＡと呼ばれています。
では 抑圧されたコンテンツの例を教えていただけますか？
ヨーク：
まず挙げられるのはセックスワーカーたちの会話です。検閲の事例をまとめたサイトが複数あって、ＳＥＳＴＡ／ＦＯＳＴＡに起因する規制が紹介されています。例えば セックスワーカーのインスタグラムは性的に露骨な投稿がなくてもアカウントを削除されました。また、よく知られたものとしては、スウィッターの事例があります。ツイッターのもじりですね。スウィッターは、マストドンのインスタンスの１つで、オーストラリアのセックスワーカー向けのものでした。セックスワーカー同士が安全性の問題を話し合う場だったのです。しかし スウィッターにサービスを提供していたクラウドフレアというＣＤＮ事業者が、サービスの提供を拒否。ＳＥＳＴＡ／ＦＯＳＴＡを拒否の理由としました。アメリカ企業が外国のプラットフォームへのサービス提供を停止したのです。
ミンチェバ：
クラウドフレアは、ある種のインフラ企業に当たりますよね。
ヨーク：
そうですね。いわばプラットフォームとインフラの中間のような存在です。他にも性的人身売買とはほど遠いコンテンツが規制された驚くべき事例があります。例えばインスタグラムによるポールダンスの制限。ポールダンスは運動ですし、時には性的な要素があっても、性的人身売買とは無関係です。しかし関連ハッシュタグが制限されました。また、ブログ型ＳＮＳのタンブラーは、ＳＥＳＴＡ／ＦＯＳＴＡ制定を受け、2018年にヌードを規制。現在は規制の一部は緩和されましたがユーザーは著しく減少しました。自動化テクノロジーを用いて性表現を監視する企業は多いですが、タンブラーが採用したテクノロジーは質が悪かったのです。その結果、性表現だけでなく特許出願用の図面までもが規制の網にかかりました。
ミンチェバ：
インスタグラムでのヌード写真家の事例もありますね。インスタグラムの利用規約に沿って作品を自主規制し、乳首や性器のぼかし処理などをしていましたが、性的行為を唆していると作品を削除されました。
ヨーク：
そうですね。私が住むベルリンのナイトクラブの投稿にも変化を感じます。ベルリンのクラブでは性別を問わずトップレスの人をよく見ます。ベルリンでは問題視されませんが、最近、クラブはトップレス女性の写真を投稿しません。削除やアカウント停止を恐れているのでしょう。ここにジェンダー格差がありますね。プラットフォームの検閲でも、自己検閲でも、人々がこの基準に従わされるのは差別的です。
ミンチェバ：
法律違反を恐れるあまり、合法なコンテンツにも広く影響が出ています。紹介した事例は、どれも合法で性的人身売買には当たらないのに規制されました。掲載したコンテンツに責任を問われる企業側からすれば芸術家やセックスワーカーを抑圧するほうが低リスクなのです。個人ユーザーを締め出すのは企業にとっては簡単です。一方、個人ユーザーにとってアカウントやフォロワーを失う損失は計り知れません。
マストドンの可能性
ミンチェバ：
次に、先ほど話に出たマストドンについて解説をお願いできますか？
ヨーク：
マストドンは連合型ＳＮＳのレイヤーの１つで、アクティビティパブという下位プロトコルを使用しています。異なるサーバーで、異なるインスタンスを作れます。つまりフロントエンドのプラットフォームでありながら、個別のインスタンスを持つのです。ドイツで運営されるインスタンスも、日本のサーバーで運営されるインスタンスもあります。インスタンスが分かれているので、それぞれに個別のルールや特徴を設定することができます。
面白い点は、異なるサーバー間の相互運用が可能なことです。例えばメインサーバーを使う私が日本のサーバーの利用者と交流することもできるのです。メールと似ています。使用するドメインが違っても、メールの送受信はできますよね。
ミンチェバ：
フェイスブックとツイッターの連携にも似ています。
ユーザーはソーシャルメディア企業に、ある意味で所有されていますが、マストドンはこの解決策になり得ますか？
例えば フェイスブックではデータや友達の情報を他で使用できません。ユーザーはフェイスブックの利用規約に従うしかなく、異議申し立ても、ほぼ通りません。検閲に苦しむヌード写真家やセックスワーカーにとってマストドンが他のプラットフォームの代替手段になる可能性はありますか？
ヨーク：
答えはイエスでありノーです。マストドンなどの連合型ＳＮＳでは自身のデータ管理の自由度が高くなります。民間企業の裁量の影響は受けません。しかしサーバーが投稿を規制することはあり、各マストドン･サーバーで様々なモデレーションが行われています。マストドンでもアカウントを失うことはあるのです。これからの連合型ＳＮＳに重要なのは、市民社会と対話を続け、中央集権型ＳＮＳと同じ過ちを犯さないことです。とは言え、相互運用が可能で、データ移行もできる点は、連合型ＳＮＳのすばらしい特徴です。表現の自由に関する議論は今後展開されるでしょう。今は自由が保障されているとは言えません。
ミンチェバ：
でも、自分に合った規約のあるサーバーを選べると？
ヨーク：
ええ。
ミンチェバ：
例えば、ヘイトスピーチは禁止で、ヌードは許容とか。
ヨーク：
そうです。
きっと こんな質問が出てくるはずです。マストドンがクラウドフレアを使っていたらサービスを停止されるのでは？ アマゾンのクラウドサーバーを使っていたらアマゾンの検閲が入るのでは？、と。
理論上は 自分がホストするマストドンの物理サーバーがあれば、自分の好きなようにルールを作ることができます。性的コンテンツに寛容なインスタンスを作ることも可能です。
ヌード禁止の長期的影響
ミンチェバ：
次は、ヌードの検閲の長期的影響について伺います。アメリカのセレブ文化では、過度に性的な有名人がもてはやされます。その一方で、ヌードに対して厳格な規制もあります。ヌードは一様に性的とみなされますが、それは違います。授乳中の母親や、芸術表現としてのヌード写真など、すべてがセックスに関係する表現ではありません。
ヌードの規制は文化全体の問題にもなるでしょうか？
ヨーク：
もちろんです。私が幼少期に見た裸体といえば、「プレイボーイ」の誌面か、水泳プールの更衣室にいる人々でした。しかし現在のコンテンツは、オンラインやオフラインを問わず、以前より加工が多くなっています。現実の裸体ではないのです。整形と写真修正を施したセレブやモデルの画一的な身体ばかりを目にする状況です。特に若者は、こうしたコンテンツに触れることで、人間の身体や性についての歪んだ認識を持つでしょう。ポルノへのアクセスが容易にできる一方で、普通のヌードやセックスが規制されていると、その点が心配です。ポルノを規制すべきとは言いません。大事なのはバランスです。今は、いわゆる普通のヌードや、標準的な性的コンテンツのみが検閲を受け、削除される対象になってしまっているのです。ポルノはいつも禁止事項を回避する方法を編み出すので、人々は偏ったコンテンツばかりを目にします。規制は発信者だけでなく、私たち全員に悪影響です。何事でも、若者が極端な例にしか触れないのは問題ですよね。
ミンチェバ：
ヌード規制は、性別移行中の人にも大きな影響を与えます。身体的に、どこまでが男性でどの段階から女性と見なされるか分かりませんからね
ヨーク：
私もその問題については懸念しています。プラットフォームはノンバイナリーという性自認の支持を表明してはいます。フェイスブックに登録する際には性別欄に50以上の選択肢があります。それなのに生まれつきの性や自認する性にかかわらずある程度の大きさの胸があれば女性と見られます。プラットフォーム側の本音の表れです。プラットフォームは、「女性らしい胸」がある人…、まずその考え自体も古臭いですが、そうした外見で判断して、その人の扱い方を決めているのです。この状況では、私たちが目にするのは胸のないノンバイナリーの人だけで、それはノンバイナリーの正確な描写とは言えません。性別移行中の人も同様です。こういう事例もあります。男性から女性への性別適合手術の過程を写真に収めていた人物が、同じ写真を２回投稿しました。片方は裸の胸と男性の顔が写っていて、片方は裸の胸のみです。胸だけの写真は削除されました。アルゴリズムが顔で判断し、前者については男性の胸の写真と識別したからでしょう。女性たちが男性の乳首の写真の切り抜きで自分の乳首を覆って、ヌード規制への抗議を表明した運動もありました。今のヌード規制がいかに不合理か分かりますよね。そもそも女性の上半身を性的と見なすこと自体が問題だと思います。
ミンチェバ：
女性がトップレスになるのはニューヨークでは合法ですものね。毎日 トップレスで通学していた芸術大学の女子学生もいました。街中ではいいのに、ソーシャルメディアではトップレスは禁止です。
これからのプラットフォームのあり方
ミンチェバ：
現状を変えるためには、どうすればいいとお考えですか？
市民社会の参加はもちろん必要でしょう。しかし、もしあなたがポリシー決定者ならヌードとポルノに関する規定の何を変更しますか？
以前は 社会的に自由主義の傾向が今よりも強く、人々はオンラインでも自由に発言できる環境を求めていました。投稿の監視は最小限にとどめるべきという風潮が強かったのです。しかし新型コロナウイルス関連の誤情報の拡散や、ロシアによる選挙への介入問題を受け、オンラインの言論を規制すべきという意見が増えています。言論の自由という個人の権利と、公共の利益との均衡を保つべきだという認識ができたのです。この点について、ご意見は？ あなたがポリシー決定者ならどうしますか？ ご自身は、自動化モデレーションや個人によるモデレーションの問題点を指摘し批判を展開されてきましたね。改善策はありますか？
ヨーク：
難しい質問ばかりですね。まず、プラットフォームによる規制をなくす方向にはならないでしょう。イーロン･マスクが投稿規制を廃止していますが、現実的な対応とは思えません。なぜなら、誤情報やヘイトスピーチや扇動行為がいかに有害か、身にしみて分かっているからです。必要なのは、基本に戻って人権に関する国際的枠組みを確認し、有害な言論の定義を知ることです。各国政府が合意した枠組みを基にルールを定めるべきです。枠組みで有害と見なされている言論の中に性的コンテンツは入っていないのです。
この点について詳しくお話ししたいと思います。性的コンテンツやヌードを規制すべき理由として説得力のあるものはありません。有料化するなどして過激なポルノを大人しか見られないようにする方法はいくらでもあります。例えばイギリスではインターネット接続業者にポルノをブロックさせる案が出ています。これには反対ですが、ポルノサイトが自発的に対策するのは妥当でしょう。しかし、そもそも性的な画像やヌード画像についてはその有害性が論証されていません。でも、プラットフォームからは真っ先に規制されます。
ミンチェバ：
フェイスブックはヌード画像規制の基準として同意と年齢確認を挙げています。しかし、リベンジポルノで恋人の裸の画像を投稿した場合、同意の有無や未成年か否かの判断は、どう行うのでしょう？
ヨーク：
いい指摘です。プラットフォームが年齢を正しく判断するのは困難です。リベンジポルノの問題を矮小(わいしょう)化する意図は全くありませんが、ヌードをすべて禁止するという解決法は違うと思います。ヌードを排除する前に。プラットフォームが取れる対策は数多くあります。同じ問題を抱えるポルノサイトは様々な対処法を考えました。すべてのサイトではありませんが、大手ポルノサイトは年齢確認や身分証明書の確認を行っています。私は政府の介入には反対です。状況次第では、プラットフォームの判断でヌードを許可してもいいと思います。ヌードの絵などは明らかに許容範囲です。
「何でも許可」と「全面禁止」の間にも選択肢があるのに、今の社会は「全面禁止」です。私がポリシー決定者なら、よりきめ細かい規約を作り、自動モデレーションを廃止し、年齢確認の方法を見直して、精度を向上させます。改善の余地はあるはずです。ジェンダーや性別二元論の問題にも向き合っていきます。
繰り返しますが、ヌードと性的コンテンツは別物です。未成年のヌードがネットに出回るのは問題ですが、ヌードがすべて性的ではないことも周知すべきです。正当なコンテンツ･モデレーションを広い範囲で行うのは不可能だと思います。プラットフォーム企業はポリシーやプロセスを監査すべきです。現状は、様々なポリシーが何層にも積み重なっていますからね。
他の重要な改善点は企業の取り組みをユーザーや世間に透明性を持って公表することです。削除をユーザーに通知し、異議申立ての機会を与えるのです。例えば性的コンテンツの削除に対して、年齢を証明することでの反証を可能にするなど、様々な方法が考えられます。それが出発点ではないでしょうか。今の企業は自動化に任せきりで、その判断が多様な集団に与える影響に無頓着です。
ミンチェバ：
シャドウバンの問題もありますよね。規約違反の投稿を削除するのとは違い、不適切な投稿を非表示にする措置で基準はあいまいです。ユーザーへの通知がないので抗議もできません。
ヨーク：
そうですね。
ミンチェバ：
あなたの主張の中で言論の自由に関して非常に共感したことがあります。
「自由な言論が必ずしも素晴らしいものとは限らないが、検閲の有害性は言論の有害性に勝る」
私たちはすべての言論を称賛しているわけではありません。言葉の影響力は強く良くない結果も生みます。しかし 世界中で交わされる会話の是非を決定し検閲する権限を一般企業に与えるのは大変危険なことです。見たいと望まない人がヌードを目にすることより危険で、ヘイトスピーチの有害性さえも上回ります。ヘイトスピーチの線引きもまた別の問題ですね。私たちは 何の責任も負わない企業にある種の法的な力を与えています。
ヨーク：
そのとおりです。企業は裁判所ではないし、政府からの要求が独裁に当たるかも判断できません。文脈の中であるコンテンツを捉えた時にそれがヘイトか反論やパロディーか、または研究の一環なのか、判断を誤る企業が多いです。企業による過剰検閲の事例は多数あります。
ミンチェバ：
では市民社会はどう関わるべきですか？
フェイスブックの監督委員会は市民社会の関与と言えますか？
市民側にも偏見はあるのではないですか？
人権的枠組みに沿って市民社会が企業を監督する方法は？
ヨーク：
まず、フェイスブックの監督委員会について答えますが、最適な解決策とは言えないまでも意義のある実験だと思います。批評をしていくべきですね。興味深いのは、委員会のメンバーに多様性があることです。まだ十分ではないですが、比較的、多様なメンバーが在籍し、同社の検閲に対し勧告を行っています。これまでの委員会の決定には、１つの例外を除き 私も賛成です。人権に関する枠組みに沿って、委員会が実際の事例を審査し、フェイスブックはその勧告に従います。委員会の人数にしては審査した事例数が少ないなど批判点もあります。しかし、他の企業でも採用できるシステムの１つの前例ではあるでしょう。これが最初の質問への回答です。
次の質問は市民社会の件でしたね。市民社会が自分たちの中にある偏見や先入観を持ち出さずに企業を監督するにはどうすべきかと。まずは国際的に幅広い社会の構成員を集める必要があります。地域の多様性だけでなく、関心の多様性も重要で、アーティスト、ＬＧＢＴＱ団体、環境活動家などを参加させるべきです。今は言論の自由に関して様々なコミュニティが意見し、文化的衝突が起こっています。衝突が起こる一因は、今まで言論の自由の保護団体しかこの問題に関心を持っていなかったからです。早く議論に参加すべきだったと他の団体を責める気はありません。他の団体はデジタル権利団体と違って、当初は表現の自由という理念を支持してなかったのかもしれません。様々な団体が連携すれば、問題の合意点を見つけ、互いに学び合えるでしょう。インターネット･ガバナンス･フォーラム（ＩＧＦ）も格好の機会です。
ミンチェバ：
そのような体制の組織は、政府やソーシャルメディア企業とは別の独立組織になりますか？
ヨーク：
インターネット･ガバナンス･フォーラム（ＩＧＦ）などマルチステークホルダー型の組織は、多種多様な立場の人々による議論を可能にしてきました。しかしプラットフォーム企業の活動を現実的に考えると、企業と市民社会が直接対話するフォーラムがもっと必要です。政府は不参加にすべきです。政府は規制しようとしている行為を自ら行っている場合があるからです。誤情報を取り締まろうとする政府に属する政治家が、誤情報を広めていたりしますよね。私が懸念しているのは、議論の場で、政府が市民社会より優位に立つ点です。ＩＧＦでも携帯電話の使用は禁止なのに政府関係者を含むＶＩＰは特別に許可されています。すでに不平等なのです。企業の影響力を考慮すると、市民社会の議論への参加は不可欠です。立法者と市民社会の対話も必要ですが、必ず行われるとは限りません。ＳＥＳＴＡ／ＦＯＳＴＡの立法者は、性的人身売買防止団体の声は聞いても、デジタル権利団体の意見は求めませんでした。ドイツのネットワーク執行法も、市民社会と対話をしていれば、多くの欠陥をもっと早く指摘してもらえたでしょう。立法には多角的な視点が重要です。
ミンチェバ：
有益なお話をありがとうございました。楽観的視点を常に持っているとおっしゃっていましたね。市民社会の参加に熱意を持っている点にも、あなたの楽観性が見て取れました。現状について、楽観視できる部分はありますか？
ヨーク：
正直、ツイッターの現状を見ると楽観的でいるのは難しいです。私が育ったプラットフォームでもありますからね。でも、その結果、マストドンへ人が流れたり、新しいプラットフォームが誕生したり、様々なイノベーションが起きています。希望が持てますね。市民社会にも明るい面があります。私が議論に参加し始めた頃、女性は私一人でしたし、20代の参加者が私だけということも多かったのです。外国出身の人も非常に少なく、参加者の属性が偏っていました。多様な集団や地域の代弁者がいなかったのです。現在では、主要な議論の舞台がアメリカでの政府主催のフォーラムではなくなりました。最近参加した地域カンファレンスは、ボスニアのバルカン半島会議、ザンビアのパン･アフリカ会議、レバノンの中東･北アフリカ会議で、それぞれ外国人参加者もいました。どの会議でも進歩的な議論が展開されていて、アメリカの会議とも引けを取りません。会議の決定に最も影響される人々は大抵、最も革新的なアイデアを持っています。難しい質問にも、私より的確な答えを出せます。直接的に影響を受けてきた人々の声を聞くべきです。最近、企業が幅広い人々の意見を取り入れるようになったのは良い傾向です。
ミンチェバ：
シリコンバレーの声だけでなく、その他の数十億人の声を聞くべきですね。
ヨーク：
そうです。１つの例をご紹介します。数年前、世界に軽視されてきたある地域の人々が、フェイスブックと対話をする状況になりました。この問題に関する二者間の対話は今も続いています。プラットフォーム側が以前より市民の声に応じるようになったのです。フェイスブックの人員削減後の対応は、まだ分かりませんが、良い兆候です。
ミンチェバ：
10年後が楽しみですね。
ヨーク：
答え合わせしましょう。
ミンチェバ：
ありがとうございました。
ヨーク：
こちらこそ。