Facebookがエチオピアで失敗し続ける理由
感想
長いので先に感想。4月に保存しといた記事。エチオピア内戦の停戦で思い出して、公開。
SNSの会社で、暴力を煽る投稿を制御できるなら、その逆を考えると恐ろしくなる。
元記事 2022/04/27 自動翻訳
Facebookのポリシー違反により、エチオピアで数千人が殺害された
Facebook は長い間、プラットフォーム上でのヘイトスピーチの拡散に責任を負ってきました。
このような機密コンテンツを制限することを約束しているにもかかわらず、現実はまったく異なります.
Facebook は、ミャンマーやバングラデシュなどの国でテンプレートとなっているヘイトスピーチを含む投稿を口コミで拡散させたと非難されています。
Facebook がコンテンツの管理に失敗したエチオピアの状況も同様であり、その結果、社会的緊張が高まっています。そして現実世界の暴力。
エチオピアは長年にわたって不安定であり、政治体制は憎悪に基づいています。
ここでFacebookは、表現の自由とヘイトスピーチの違いを理解できていません。
人々はソーシャル メディア プラットフォームを使用して自分の考えを表明し、過去に聞いてもらいました。
これは、国が民主主義を達成し維持するために必要なものになりました。
しかし、最近では、宗教的または政治的なプロパガンダを広めるために使用されています.
近年、これは増加し、ピークに達しています。
その結果、ヘイトスピーチはバーチャルな領域から物理的な領域へと移行しました。さらに、進行中のエチオピア内戦中のプラットフォームでの暴力への呼びかけは、現実世界の暴力に端を発しています。了
元記事 2021/11/13
Facebookがエチオピアで失敗し続ける理由
漏洩した文書は、同社がプラットフォーム上のヘイトスピーチの量に追いついていないことを示しており、それが現実世界の暴力につながっています.
10 月下旬、エチオピアの国営テレビに出演したことで知られる、アディスアベバを拠点とする活動家 Dejene Assefa は、Facebook の 120,000 人を超えるフォロワーに向けてメッセージを投稿しました。
この投稿は、彼の同胞に全国で立ち上がってティグラヤン族のメンバーを殺害するように勧めた.
「戦争は、あなたが一緒に育った隣人と共にあります」
と彼はエチオピアの主要言語の1つであるアムハラ語で書いた.
「あなたの森からこれらのとげを取り除くことができれば…勝利はあなたのものになるでしょう。」
このメッセージは 900 回近く共有され、2,000 を超える反応がありました。返信の多くは、暴力への呼びかけを反映しており、デジェンのアドバイスに耳を傾けることを約束しました。
エチオピア連邦軍は現在、主にティグレ地域の反乱グループと残忍な内戦を繰り広げています。
伝えられるところによると、アディスアベバでは、警察が市全体の手入れを行い、ティグラヤ人の祖先を持つと特定された人々を家、企業、さらには教会から引きずり出しました。
フェイスブックでは、ティグラヤ人の殺害と大量収容を求める声が急増している。
「コンテンツは、私がこれまでに見た中で最も恐ろしいものです」と、アムハラ語に堪能な、元 Google データ サイエンティストで AI のバイアスに関する主要な専門家である Timnit Gebru 氏は、Rest of World に語った。
「それは文字通り、大量虐殺への明確かつ緊急の呼びかけでした。これは、ルワンダのラジオ ミル コリンズで見られたものを彷彿とさせます。」
フツ族の過激派がルワンダに設置したラジオ テレビ リブレ デ ミル コリンズは、1994 年にルワンダで大量虐殺を引き起こした暴力への呼びかけを放送しました。
Facebook は、エチオピアにおける誤報とヘイトスピーチのリスクを認識しており、危険なコンテンツを管理していないことも認識しています。
いわゆる Facebook Papers リークの一部として公開され、Rest of Worldによって確認された内部メッセージとドキュメントで、同社は 2020 年に、アムハラ語でのモデレーション機能が不十分であり、言語の壁によりユーザーが問題のあるコンテンツを報告することを妨げていることを認めました。
エチオピアの状況を理解する上でのギャップを埋めるために、同社は「ネットワークベースのモデル」を使用することを提案しました。これは、不透明でデータ駆動型の実験的なメカニズムです。
エチオピアのフェイスブックでの最近のヘイトスピーチの急増は、フェイスブックがこの国の問題をいまだに解決していないことを示している.
「私が見たものは衝撃的でした。10 人、100 人、1,000 人のフォロワーを持つランダムな人物ではありませんでした。それは、何十万人ものフォロワーを持つリーダーのグループであり、人々に何をすべきかを明確に指示していました」
とゲブルは言いました.
「最も衝撃的な部分は、緊急性と、人々を今すぐ行動させるために言葉が設計された恐ろしい方法でした。」
エチオピアの内戦は 2020 年後半に勃発し、同国の首相であるアビィ アーメドは、連邦軍基地を攻撃した戦闘員を追放するために同国の北部ティグレ地域に軍隊を派遣しました。
最初は、隣国エリトリアからの兵士によって最終的に支援された連邦政府軍が優位に立っているように見えたが、その後持続的な反撃によって押し戻された. 人権団体は双方の残虐行為を記録してきましたが、国連難民高等弁務官事務所による共同報告書は、政府軍による人権侵害を発見しました。
これには、ティグラヤ民族の虐殺や、何千人もの女性に対する武器によるレイプが含まれます。
米国政府は、キャンペーンをジェノサイドと宣言することを検討しています。
エチオピアでは、ジャーナリストが投獄され、国営メディアが国および同盟軍による人権侵害のすべてのニュースを検閲しているが、政府の対応は、軍の行動に同意をでっち上げるソーシャルメディア活動家や著名人の軍隊によって支えられている.
国内に 600 万人以上のユーザーを持つ Facebook で大勢のフォロワーを持つ人もいます。
これらのアカウントは、多くの場合、ジャーナリスト、人権活動家、およびエチオピア軍に批判的な人物を選び出し、彼らを「裏切り者」と呼んでいます。
少数民族を対象とした非人道的な言葉遣いは常態化しています。
7月、戦争の流れが変わり、欲求不満のアビイ・アーメドはフェイスブックで暴言を吐き、彼が「雑草」と呼んだ「癌の」反政府勢力を鎮圧することを誓った。
エチオピア政府が支援する Facebook アカウントは、この用語を使用して、ティグラヤ民族全体を大まかに指すようになりました。
ネット上でのレトリックは、単に国内の政治環境を反映したものではなく、暴力の悪化に積極的に貢献した可能性が高い.
Facebookの内部文書によると、今年、ディアスポラグループによる少なくとも2つのキャンペーンが確認されました.
1つは主にエジプトに拠点を置き、もう1つは部分的にスーダンに拠点を置き、民族分裂を煽ろうとしていたとされています.
1 人は人権侵害で告発されているファノ民兵組織に所属し、もう 1 人は国家に対する暴力を呼びかけていたオロモ グループに所属していた。
オロモの過激派も連邦政府に対して戦争を繰り広げています。
エチオピアのバハルダール大学で法学の元講師を務め、現在はオーストラリアのモナッシュ大学で博士号を取得中の Yohannes Ayalew 氏は、Rest of World に次のように語っています。
彼は、2020 年 6 月にエチオピアの歌手で活動家の Hachalu Hundessa が殺害された後、Facebook でヘイトスピーチと「復讐」を求める声が急増していることを指摘しました。
エチオピアのオロミア地域の他の少数民族のメンバーが殺害されました。
フェイスブックの内部告発者であるフランシス・ハウゲン氏は、10月に米国上院小委員会で行われた証言で、エチオピアでの同社の失敗は、ミャンマーでの失敗に匹敵する可能性があると述べた.
内部文書は、会社が失敗した理由を示しています。Facebook は、ヘイトスピーチや暴力の呼びかけを積極的に特定するには、現地の言語での報道が十分でないことを認識していました。
また、問題のあるコンテンツを特定するために、ユーザーから少数のレポートを収集しました。
これは、デジタル リテラシー、レポート インターフェイスがエチオピアのユーザーを混乱させていること、および現地語のサポートの欠如に起因すると考えられていました。
2020 年 6 月、プラットフォームの「シグナル」 (ユーザーやパートナーから収集され、問題のあるコンテンツを理解するために使用されるデータ) をレビューした従業員は、最も危険にさらされている国、特にミャンマーとエチオピアで「重大なギャップ」を発見したと述べました。
「現在の信号が不十分である可能性があることを示しています。」
今秋のレポートでは、危険にさらされている「ティア 1」の国の中でも、エチオピアは異常値であり、ユーザー レポートの「完了率が最も低い」ことがわかりました。
これらの論文には、危険にさらされている国である「ARC」でFacebookのシグナルがいかに弱いかについての言及がいくつか含まれています。
Facebook は、エチオピアでの報道が不十分であることを認識しており、問題に取り組む別のアプローチ、つまりネットワークベースのモデレーションを使用することを提案しました。
同社は、2016 年の米国大統領選挙後、同社のプラットフォームを使用したロシアの干渉の申し立てに対応して、このアプローチに本格的に投資し始めたと、ハーバード ロー スクールの講師でソーシャル メディア モデレーションの専門家である Evelyn Douek 氏はRest of Worldに語った。
ネットワークベースのモデレーションは、ヘイトスピーチや誤報を直接特定するために特定の単語やフレーズを使用するのではなく、悪意のある活動と一致する行動パターンの特定に基づいています。
「個々の投稿の内容を理解することに依存していないため、彼らが言語能力を持たない国でそれを行う理由を理解できます」
と Douek 氏は述べています。
ただし、Douek 氏は、これは「コンテンツ モデレーションの特に不透明な形式」であり、同社が詳細をほとんど公開していないと述べています。
この形式のモデレーションは、外部の研究者と共有することはめったにないプラットフォーム独自の調査とデータ、および独自のモデルに依存しています。
Facebook Papers の一部として公開された文書によると、このアプローチはまだ実験的なものであり、そのモデルがヘイトスピーチの文脈で機能するかどうかは明らかではありません。データの。
「組織化されたヘイトを取り巻くネットワークは、現在のポリシーと手順では処理できない有害なネットワークの別の明確な例です」
とある内部文書は、米国の白人至上主義者のコンテンツを含む特定のコンテンツを共有および促進するネットワークを調べています。
読み取ります。他のドキュメントでは、ネットワーク効果のマッピングの複雑さと、会社がそれらを理解するためにどこまで行かなければならないかについて言及しています。
それでも、スタッフはこれらのモデルをエチオピアとミャンマーで試してみたいと考えているようです。
最近改名された Facebook を所有する持ち株会社である Meta の広報担当者は、声明の中で次のように述べています。
Douek 氏は他の研究者たちと同じように、ネットワーク ベースのモデレーションが本来の目的を果たしたとしても、それ自体で十分である可能性は非常に低いと述べています。
「言語の理解、文脈の理解、または政治的な専門知識がなければ、市場に参入することはできず、この種の節度が十分であるか、害を防ぐことを期待することはできません」
と彼女は言いました.
「それだけでは十分ではありません。」
漏洩した文書の 1 つで、フェイスブックのスタッフは、問題のある言論の報告が急増したり、そこで活発な紛争が発生したりして脆弱な国を特定した場合、取り締まりを実施するまでに最大 1 年かかる可能性があると述べています。
現実はもっと長いかもしれません。
同社は早くも 2019 年にエチオピアでの問題を認識していましたが、2021 年 5 月、エチオピアでの選挙に向けた準備段階でのヘイトスピーチの蔓延を測定することについての会話の中で、従業員は次のように書いています。
「そこには人間によるレビュー能力が不足しているためです。」
アナリストは、同社が最近の憎悪と暴力の呼びかけの急増に対応する準備ができていなかったことは明らかだと述べた.
ティグラヤ人に対する「反逆罪」の告発は、ここ数か月で当たり前になっています。
8 月、Facebook で 210,000 人以上のフォロワーを持つエチオピアの国営メディアコメンテーターMuktar Ousman は、まさにこれを主張しました。
その 2 か月後、2 人の民族ティグラヤ人の大学講師が殺害されました。Muktar は Facebook と Twitter への投稿でこの行為を祝い、168,000 人のフォロワーがいます。
暴力はティグラヤのコミュニティを超えて広がっています。
もう 1 つの少数民族である Qemant は、政府軍と同盟民兵による攻撃を受けている。
今年、何千人ものケマントの民間人が近隣のスーダンの安全のために家を追われました。
9 月後半、Facebook の投稿は、ケマント村のテロリストがバスを乗っ取り、2 人が死亡したとされる事件であると証拠なしに主張した。
この投稿には何百もの反応がありました。
翌日、村は略奪されて全焼し、攻撃は数日間続きました。
10 月下旬から 11 月上旬にかけて、ティグラヤンの戦闘員は、エチオピアの首都アディスアベバから約 400 キロ離れたデシーとコンボルチャの都市を占領し、戦争で最も重要な成果を上げました。
国と近隣のジブチを結ぶ幹線道路上にある 2 つの戦略的都市が失われたことで、Facebook での暴力的で宗派間のレトリックがさらにエスカレートしました。
エチオピア政府関連の Facebook アカウントは、反政府勢力のスパイとして行動している 2 つの都市の地元のティグラヤン住民を非難した。
「エチオピアでの安全作業は長い間行われてきましたが、現在の現場のリスクはより高いことを知っています」
と、Meta の東およびアフリカの角の公共政策ディレクターである Mercy Ndegwa 氏は、次のように述べています。世界のその他の地域。
「私たちは…この進行中の人権状況の要求を満たすために、追加の行動を起こす準備ができています。」
フェイスブックは最近、エチオピアを「一時的にリスクの高い場所」に指定したと述べ、暴力や誤報を助長する投稿を削除すると約束した。
それは、武装反乱グループであるオロモ解放軍をブラックリストに載せられた団体のリストに加えたと述べた.
10月、研究者のGebruはTwitterでAssefaの暴言に警鐘を鳴らし、Facebookに報告した。
投稿が削除されるまで、ほぼ 24 時間かかりました。
それが削除された理由は明らかではなく、Gebru 氏は当初、この投稿はサイトのコミュニティ基準に違反していないと言われたと語った.
コンテンツは広く共有されており、他の政府支持者のページで今でも単語ごとに見つけることができます.
11 月初旬、Facebook は、暴力を扇動することに関する Facebook の規則に違反したことを理由に、反政府勢力を立ち上がらせて「葬る」よう市民に呼びかけた Abiy Ahmed 首相の投稿を削除しました。
アナリストによると、これは重要な介入だったが、アビーの投稿が削除された翌日、アディスアベバ市長のアダネク・アビービーはフェイスブックで、反政府勢力の同調者を探して市全体の近隣監視活動を行っているボランティアを称賛し、次のように付け加えた。
ティグラヤンの反逆者を指す用語] 彼らが歩き回る場所はどこにでも埋葬されます。
その投稿はまだプラットフォームから削除されていません。
モナッシュ大学のアヤリュー氏は、
「フェイスブックがやっていることは、あらゆる面での爆弾批判に対する口先だけのサービスであるように私には思えます。」
この記事が気に入ったらサポートをしてみませんか？