AIテクノロジー業界の"現代の奴隷"たち

目覚めよ、2027年だ。2027年、サラがすべてを管理している 。 サラはあなたに最適なものを正確に知っているバーチャルアシスタントだ 。 どこに行っても、サラのような人工知能があなたのニーズを予測し、あなたのために仕事をこなす。これらの機械があなたのために働いてくれるのだから、2027年の生活は素晴らしいものではないだろうか。でも、あまり浮かれすぎないでください。サラがあなたの人生を永遠に変える前に、もう一つの物語があります。特殊効果の少ない物語です。この物語は、私たちの未来を発明しようとしているビジネスの舞台裏で起こっています。今のところ、機械が人類のためだけに働く素晴らしい世界とは程遠いのです。実際、まったく逆だと言えるかもしれません。人間はオンラインで何かを使うときのあらゆる段階に関わっています。しかし、私たちには自動化の奇跡として売られています。Google、Facebook、Amazon、Uber、これらのデジタル巨人たちは、アプリケーションを動かし続けるために、完全に目に見えない労働力を使っています。そこにいる彼らを、実際に見つけ出し、わずかな金額を支払い、もう必要なくなったら解雇することができるのです。使い捨てで、低賃金の労働力です。とてもいい日でも時給5ドル、本当に悪い日だと時給10セントになることもあります。つまり、アメリカの最低賃金以下で支払うことは可能なのでしょうか？私たちはこの方向に進むべきではないと思います。はい。何百万人もの男女が次のようなもののために人工知能を訓練しているのです。一方で、他の人々は雇われて隠れて、ソーシャルネットワークの清掃をしています。このプロジェクトのために働いていることは言えないと、採用チームから言われたはずですね。はい。私たちはFacebookのコンテンツモデレーターとして働く、これらのウェブクリーナーの一人として潜入取材しました。いくつかのものを見ました。それらのことは昨日のことのように覚えているので、私の中に残り続けるでしょう。あなたの画面の裏に隠れている労働者たちに会うために、私たちはあなたを未来の工場へ連れて行きます。デジタル経済の最大の秘密です。ソーセージ工場のようなものです。人々がソーセージがどのように作られているかを見に来るのを望んでいません。つまり、それほど単純なことなのです。人工知能の謎に迫るために、アメリカ西海岸に向かいます。ここサンフランシスコとシリコンバレーでは、明日の世界が開発されています。ここはApple、Facebook、YouTube、Uber、Netflix、 Googleなどの巨人たちのハイテクハブです。私たちはFigure 8という、主にGoogleと仕事をしている人工知能専門の企業との会議があります。創業者のルーカス・ボールドが朝の時間を私たちと過ごすことに同意してくれました。ルーカス、こんにちは。こんにちは、ルーカス。お会いできて光栄です。お時間をいただき、ありがとうございます。もちろんです。スケジュールがお忙しいのは分かっています。ありがとうございます。38歳のこのスタンフォード大学卒業生は、自身の会社を設立する前に、すでにMicrosoftやYahooなどで働いた経験があります。マイクが準備できたら、カリフォルニア風のスタートアップオフィススペースを簡単に案内してくれました。これが私たちの最もよく着飾った従業員です。クールでリラックスしていますね。これが多分、私たちの最も服装の悪い [笑い] 卓球をしますか？私はかなり上手だと思います。よく分かりませんが。これが私たちの食事エリアです。実際、私はここで仕事をするのが好きです。私のコーヒーが [笑い] 冷めてしまいました。そして受付エリアには印象的な展示があります。これらは私たちのお客様の一部で、彼らが私たちの製品で行ったさまざまなことです。ここにTwitterがあります。私たちは彼らのウェブサイトで人々をいじめているような多くの人々を削除するのを手伝いました。アメリカン・エクスプレスはフランスにありますか？ええ、分かりません。特に誇りに思っているのは、例えばTescoのようなものです。彼らは私たちを使ってオンラインウェブサイトを改善し、より良い検索結果を表示して、人々が探している商品を見つけられるようにしています。Googleは見当たりませんね。ああ、いいえ、知りません。これらがどのようにしてここに載るのか分かりますか？率直に言って、私たちはただ止めました。手に負えなくなっていたんです。これはブラウン氏、広報部長です。でも、これは良いサンプルです。訪問の後、創業者は謎めいた名前「Figure 8」について説明します。私たちは会社をFigure 8と呼んでいます。なぜなら、それをループだと考えているからです。そしてそのループには本当にこの2つの部分があるんです。つまり、ラベル付けを行う人間がいて、そして機械学習が人間から学び、そしてそれがまた人間に戻って、さらなるラベル付けのために戻るんです。だから、私たちはこれを美しいループのように考えています。人間は人間ができる最高のことをし、アルゴリズム、人工知能はアルゴリズムができる最高のことをする。そして私たちはそれらを組み合わせて、だから私たちはそれをFigure 8と呼んでいるんです。AIが機能するために人間を必要とする理由をよりよく理解するために、私たちは冗談を言うのをやめて、コンピューターを取り出しました。ここに例があります。最近、多くの人々が自動で運転する車を作ろうとしています。例えば、Teslaには車の中を運転できるシステムがありますが、もちろん、これらの車が歩行者にぶつからないことが非常に重要です。そこで、車のカメラはこのようなものを見ています。人々を特定できる信頼性の高いシステムを構築することが本当に重要です。そして、人々を特定する方法を学ぶのは、車のカメラが見ている多くの画像を見て、実際に文字通り人々がどこにいるかをラベル付けすることです。ここに実際の例があります。自動運転車に歩行者を認識させるには、まず人間のようなあなたや私が歩行者を写真から識別し、その情報をAIに与える必要があります。このプロセスは数千回、場合によっては100万回以上繰り返す必要があり、非常に時間がかかる可能性があります。ここでFigure 8が関与します。実際の人々を使って、この作業に対して支払いを受けて行うのです。ここでのタスクは、この画像を見て、人々がどこにいるかをラベル付けすることです。そしてこれに対して支払いを受けます。人々の周りに四角を描くことに対して支払いを受けるのです。いくらですか？ええと、このタスクについては確かではありませんが、たぶん、四角を描く人1人につき10セントくらいでしょうか。誰がこの仕事をするのですか？あなたの従業員がこれらの仕事をして、人々にラベルを付けているのですか？はい、私たちのネットワーク上の請負業者がログインしてこれらのタスクを行います。ネットワーク上の請負業者とは何を意味しますか？どんな人たちですか？そうですね、これにログインして、これらのタスクに取り組みたいと思う人たちです。何人の人がFigure 8のこの立場で、ラベル付け作業者として働いているのですか？はい、人々は好きなときに来て去ることができますので、毎日一貫して働いている人は約10万人くらいいます。特定のユースケースに対してです。しかし、時々ログインしてタスクに取り組む人は何百万人もいます。そして、それらの人々はどこに住んでいるのですか？実際に彼らは世界中に住んでいます。アメリカ中に住んでいて、そして世界中に住んでいます。では、AIテクノロジーの訓練のために支払いを受けているこの何百万人もの人々は誰なのでしょうか？これらの請負業者に会うために、私たちはシリコンバレーを離れ、サンフランシスコの北500マイルのオレゴン州に向かいました。そこに到着しました。あ、成功です。ジャレッド・マンスフィールドは3年前にFigure 8に登録しました。彼は現在、毎日数時間をこの会社のために働いています。会社は彼がお金のために完了できるタスクのリストを提供しています。例えば、検索エンジンの訓練です。この最初のものでは、どのように行うかの例を示しています。クエリは「マックアンドチーズパロア」で、2つの結果は「アニーズ・ホームグロウン・オーガニック・マックアンドチーズ」と「アニーズ・リアリー・シェドー・電子レンジ用マカロニアンドチーズ」です。どちらもパロアではないので、両方が同じように悪いマッチだと言っています。それを行う目的は何ですか？その多くは、検索アルゴリズムを訓練するためだと思います。つまり、誰かがコンピューターに座って製品を入力したとき、アルゴリズムがその人が探している製品を正確に判断できるようにするためです。ジャレッドは10個の回答ごとに1セント未満を稼ぎます。彼がどれだけのお金を稼げるかを知るために、私たちは彼に30分間働いてもらいました。半時間で180の質問に答えました。どれくらい稼ぎましたか？30分で15セントです。つまり、1時間で30セントですね。そうです。これは確かに生活できる賃金ではありませんね。彼らにはこれを行う権利があるのでしょうか？彼らには好きなことをする権利があります。私が彼らのところに小さな硬貨を求めに来ているのです。私と彼らの間には契約はありません。契約もなく、給与もなく、最低賃金の保証もありません。これらのゴーストワーカーは、供給と需要という唯一のルールに従って、ソフトウェアやロボットを訓練するために支払いを受けています。確かに、私は世界中のランダムな人々で構成される、この目に見えない労働力の一部であるように感じます。そして一緒に、私たちは最終的に労働力全体を置き換えるものを訓練しているのです。ジャレッドはこのアイデアについて非常に哲学的です。それでも、彼には余裕があります。実際の生活費を稼ぐために、彼はスーパーマーケットで鶏肉を売る別の仕事をしており、月に1500ドル強を稼いでいます。Figure 8は彼が少し余分なお金を稼ぐためにサイドで行っているだけです。オレゴンを離れた後、私たちはアメリカで学んだことを活かして、Figure 8に登録して人工知能を訓練することにしました。サイトのウェルカムページでは、1セント、2セント、12セントの小さなタスクが提案されています。私たちは最初のタスクとして、画像内のオブジェクトの周りに四角を描くことを選びました。指示に従って、10個のオブジェクトの周りに四角を描くのに数分かかり、2セントを稼ぎました。タスクリストでは、Figure 8は検索エンジンの回答の評価も提供しています。これはジャレッドが選んだタスクです。私たちは会話を聞いて、録音が男性の声か女性の声か、そして英語で話しているかどうかを確認することもできました。「すみません、ジェームズはいますか?」私たちは数時間働きましたが、時給30セントを超えることはありませんでした。これらのタスクをフルタイムで行う人がいるとは想像しがたいです。私たちはアメリカ東海岸のメイン州にいます。カナダ国境に近いところです。私たちはFigure 8のループの人間側、ゴーストワーカーの1人と会う約束をしました。彼女の名前はドーン・カーボンで、46歳です。こんにちは。こんにちは。こんにちは。お会いできてうれしいです。ようこそ、ありがとうございます。はい、美しいですね。ああ、つい最近大雪が降って、そのあともっと雪が降りました。外は氷点下だと思います。ドーンはシングルマザーです。彼女はここで3人の子供と一緒に暮らしています。これが補助金付きの住宅の様子です。公共住宅としては悪くありません。彼女はここに住み、ここで働いています。Figure 8のサイトで一日中仕事をしています。言ったように、朝7時前にオンにします。最初のことを済ませて、午後3時にオフにして、夜9時に再びオンにします。つまり、最低でも8時間です。でも、本当に頑張っています。これがダッシュボードで、6,445個のタスクを完了したのが分かります。いつからですか?3年前からです。これらの異なるバッジが見えますね。最初はバッジがなく、多くの質問に答えて正解を得る必要があります。そして最初のレベルのバッジを獲得し、レベル3に到達すると、ほぼすべてのタスクにアクセスできるようになります。今のあなたのレベルは?今はレベル3です。しばらくレベル3です。ドーンは高パフォーマンスの労働者とみなされています。そのため、Figure 8は初心者よりも多くの仕事を彼女に提供しています。しかし、それは必ずしもより興味深いものではありません。人々の周りに境界ボックスを描かなければなりません。この仕事はあまり好きではありません。最大の問題は、実行可能で適切な仕事を見つけることです。今はあまり多くありません。そして、決して支払いが良くなることはありません。とてもいい日でも時給5ドル、本当に悪い日だと時給10セントになることもあります。つまり、本当にいい日もありました。2月までは。これがあなたがしていることに対する公平な支払いだと思いますか?いいえ、全然そうではありません。でも、私はメイン州北部に住んでいます。雪がたくさん降ります。仕事市場はとても限られています。そして、専業主婦として役立ちます。追加の収入の助けになります。ドーンは自宅で働くことを好みます。なぜなら、彼女の一番下の娘ジェーンが自閉症だからです。はい、どうぞ。何があったの?ドーンは午後3時に学校から帰ってくるジェーンの世話をするためにそこにいたいと思っています。学校はどうだった?いい日?悪い日?いい日。本当にいい日だった?彼女の自閉症のため、いつでも車に飛び乗って学校に迎えに行く準備をしていなければなりません。週に1日かもしれないし、まったくないかもしれません。または週に3日かもしれません。学校はとても理解があります。家の外で働いていたら、1週間全部休まなければならないでしょう。ドーンは毎月750ドルの政府援助を受けていますが、すべての請求書を支払うには十分ではありません。そのため、彼女はFigure 8に登録しました。1日8時間、週5日働くことで、平均して月に250ドルを稼いでいると彼女は言います。Figure 8では、支払いは交渉の余地がありません。仕事を拒否しても、必ず他の誰かがそれを引き受けます。これらのゴーストワーカーの供給は世界中から無制限にあります。おそらくそれが、ルーカス・ビウォルがとても幸せな理由でしょう。しかし、この現象を利用しているのは彼だけではありません。他のさまざまな企業も、このような反復的で低賃金のオンラインタスクを提案しています。その中で最大のものは、クリックワーカーとAmazonメカニカルタークです。メカニカルタークは、2005年にアマゾンとその社長ジェフ・ベゾスが考案したプラットフォームです。これをマイクロワークと考えてください。マイクロワークは、ILO（国際労働機関）にとって growing concern（増大する懸念事項）です。ILOは、世界中の労働者の権利を保護する責任を持つ国連機関です。こんにちは、ジャニーン。お時間をいただき、ありがとうございます。ジャニーン・バーグは、ILOでこの問題の専門家です。彼女はスカイプを通して私たちと話します。グローバリゼーションにより、ある種のグローバルな労働力の出現が見られます。これは次のステップです。サービス産業が仕事を非常に短く簡潔なタスクに分解し、それを世界中の労働者に分配できるようになったのです。彼らは仕事を求めて競争し、仕事をこなします。このグローバルな労働供給のために賃金は下がり、技術がこれを可能にしました。そして、それは安いのです。それが主な利点です。ジャニーン・バーグは、マイクロワーカーが平均して時給3.31ドルを稼いでいるという計算をした報告書を書きました。見返りに何の権利もありません。労働者の極端な脆弱性が、ルーカス・ビウォルのビジネスモデルの鍵なのです。数ヶ月の調査の後、私たちは2010年のこのビデオを見つけました。それは彼の労働力に対する見方を要約しています。インターネット以前は、誰かを見つけて10分間座らせて働かせ、その10分後に解雇するのは本当に難しかったでしょう。しかし、技術があれば、実際に彼らを見つけ、わずかな金額を支払い、もう必要なくなったら解雇することができるのです。インタビューの間、私たちは彼にまだ同じ意見を持っているかどうかを尋ねたかったのですが、労働条件について話し始めると、Figure 8の創業者はユーモアのセンスを失ったようでした。あなたの貢献者の平均時給について考えはありますか?ええと、確かではありません。それは誰かが入力するタスクに完全に依存します。そしてインターネット上で時間を追跡するのは難しいです。人々はコンピューターから離れて戻ってくることができるからです。だから、人々が一般的にどれくらい稼いでいるかはわかりません。クラウドソーシングで働く人々の平均時給が3.31ドルだというILOの報告がありましたが、これはあなたが支払っているものと一致しますか?繰り返しますが、確かではありません。アメリカの最低賃金以下で支払うことは可能ですか?可能かもしれません。これは合法ですか?うーん、確かではありません。私たちはこの方向に進むべきではないと思います。はい。ええと、私たちは別の方向に進めませんか?むしろAIに焦点を当てたいと思います。でも、これは全体の話です。クラウドソーシングについても質問しなければなりません。ああ、私はもっとAIの会話のために準備していたので、クラウドソーシングの会話よりも...いいえ、私はむしろ...私たちはすべきだと思います。私はこれをしたくありません。はい、他の人を見つけてこのことについて話すことができます。では、この部分の議論には不快感を感じているのですね?いいえ、いいえ。つまり、あなたの言う通り、これは会話の重要な部分です。ただ、これはAIの会話ではないのです。私たちにはビデオを取り出す時間がありません。ルーカス・ボールドは急いで別れを告げずに退場し、私たちを彼の広報部長と二人きりにしました。最後のチャンスとして、ここで彼らが請負業者と呼ぶこれらの労働者をどのように扱っているかを尋ねました。これに取り組んでいたとき、多くの人々が切断されたと不平を言っているのを見つけました。実際に、私も今行かなければなりません。11時なので。では、人間について話したくないのですね。それは私の役割ではありません。分かりました。終わりです。人工知能だけで、人間はいないのですね?はい、それが私たちが準備していたことです。申し訳ありません。ルーカス・ボールドと彼の労働者に対する見方について、いくつかの質問に対する答えを得るために、私たちは別のアプローチを試みることにしました。Figure 8の創業者が使い捨ての労働者について発言した日、他の起業家たちも彼と一緒にいました。そして研究者のリリー・イラニもいました。右側のちょうど10年後、私たちはロサンゼルス南部に住むリリーを見つけました。カリフォルニア州のリリー・イラニは、サンディエゴ大学で教えています。彼女の専門分野の一つは、ハイテク企業の労働文化です。幸い、彼女は良い記憶力を持っています。この文章の後、誰かが反応したのを覚えていますか?ある意味で非常に残酷な文章ですが。正直に言うと、反応はありませんでした。そのパネルを覚えています。皆が彼のところに話しに行きました。そして2、3人が私のところに来て、この形態の労働の倫理について話しました。これはサンフランシスコの高学歴の人々でいっぱいの部屋で、誰も瞬きひとつしませんでした。それをどう説明しますか?このような空間にアクセスできる種類の人々は、家賃を払えるかどうか心配したことがない状況で働いたことがない人々です。または、誰かが病気になって世話をする人に支払うことができず、本当に悪い在宅の仕事を引き受けなければならない状況で働いたことがない人々です。彼らは、この仕事をしようとする人々の状況とまったくつながりがありません。これは、スタンフォード、ハーバード、プリンストンのような学校に行き、あなたが最も賢い人で、未来のリーダーになるだろうと言われ、特別だからあなたが選ばれ、世界を変える力を持っていると言われる人々に起こることです。現実世界から切り離されたシリコンバレーのエリートたち。これがルーカス・ボールドの論理を理解する鍵です。しかし、それだけではありません。これらの労働者は設計上、目に見えないものです。コードを書いて、誰とも話さずに仕事を送り出すことができます。必要な場合は、スプレッドシートで仕事を受け取るように設計されています。労働者を識別する文字と数字だけが見えます。名前は見えません。彼らがどこに住んでいるかは見えません。彼らの状況は見えません。自分で追跡しない限り、彼らが以前にあなたのために働いたかどうかさえ分かりません。これらのゴーストワーカーは、本当に誰のために働いているのか知っているのでしょうか?彼らはルーカス・ボールドのことを聞いたことがあるのでしょうか?私たちは、Figure 8の創業者が彼らの仕事について話している映像を彼らに見せました。技術があれば、実際に彼らを見つけ、わずかな金額を支払い、もう必要なくなったら解雇することができるのです。ペニーを支払うことで笑っているんですね。そして、さようなら。はい。今、私はAIについて議論するときのように議論し始めます。彼らが労働力についてそのような見方を持っているのを、こんなにオープンに話しているのを見るのは少し驚きです。それほど驚くことではありませんが、はい、確かにがっかりしますね。彼らはもっと多く支払うことができるのに、あるいは少なくとも何らかの感謝の気持ちを示すことができるのに、あるいは少なくともいくらかの分別を示すことができるのに。基本的に彼は、対面では10分間雇って解雇するというようなことを言っています。このやり方だと、その人を見なくても済むし、さようならと言えばいいだけです。会社のトップがそこまで人々を使い捨てだと考えているのは本当に正しくないと思います。私はそれが好きではありません。だから、私には言いたいことがあるときは言います。私は使い捨てではありません。この目に見えない労働力の中で、あなたの画面の裏に隠れている人々の中には、ほとんど無償でアルゴリズムに食べ物を与えている人々がいます。ウェブの掃除係、つまりFacebookやInstagramのようなソーシャルメディアを整理する担当者たちです。これらの労働者は、シリコンバレーのCEOたちの洗練されたプレゼンテーションでは決して言及されません。私は人々を第一に、そして私たちの技術体験の中心に置くサービスを構築し始めました。なぜなら、私たちの関係こそが最も重要だからです。それが私たちが意味を見出し、この世界での自分の場所を理解する方法なのです。今日、20億人のユーザーを抱えるFacebookは、もはやマーク・ザッカーバーグの当初のサイトのビジョンとは何の関係もありません。暴力的な動画、ヘイトスピーチ、ポルノ画像が増え続けるにつれ、より多くのコンテンツを削除する必要があります。そして、それを行っているのは必ずしもロボットだけではありません。ここでも、画面の裏に隠れた人間がFacebookの基準に従って正しい判断を下しています。何かがヘイトスピーチかどうかを判断するのは、言語学的に非常に微妙です。私は、5年から10年の間に、コンテンツのさまざまな言語的ニュアンスに踏み込んで、より正確にフラグを立てることができるAIツールを持つことができると楽観的です。しかし、今日、私たちはまだそこには到達していません。そのため、これらの多くはまだ反応的です。人々が私たちにフラグを立て、私たちはそれを見る人々を持っています。これらの人々は、ネットワーク上のコンテンツの分類と管理を担当しています。Facebookは彼らをコンテンツレビュアーと呼んでいます。彼らのサイトによると、Facebookはアイルランド、ポルトガル、フィリピン、アメリカなど、世界中で15,000人の労働者がこの仕事をしています。私たちはFacebookに連絡しましたが、会社は私たちのインタビュー要請を断りました。そこで、これらのモデレーターに会い、彼らの役割を理解するために、私たちはFacebookの主要な下請け業者を特定しました。Majoral、Cognizant、Accentureなどの多国籍企業です。私たちはポルトガルでフランス市場向けのコンテンツレビュアーの求人広告を見つけました。グレグは私たちのチームのジャーナリストの一人で、この広告に応募し、仕事の申し出を受けました。出発前に、彼は契約書を受け取りました。そこには月給800ユーロ（ポルトガルの最低賃金をわずかに上回る）と、1日7.63ユーロの食事手当が記載されていました。Facebookは文書のどこにも言及されていません。直接尋ねられても、Accentureはクライアントの名前を明かすことを拒否しました。ただ疑問に思っていたのですが、仕事を引き受けて、そこに行くことになったので、私が働く会社の名前を知ることはできますか?いいえ、まだ名前を明かすことはできません。それは私たちの顧客の一つですが、名前を言うことは許可されていません。これがグレグアが働くことになる場所です。リスボンのAccentureのオフィスです。仕事を始める前に、私たちのジャーナリストは歓迎会に送られました。映像は少し揺れています。グレグアが隠しカメラで撮影しているからです。こんにちは。9時30分にAccentraとの会議があります。グレグアは新入社員の唯一の人ではありません。12人の他の人々も同時に役割を開始しています。フランス人がもう一人、イタリア人とスペイン人もいます。HR担当者が歓迎会を進行しています。皆さん、ようこそ。キャリアアドバイザーとしての私の仕事は、センターとのすべての関係においてあなたがたを助けることです。はい。休暇書類と社会保障の書類の後、小グループはついにどの会社のために働いているかを知りますが、それは極秘です。採用チームからこのプロジェクトのために働いていることを言及してはいけないと言われたはずです。はい。クライアントは本当に要求が厳しいです。フェイスグループのために働いていることを誰にも言及することはできません。はい。誰かがあなたがどこで働いているかを尋ねたら、あなたはAccentureで働いていると言います。はい。私たちにはまだこのプロジェクトのコードネームがあります。それはcooです。だから、このプロジェクトではないAccentureの同僚と話していて、どこで働いているかを尋ねられたら、Facebookで働いていると言うことはできません。はい、それは許可されていません。ここでFacebookが働いているということは完全に機密事項です。はい。コードネーム、機密条項、携帯電話の完全な禁止。Facebookは月800ユーロで秘密工作員の生活を提供しています。そしてもしあなたがおしゃべりタイプなら、次の議論があなたを黙らせるはずです。あなたには合意があり、その合意を破ることはできません。なぜなら法的に、私たちは法的にあなたを罰することができるからです。分かりますか、それは機密事項です。ソーシャルメディアの清掃は、家族の汚れ物を洗うようなものです。それは行わなければなりませんが、誰も話したがりません。なぜそんなに慎重なのでしょうか?この仕事は何を含んでいるのでしょうか?私たちはグレグアと一緒に慎重に続けます。モデレーターになる前に、グレグアは3週間のトレーニングプログラムを受けなければなりません。Facebookのコンテンツをモデレートすることは、暴力的な動画や人種差別的な冗談を削除するだけではありません。それはもっと複雑です。現時点では、アルゴリズムはすべてを処理できません。すべての決定は、非常に厳格なルールを使用して正当化されなければなりません。これは私たちがトレーニング中に学んだことです。毎日、プログラム中の異なるテーマに dedicatedされています。例えば、ヌード、暴力的な画像、またはヘイトスピーチなどです。今日の議題はダークユーモアと悪趣味な冗談です。画像に見える人物が目に見えて影響を受けている場合、私たちは違反を削除します。その出来事を面白がっている場合は、これが私たちがすることになります。ここに9.11に関する不適切な冗談の例があります。過剰に思えるかもしれませんが、各カテゴリーにはこのような何十ものルールがあり、理解するのが難しい場合があります。例えば、ヌードの場合、体のどの部分が見えるか、またはその位置によって、モデレーターは常に同じ決定を下すことができるとは限りません。これをよりよく説明するために、練習問題からの例を挙げます。グレグアはこの特定の写真を削除することにしましたが、Facebookのルールによると、それは間違いでした。フィードバックセッションで、トレーナーはこのように説明しています。彼女のブーツの間に頭がなく、見えないのであれば、無視します。乳首との直接的な接触が見えない場合は何もありません。そのため、私はこれらの物事を理解するのにとても苦労しています。一方で、芸術的な女性の写真があり、小さな乳首を見せているので削除します。他方で、このほぼポルノのようなビデオがあり、世界に合わないので削除しません。そのため、私は... はい、でもあなたには問題があります。なぜなら、あなたはまだ自分が考えていることに基づいて決定を下しているからです。私たちは学校にいて、ルールを学んでいるのです。質問せずにFacebookのルールを適用することが最重要ルールです。これは一日中、毎日、あなたに植え付けられる原則です。私たちはそれを尊重し、仕事をするためにそれを適用する必要があります。時々意見の不一致があるかもしれませんが、これは良い仕事です。これは私のソーシャルではないからです。トレーニングプログラムの最終目標は、あなたを機械に変えることです。またね、ペドロ。ペドロはAccentureでFacebookのコンテンツレビュアーとして6ヶ月間働きました。彼は私たちの質問に答えることに同意しましたが、匿名でのみです。会社を去って2年後も、彼はまだその役割の麻痺させる側面を覚えています。彼らのゲームに従わなければなりません。さもなければ、月末には仕事がなくなるでしょう。そして、それは私がただのロボットになり、できる限り多くの写真やビデオを処理しているだけだと感じるポイントに達しました。それが私にできる唯一のことだったからです。あなたはただ数字と一緒にいて、エンターを押し、数字、エンターを押すだけです。ペドロにとって最も難しいことは、6ヶ月間で画面で見たすべてのことを忘れようとすることです。私たちはそれに対して準備ができていません。私たちは精神的に準備ができていません。これらのすべてのことについて、彼らは事前に私たちに情報を与えません。それはただ衝撃として、波のようにあなたに襲いかかります。これをあなたの前に置いて、はい、いいえと言うことはできません。100万ユーロや10億ユーロを与えられても、私は行きません。それは私のためではありません。ペドロが私たちに描写したこと、予期せずに襲ってくる衝撃の波は、グレグアに起こったことそのものです。それはトレーニングの5日目頃に始まりました。実践的な練習の間、恐ろしい画像と耐えがたいビデオの流れが、Facebookの基準に従って正しい決定を下すために注意深く見なければなりません。同じ恐ろしい場面が彼の隣人の画面でも展開されています。すみません、水を一杯いただけますか?これは毎日、グレグアと彼のグループにとってこのようなものです。幸いなことに、彼らはいつでもトレーナーの役立つアドバイスに頼ることができます。コンテンツに不快感を感じたら、私に警告してください。そして少し休憩を取り、外に出て、マカレナを踊って、そして戻ってきましょう。もしマカレナがあなたを元気づけるのに十分でない場合、ビジネスは最もトラウマを受けたモデレーターのために心理学者も用意しています。この日、数分間続くビデオがグレグアにとって暴力を別のレベルにまで引き上げました。休憩時間中、誰もが彼らが見たぞっとするようなビデオについて話し合うことで衝撃を振り払おうとします。2人の男がいて、彼らは銃で遊んでいて、突然その男を撃ったんだ。でも、それは近かった。はい、近かった。今、私はとても気分が悪いです。分かりません。でも、その感情はそれほど長く続かなかったと思います。つまり、今はとても、とても、とてもサドな気分です。分かりません。でも、続けることができます。グレグアは、現在トレーナーになっている元モデレーターと話をする中で、この仕事がもたらす可能性のある被害の程度を認識します。街で問題があります。なぜなら、私の脳の中で人々が殴られているのを見るからです。私はたくさんの事故を見てきたので、もう誰かが道路を横切って走るのを見ることができません。ああ、そうですね。気をつけてください。一種の...あなたはそれを持っているんですね。つまり、私は薬は飲んでいませんが、このようにしなければならないことは分かっています。道路を横切って走る人を見ることはできません。誰もが...あなたはまだPTSDを抱えながらこれをしているんですね。目的があります。毎日、私はインターネットのゴミを掃除していると感じています。はい、私はそれを見ますが、少なくとも14歳の誰かがそれを見ることはないと分かっています。ポストを辞めてから2年もたたないのに、ペドロはまだ特定のビデオについて非常に鮮明な記憶を持っています。私が見たいくつかのことがあります。それらのことは私の中に残り続けるでしょう。なぜなら、昨日のことのように覚えているからです。時々とても感情的になります。時々、人々が生産的に仕事をしていて、突然立ち上がって部屋から走り出すのを見ました。それは大丈夫です。なぜなら、時々トラウマが蓄積されるからです。ペドロにとって、それは無力感を残しました。例えば、誰かが殺されるのを見たら、あなたがとる唯一の行動は削除することです。例えば、プラットフォームからそれを消去するだけです。警察に電話するなどの深い行動は取りません。つまり、あなたは自分がしていることに本当に満足することはありません。ただ円を描いて回り続け、一日中これらのものに bombardされているだけです。つまり、一日で経験する感情の混合です。8時間、何人で始めましたか?私たちは30人で始めました。その30人から、月ごとに減り始め、今では3人しかいません。ペドロは、多くの人々がこの役割に対処するのに苦労し、最終的に辞めてしまうと主張しています。ペドロが経験したこと、そしてグレグアと彼の同僚が現在経験していることを理解するために、私たちは精神科医と会いました。ティーブ教授は心的外傷後ストレス障害の専門家です。例えば、彼はテロ攻撃に関与した警察官と一緒に仕事をしています。私たちは彼に撮影した映像を見せました。私たちはまた、Facebookが課した有名な守秘義務条項についても彼と話しました。ヴィ・トラーア不安、トラウマ、ストレス。ソーシャルメディアの清掃には大きな代償が伴います。グレグアはトレーニング期間中のわずか2週間後に辞めることを決意します。彼は去る直前に給与明細を受け取りました。上部に書かれた時給は4.62ユーロ（総額）です。これは彼の同僚にとってはつらい現実です。アイスクリーム屋でもっと稼いでいたよ。それはひどいね。そこでの経験の後、私たちはAccentureに連絡しました。彼らの回答は簡潔な電子メールで、Facebookには一度も言及していませんでした。しかし、そこには次のようなフレーズが含まれていました。「従業員の幸福は私たちの優先事項です」。インターネットのゴミ清掃係、つまりあなたのFacebookやInstagramフィードの裏にいる目に見えない労働力のツアーを終えるために、私たちは最後の会議を持ちました。サラ・ロバーツはモデレーターとして働く人々を専門とする主要な研究者です。彼女はこの分野の重要人物です。私たちは彼女が教えているカリフォルニアの大学で彼女に会いました。彼女は過去のコンテンツモデレーションの台頭と発展についての分析を私たちに提示しました。私たちは以前に見られなかった規模と範囲について話しています。Facebookでは1日に何十億もの投稿が共有され、YouTubeでは1分間に何百時間もの動画がアップロードされています。それに対する反応は、「もっとコンテンツモデレーターを投入しよう」というものであり続けています。つまり、それは指数関数的に成長し続けており、予算の中でほとんど無に等しかったものが、現在では巨大な、巨大なコストセンターになっています。つまり、実際に収益を生み出すわけではありません。新製品のようなものではなく、ただ経済的な負担として見られています。そして、その問題を管理する方法は、一部の低賃金労働者にできるだけ安く押し付けることです。なぜなら、2年で労働力を倍増させると、無料では済まないからです。これがFacebookのような企業が下請け業者を使用する理由です。しかし、この研究者によると、これは唯一の理由ではありません。労働コストに関することですが、この種の仕事を依頼し、必要とする人々と、それを行う人々、そしてそれが行われる場所との間に、責任を軽減する層を作ることも関係しています。彼らは自分自身を取り除き、労働者とその条件から距離を置きます。それは地理的な距離だけでなく、一種の道徳的な距離でもあります。そのため、何年か後にそのコンテンツモデレーターが被害を訴えたり、彼らが行った仕事のために心理的または感情的に問題を抱えているとしても、その会社は責任を否認することができるかもしれません。最終的には、彼らが彼らにその仕事を依頼したのだから、本当に責任があるにもかかわらずです。これらの予防措置にもかかわらず、数ヶ月前、3人の元モデレーターがアメリカでFacebookに対して訴訟を起こしました。3人とも下請け業者の下で働いていました。全員が心的外傷後ストレス障害の犠牲者であると主張しています。アメリカの企業は、私たちが行ったすべてのインタビュー要請を拒否しました。しかし、彼らは私たちに電子メールを送り、Facebookがパートナーと共に、プラットフォーム上で働くコンテンツモデレーターの幸福に大きな注意を払っており、それが絶対的な優先事項であると説明しました。最後に、このセクターからの最新ニュースをお伝えします。これらのゴーストワーカーが影に置かれている一方で、この新しいセクターで働く企業にとっては、いつも通りのビジネスです。撮影から数週間後、Figure 8の創業者は3億ドルで彼の会社を売却しました。少なくとも今では、彼には幸せになる良い理由があります。