TikTokのコミュニティガイドラインから読み解く危険行為動画のTrust & Safety
まずはこちらのTikTokの動画をご覧ください
これはフリーランニングやパルクールと呼ばれるスポーツです。
素人が真似したらものすごく危ない
見ればわかると思いますが、素人が真似したら危ないやつです🙅🏽♂️
TikTokはそういった動画内に危険行為が含まれている場合、動画下に注意文言が出るようになっています。
こうすることで、明示的に危険な行為であることをユーザに知らせています。こういった取り組みは、表示することで効果があるのかどうかとは別に、プラットフォームとして安心・安全を大事にするスタンス表明として意味があります。
また、それぞれの動画にラベリングをする技術が存在することも大事です。危険行為を含んでいる可能性がある動画の抽出には機械学習を使い、抽出されたものを人間が見て判断しているようです。
このような仕組みがあることで、新たなリスクが出てきた場合にも一から作るよりかは、早期な対応が可能になります。
コミュニティガイドラインの「危険行為」の基準
TikTokにはコミュニティガイドラインが存在します。
このコミュニティガイドラインは、TiktTokの価値観を元にプラットフォームで許可されていること、許可されていないことを総合的に説明しています。
ガイドラインの中に「自殺、自傷行為、危険行為」というセクションが存在します。記事のはじめに紹介したフリーランニングやパルクールのような動画は、この「危険行為」に含まれるのか？が気になるところです。
「危険行為」は以下のように書かれています。（2020/03/31現在）
危険行為
専門知識あるいは必要なスキルなしに行われるリスクの高い行為や危険行為は、ユーザーまたは他者の深刻な怪我や死につながる可能性があります。このような行為を助長したり、宣伝したり、讃美したりしているコンテンツは許可しません。アマチュアのスタントや危険な行為も含まれます。
投稿を禁止しているもの：
・危険なツールの不適切な使用を描写しているコンテンツ
・摂取するのが適切でないものを飲んだり食べたりしている様子を描写しているコンテンツ
・怪我につながる可能性のある危険な試み
・法定年齢に達していない未成年者がモータービークルを運転している様子を描写しているコンテンツ
フリーランニングやパルクールのような動画は、「怪我につながる可能性のある危険な試み」の部分に該当しそうです。
しかし、実際には動画は削除されておらず、動画下に注意文言が表示される程度です。
このような例外が起きている理由はコミュニティガイドラインの冒頭に関連する記載があります。
TikTokのガイドラインに従えば通常削除されるコンテンツの一部が、人々にとって価値あるものである場合があることも認識しています。したがって、以下のセクションで説明するように、状況に応じて例外を認めることもあります。
つまり、フリーランニングやパルクールのような動画もガイドラインに従えば通常削除されるコンテンツだが、スポーツ観戦的な楽しみ方などで価値あるコンテンツなので、例外として削除対象にならないわけです。
ただ、削除されないからってガイドライン的には「危険行為」に含まれる動画なので、動画下に注意文言は表示し、プラットフォームのスタンスは表明しているわけです。
このように、ガイドラインに従って該当する動画は全部ダメ🙅🏽♀️ではなく、状況に応じて例外も認めつつ、適切な注意喚起を行い、コンテンツの価値とユーザの安心・安全・信頼のバランスよく維持しています。
おわりに
TikTokには他にも様々な注意喚起のパターンや安心・安全を守る仕組みが存在していると思われます。その運用方法も日々変化しているはずです。
気になるものがあったら、また記事を書きたいと思います。
この記事を書くにあたり、はじめてTikTokのコミュニティガイドラインを熟読しました。冒頭のTikTokの価値観についてがとてもわかりやすくまとまっていて、各セクションもしっかり整理されていて参考になりました✨
興味ある方は、TikTokのアプリを触りながら、読んでみると面白いかと思います！
----- 🍩 -----
Trust & Safetyってなに？
気になる方は、以下の記事にTrust & Safetyについて書いてますので、読んでみてください🙇🏽♂️
サポートしてもらうことで、キンパツは大好物のミスドが食べられます！よろしくお願いします！