「偽・誤情報」どう向き合う？ 信頼と安全性高めるTikTokの取り組み
手軽に動画を投稿、視聴できるショートムービープラットフォーム「ＴｉｋＴｏｋ」。その人気は今や、幅広い年齢層に広がっています。動画を投稿したり広めたりする際には、動画に偽の情報や誤った内容が含まれていないかどうか気をつけることが大切です。そこでＴｉｋＴｏｋは、政府の「サイバーセキュリティ月間」（２月１日～３月１８日）に合わせて啓発ワークショップを開催し、大学生やクリエイター計２４人が６つのグループに分かれて「偽・誤情報」の防止や対策について議論を交わしました。ワークショップで講師を務めた国際大学グローバル・コミュニケーション・センターの山口真一准教授、ＴｉｋＴｏｋクリエイターのしんのすけさん、ＴｉｋＴｏｋ Ｊａｐａｎ公共政策本部の金子陽子政策渉外担当部長の３氏とともに偽・誤情報にどう向き合えば良いかを考えました。
■フェイク情報、拡散スピードは「６倍」。広める前に立ち止まって
山口准教授「『フェイク情報元年』と言われた２０１６年以降、リアルタイムで状況が変化する自然災害や選挙などさまざまな場面において、世界中でフェイクニュースが問題となっています。フェイク情報には人に伝えたくなったり、『許せない』などと感情に訴えたりするようなセンセーショナルな内容が多く、私の研究では、正しい情報より約６倍のスピードで広がることが分かりました」
「フェイク情報が出回る背景には、投稿をバズらせて経済的な利益を得たいという動機、選挙や国際紛争ではどちらかを有利にしたいという政治的な動機があることもあります」
しんのすけさん「バズることの価値が上がっているのは感じます。日常生活においても投稿がバズると、次の日から学校で人気者になったりして、そこには経済的な動機以上の価値があります。だからこそ、誇張と偽・誤情報のライン（境界線）は、発信するときに気をつけないといけません」
「僕はクリエイターとして映画の感想動画を投稿していますが、情報を発信するときは主観と客観を分けるように気をつけています。事実を出した上で、僕はこう思います、と主観を述べるようにしているんです。それがごっちゃになった動画を作ると、コメント欄でも混乱が生まれてしまいます」
金子「偽・誤情報を広めてしまう方は、その情報の拡散により、どのような影響や結果が起こるのかをイメージしないまま、ただおもしろそうという理由で広めてしまうことが多いのかもしれません。だからこそ、拡散したいと思った時には、その情報が真実か否か、情報源はどこか、拡散することによって誰にどんな影響が生まれるのか、１人１人が立ち止まって考えることが重要だと思います」
■「偽情報です」…クリエイターは動画で指摘、TikTokは24時間すべての動画を審査
山口准教授「偽・誤情報に日常的に触れる機会が広がっています。例えばコロナワクチン関連のフェイクニュースについて、４割近い人が見聞きしたという調査があります。それが誤っていると気づかない人も多く、幅広い年齢の人がだまされていました」
しんのすけさん「僕の友達のクリエイターは、地震のときに、『人工地震』を疑う偽情報や誤情報に対して、『デマです』と説明する動画をＴｉｋＴｏｋに投稿していました。コメント欄を見ると、やはり偽情報に影響されていた人たちもいて、一見して嘘と分かるような情報に対しても、丁寧に説明していく必要性を改めて感じました」
「ＴｉｋＴｏｋには瞬間的な爆発力があるので、なかには一発バズればいいと安易に考えてフェイク情報を流してしまう人もいるかもしれません。ただ、そういう投稿をする人は、クリエイターとしても長続きしない。長期的にクリエイター活動をしようと考える人は、動画の質にこだわると思います。
山口准教授「他のプラットフォームなどにおいても、例えば過激系、迷惑系はぱっと注目を集めるかもしれませんが、長続きしないと私も思います。ただ、短期的な利潤最大化という観点からはそれも合理的な選択になるので、そのあたりをどう考えるかが課題ですね」
金子「しんのすけさんの指摘された災害に関する情報などは人の生命にかかわる重要な問題です。そのため、ＴｉｋＴｏｋではユーザーの皆さまを偽・誤情報から守るため、個人や社会に重大な影響を及ぼし得る有害な偽・誤情報の投稿を禁止しています」
「投稿されたコンテンツの審査態勢もしっかり整え、２４時間３６５日、すべての動画を自動モデレーション技術と人の両方でチェックしています。また、災害などで偽・誤情報のリスクが高まったときには、審査体制をさらに強化しています」
【世界１８団体と連携、ファクトチェックを徹底】
ＴｉｋＴｏｋでは、ファクトチェックを行う世界１８団体と提携し、５０以上の言語に対応したコンテンツ審査を行っている。ファクトチェッカーがコンテンツを虚偽であると認定した場合、TikTokはその動画をプラットフォームから削除する等の対応を行なっている。また、ファクトチェック審査中の、有害である可能性がある誤情報は、「おすすめ」フィードの対象外とされる可能性がある。
また、偽情報が含まれている可能性があるとして信ぴょう性の低いコンテンツと判断された動画には、「信ぴょう性が未確認である」ことを表示するラベルが付される。ラベルが付された動画の投稿者には、作成した動画に「信ぴょう性の低いコンテンツ」としてフラグが付けられたことが通知され、視聴者がラベルの付いた動画を共有しようとすると、動画に「信ぴょう性の低いコンテンツ」としてフラグが付けられているという通知が表示される。これにより、視聴者に立ち止まることを促し、信ぴょう性の低い情報の共有を中止するきっかけを提供している。
さらに、2022年以降、視聴者による違反報告のフローを強化し続けており、２０２４年現在は、偽・誤情報の影響が深刻な「選挙に関する誤情報」「有害な誤情報」「ディープフェイク、合成メディア、操作されたメディア」の３つのカテゴリーで、偽・誤情報を目撃したユーザーが報告しやすいように監視体制を強化している。
■自分事として考える重要性と、守ってほしい「コミュニティガイドライン」
金子「ＴｉｋＴｏｋでは、皆さんに安全にご利用いただくためのルールをまとめたコミュニティガイドラインを定めています。このガイドラインは、ＴｉｋＴｏｋを利用する際のよりどころとなるものであり、コンテンツの審査もこれに従って行われています」
【ＴｉｋＴｏｋのコミュニティガイドライン】
偽・誤情報については「誠実性と信頼性」というトピックで扱っている。そこには「個人や社会に重大な危害を及ぼし得る不正確な、誤解を招く、または虚偽のコンテンツは意図にかかわらず許可しません」と明示している。偽・誤情報は許さないという強いメッセージだ。
しんのすけさん「ＴｉｋＴｏｋを利用する際のよりどころとはいえ、動画プラットフォームのユーザーにとって、文章でまとめられたコミュニティガイドラインの全文を読むのはハードルが高いかもしれないですね」
「誹謗中傷をしない、成人指定の動画を投稿しないなどのルールは他のプラットフォームを使う際にも学んできているので、きちんとTikTokのルールを確認しないまま、同じように使えば問題ないと考えている人も多いかもしれません」
金子「偽・誤情報への対策について分かりやすく伝えるため、今回のサイバーセキュリティ月間では、クリエイターのイケボパパさんと協力して、新たな啓発動画を作成しました。クリエイターの皆さんの力をお借りして、分かりやすく発信することは、有効な啓発手段の一つとなると思います。過去にも多くの啓発動画をクリエイターの皆さんと連携して作成しており、これからも、こうした動画を作成していきたいです」
◇ＴｉｋＴｏｋがクリエイターのイケボパパさんと連携して作成した啓発動画はこちら
@tiktokjapan 「偽・誤情報」を目にしたことはありますか？「それって本当？」「情報源は信頼できる？」「みんな言っているからと信じていない？」「安易に拡散していない？」 @イケボパパ さん制作の動画で「偽・誤情報」についてみんながすぐにできる行動を一緒に考えましょう！ #tiktokpresents #サイバーセキュリティ月間 #TikTok安全推進
♬ Clock It - Chris Alan Lee
■ガイドライン違反を通知、他人事でなく「自分事」に置き換えて
金子「ＴｉｋＴｏｋでは動画がガイドライン違反で削除された場合に、偽・誤情報に限らず、具体的にどのガイドラインに違反したのかがユーザーさんに通知されるようになっています。ご自身で削除された理由を確認できるようにすることで、同じ違反を繰り返すことを避けていただけるようになります」
山口准教授「ガイドラインのどこに違反しているかをきちんと知らせるのはすごくいい取り組みです。知らせてもらえれば、自分が偽・誤情報を発信してしまったことに気づくこともできますし、削除された側からしても納得感があるでしょう」
「偽・誤情報については、他人事でなく、普段から『自分事』と考えることが大切です。プラットフォームとして、ＴｉｋＴｏｋがユーザーの声を拾う場をきちんと作っているのもすばらしいと思いました」
【ＴｉｋＴｏｋの違反通知】
ガイドライン違反で動画が削除されたときに届く通知。該当するガイドラインに飛べるリンクがついており、どのコミュニティガイドラインに違反したのか自ら確認できる。削除された理由が明確になり、同じ違反を繰り返すことを防げるようになっている。また、削除措置に対する異議申し立ての機会を確保することで、コンテンツ審査の透明性・公正性を保っている。
■「変化の激しい出来事」公式情報でファクトチェックを
金子「信頼できる情報に接触できる機会を提供する工夫もしています。例えば、新型コロナウイルス感染症が流行したときは、コロナ関連の動画には、『信頼できる情報はこちら』と厚生労働省などの公的機関が発信している信頼できる情報に遷移できるラベルをつけました。プラットフォーム側が『これは正しい』『これは正しくない』と判別するのが難しい情報も多いですし、決めつけていいわけでもありません。不確かな情報には『信ぴょう性の低いコンテンツ』というラベルをはり、ユーザーご自身に考えてもらうことが大事だと考えています」
「国際紛争では真偽が確認できない情報が特に多いです。そこで、ＴｉｋＴｏｋでは紛争に関連する用語（gaza hamasなど）を検索すると、検索結果の一番上に、『変化の激しい出来事』であることを示すガイドが表示されます。ガイドでは、情報が必ずしも正確でない可能性があることを伝え、慎重なリアクションを呼びかけるとともに、公式の情報源を確認することを促しています」
山口准教授「これは有効な対策だと思います。国際紛争や新型コロナウイルス感染症など、情報の真偽を確かめることが難しい事象は、今後も増えていくでしょう。プラットフォームの側に拡散を防ぐ機能があるのは良いと思います」
■精度上がる「ディープフェイク」…AIラベルの活用を
山口准教授「生成ＡＩの登場で、画像や映像を合成させた『ディープフェイク』を誰もが発信できる時代になっています。ＡＩの精度も上がっていって、さらに真偽の確認は難しくなるでしょうし、法規制や、フェイクを見つける技術で対応していくことも大事ですが、ＴｉｋＴｏｋのようなプラットフォーム事業者やしんのすけさんのようなクリエイター、そして一般の利用者にも対応が求められます」
金子「ＴｉｋＴｏｋではＡＩで生成したコンテンツであることをユーザー自身が動画に表示できる『ＡＩ生成ラベル』を開発しました。コミュニティガイドラインでは、ＡＩで生成したコンテンツを投稿する際には、このラベルをつけることを義務づけています。かなり早期の段階で開発し、日本語でも実装をしました。ＴｉｋＴｏｋには偽・誤情報を通報する機能があり、そうした機能を使って、ユーザーの皆さまがアクションを取ってくれることも多いです」
■発信前に一呼吸、「本当にこの動画をシェアしますか？」
山口准教授「現代社会の問題点は、思ったことを数秒で世界に発信できてしまう過剰な情報発信力を全人類が持っていることです。そうした過剰な発信力を誰もが持つ時代だからこそ、発信する前に考えさせるタイミングを設けることが大事になってきます。投稿する前に一拍でいいので呼吸を置ければ良いのですが、それが難しい」
金子「ＴｉｋＴｏｋの審査で信ぴょう性が低いと判断した動画にはラベルを表示するだけでなく、その動画を共有しようとした場合には『本当にこの動画をシェアしますか？』という通知が出るようにしています。まさに山口先生にお話しいただいた、発信する前にもう一度考えていただけるタイミングを作り、一呼吸置いてもらうための機能です」
しんのすけさん「投稿するときや拡散するとき、一歩立ち止まって考えるには、いかに『自分事』に置き換えられるかにかかっていると思います。ただ、『自分事』にするタイミングや事象は人によって違うので、周囲に言われたからといってできるわけではないのが難しいところです。（だれもが加害者になり、被害者にもなりうるという）危機感の方が伝わりやすい側面はあるかもしれませんね。『これをやってはだめ』よりも、『あなたもやってしまう可能性があるから気をつけてください』と言う方が響く気がします」
【クリエイターと専門家がディスカッション 偽・誤情報の実態を知る】
ワークショップでは、山口准教授、しんのすけさんも加わり、クリエイターや学生の皆さんとディスカッションを行いました。公式を装った偽アカウントや、芸能人やスポーツ選手らに関する真偽不明なゴシップ記事など、日常的に偽・誤情報に触れている実態を学びました。
参加者からは「ネット上で知った情報を家庭内で話すことでも、フェイクニュースが（噂として）拡散されてしまうことが分かった。私たちより上の世代にも偽・誤情報について知らせていきたい」（大学生・中村美尋さん）、「外国人にインタビューして発信する動画を発信しているが、センシティブな話題は特によく気をつけて発信したいと改めて思った」（動画クリエイター・ヨージさん）などの感想が聞かれました。
■混沌とした時代だからこそ
山口准教授「我々がいる混沌とした環境には、白黒はっきりつかない情報、つけられない情報が大量にあって、絶対にだまされないということはありません。その前提で情報を見聞きし、プラットフォーム事業者もアラートを出したり注意を呼びかけたりし続けないといけません。自然災害発生時には確かに『陰謀論』の動画も存在しましたが、同時に陰謀論を否定する動画も存在していました。混沌とした環境だからこそ、ユーザー、クリエイター、事業者、業界団体、政府、ファクトチェック組織、皆が連携して対策に取り組んでいく必要があります」
しんのすけさん「ＡＩの進化によって、現実がフィクションに追いついたと感じることがあります。リアリティを求めるエンターテインメントとフィクションの境目を見極めるのがどんどん難しくなっていますが、こうしたワークショップで偽・誤情報のリテラシーをあげていくことには意味があるし、より良い未来につながっていく気がします」
金子「今回のワークショップに参加してくださった方の多くが、偽・誤情報への対策方法やＴｉｋＴｏｋの偽・誤情報への取り組みについて、理解が非常に深まったと回答してくださいました。確かに『陰謀論』のようなものもありますが、正しい情報を伝えようとしてくれるクリエイターの方がいるのも事実です。ＴｉｋＴｏｋでは、これまでも伝える力を持つクリエイターの皆さまと、山口先生のような専門家の方々に意見交換をしていただける場をつくる活動をしてきました。これからも、専門家・NPOや政府の皆さまと連携し、クリエイターの皆さまの力もお借りしながら、偽・誤情報防止の取り組みをさらに推進していきたいと思います」
【やまぐち・しんいち】１９８６年生まれ。経済学博士。専門は計量経済学、ネットメディア論、情報経済論など。２０２０年から国際大学グローバル・コミュニケーション・センター准教授。内閣府や総務省など、政府の各種委員会で座長や構成員を務める。
【しんのすけ】１９８８年生まれ。大学で映画を学び、映像作家として映画制作に関わる。２０１８年に独立し、１９年からＴｉｋＴｏｋで映画感想クリエイターとして映画レビュージャンルを開拓する。日本のカルチャーを発信する「ＭＥＷ Ｃｒｅａｔｏｒｓ」を設立。
【かねこ・ようこ】ＴｉｋＴｏｋ Ｊａｐａｎ 公共政策本部 政策渉外担当部長。中央省庁ＮＰＯ、業界団体とも幅広く連携し、オンラインプラットフォームにおける青少年の安心安全な利用環境の実現や、プラットフォームの特徴を活かした社会貢献活動に取り組む。
▼その他のTikTokセーフティニュースはこちら