炎上や誹謗中傷を理解して予防するには？ #安心創作勉強会 イベントレポート
インターネットでの誹謗中傷や炎上といったトラブルが社会課題になっている昨今。クリエイターが安心して創作に集中できるよう、今回はデジタル・ジャーナリスト育成機構（D-JEDI）との共催で炎上のしくみや個人でできる予防法などを学ぶイベントを開催しました。
ご登壇いただいたのは、ジャーナリスト/メディアコラボ代表で日本ファクトチェックセンター編集長も務める古田大輔さん、弁護士ドットコムニュース編集長の山口紗貴子さんです。
※本記事は2024年6月20日に開催された安心創作勉強会「炎上、誹謗中傷どう防ぐ？いま知るべき事例と対策」の一部を抜粋したイベントレポートです。
5段階で広がっていく炎上。生成AIを味方につける
——本日のイベントですが、前半は講義パート、後半は質疑応答パートという流れで進めていきます。まずは古田さんから「炎上」について、お話しいただきます。
古田さん（以下、古田） 早速ですが、「炎上」はどのように起こると思いますか？実は、一般的に次の5段階で「炎上」は広がっていきます。
古田 まず火種がネットに上がる。「これはおかしいのでは？」と批判が少しずつ広がります。するとネットメディアが取り上げ、ソーシャルメディアで拡散される。やがて新聞やテレビが報じることで、影響度が飛躍的に高まる。これが典型的な炎上の流れです。
そもそも「炎上」とは、ネット上での言動に対して非難や中傷の投稿が多数寄せられること、またその非難が集中してサイトが閉鎖に追い込まれることを指します。（出典：デジタル大辞泉）
元々は明らかに問題のある言動をした時に起きるものでしたが、今は必ずしもその言動が100%間違っていなくても、「炎上」と呼ばれることがある。私は、これを深刻な問題だと考えています。
ちなみに、覚えておいていただきたいデータがあります。『ネット炎上の研究』という本によると、実は炎上の書き込みを1回でもしたことのある人は、ネットユーザーのわずか0.48%です。2回以上書き込んだことがある人は1.03%。相手の目に触れるところに書き込むのはわずか0.00X%で、非常に少ないんです。日本ではネットで発言する人は他国の3分の1程度と少なめ。だからこそ、ネットの意見は極端になりがちで、強い意見の人ばかりが目立ちます。多数派は基本的に黙っているんです。
著 田中辰雄・山口真一
——炎上にはどのような種類がありますか？
古田 批判が殺到する主な原因を考えると、いくつかのパターンに分けられます。
古田 一般的には誤報や暴言などに対して、批判が殺到することを炎上と呼びますが、実際にはそれ以外の理由でも批判が集中することがあります。例えば、論争的なテーマに言及する場合（上記図版の棒線下）です。
これらのテーマについて発言すると、必ずしも発言者の言動が不適切だからではなく、単にテーマ自体が論争的であるため、多くの人から批判を受ける可能性があります。このような状況を従来の「炎上」と同様に扱うべきかは、再考の余地があるでしょう。なぜ炎上の種類を分けるかというと、対応方法を変える必要があるからです。
自分の言動に問題があるパターンは、非を認めて速やかに謝罪・削除・修正などの対応をするのが基本。一方で論争的なテーマに踏み込むなど、自分に非がないパターンは同じ対応をとる必要はありません。非論理的な批判に関しては、プラットフォームに通報するか、法的な対応をとるか、もしくは世の中にはこういうこともあると考え、対応しないか。炎上の種類によって、適切な対応を選択するといいでしょう。
古田 ちなみに法的に対応したケースに関しては、サイエンスライターの片瀬久美子さんによって細かく書かれたnoteが参考になります。ぜひ読んでみてください。
——炎上には様々な種類があることがわかりました。これだけ多くの項目をカバーするために、何か効果的な事前チェック方法はありますか？
古田 私のおすすめは、生成AIを使ったチェック方法です。試しに某ミュージックビデオについて尋ねてみたところ、100点満点ではありませんが、問題点をほぼ網羅した内容が出力されました。生成AIには利点と限界がありますが、人間では及ばない膨大なデータをもとに、広範な観点から課題や改善案を提示してくれます。
また生成AIを使うメリットは、個人が言いにくい意見も客観的に伝えられる点です。これは組織を運営する場合の利点ではないでしょうか。
古田 ただし、生成AIの回答が全て正しいとは限りません。AIは風刺や発言者の意図など、文脈の理解が苦手なので、最終的には人間が責任を持って判断しなければなりません。
ですが、例えば「景表法・薬機法の観点から」など、特定の分野に特化したチェックもできるので、皆さんも試してみてはいかがでしょうか。
ネットニュースが扱う炎上とは？リスクを知って発信する
——続いて山口さんからお話を伺いたいと思います。
山口さん（以下、山口） 本日はネットニュースを制作している現場の人間として、「自分自身（メディア）が炎上するリスク」などについてお話ししていきます。
まず大前提として、「炎上」という言葉の定義は様々ですが、現在の炎上は以前より批判範囲が広がっていると感じます。例えば、個人が理不尽な誹謗中傷を受けて苦しむケースもあれば、社会の不正を正すための動きが「炎上」と呼ばれることもあるでしょう。
山口 炎上事件をきっかけに、社会が重要な問題に気づくこともあります。これは必ずしも「悪い炎上」とは言えません。ネット社会では、個人の声が直接社会に届きやすくなり、それが炎上という形で表れることもあるのです。この状況には、よい面も悪い面もあると考えています。
——そんな中、山口さんから見た発信側が気を付けることは何だと思いますか？
山口 実名と顔出しで情報を発信するリスクについて、しっかり検討したほうがいいと思います。発信する人たちはある程度の覚悟を決めているとは思いますが、予想外の反応が起こることもある。だからこそ、起こり得る反応をきちんと考えた上で発信してほしいですね。
特に気をつけてほしいのが、所属する会社や年齢、性別といった個人情報です。これらは、想像以上に大きな影響を与える可能性があります。会社名がわかると職場に影響が及ぶかもしれませんし、年齢や性別によって予期せぬ反応を引き起こすかもしれません。
——それでももし、炎上した場合はどうすればいいですか？
山口 実際に炎上してしまった場合は、動揺せずに対応することが大切です。一番よくないのが、黙って記事を非公開にしたり、こっそり修正したりすること。修正する場合は、理由やいつ修正したのかを記事に明記すべきだと思います。
企業に所属している方は、リスクのある発信をする際に社内や編集部内で事前に了解を得ておいたほうがいいですね。「こういう理由でこんな発信をします。こういう反発が予想されるけど、大体このくらいで鎮静化すると思います」という具合で。おそらくカスタマーサポートの部署などは心配すると思うので、事前に伝えておくといいでしょう。
質疑応答
——ここからは皆さんからの質問に答えていきたいと思います。誹謗中傷と批評・批判の線引きについて明確な判断基準はありますか？
山口 誹謗中傷と批評の線引きは実際すごく難しいですね。言っている側は正当な批判のつもりでも、受け手にとっては誹謗中傷と感じることは多いです。意見を発信する側ができることは、自分の実名や顔を出して発信できるか、家族に見せられる内容かを一つの基準にするのもいいかもしれません。
——海外での炎上について、傾向を教えてください。
古田 基本的にはどの国でも似たような状況です。ネット炎上は普遍的な現象で、海外ではより激しい批判が大量に寄せられることもあります。そのため、精神的に追い詰められる人も多いです。
私は海外のジャーナリズム関連のカンファレンスによく参加するのですが、そういう場では必ずと言っていいほどメンタルケアのセッションが設けられています。なぜなら、多くの記者が精神的な負担を抱えているから。最近では個人のケアだけでなく、マネジメント層向けに、炎上に巻き込まれたチームメンバーをサポートする研修も始まっています。
日本ではまだこういった取り組みが少ないので、誹謗中傷を受けた人々の心のケアについてのセッションを設けることも非常に価値があると考えています。
——ネットニュースや動画配信における見出しやサムネイルなど、最近はその表現が過激化してきているのではないかと感じますが、いかがでしょうか？
山口 私も同じようなことを感じていて、週刊誌の見出しや内容をそのままネットニュースに転用することには反対です。ネット上での拡散力を考えると、名誉毀損のリスクや未成年の方々への影響など、危険性が高まるためです。
今では炎上狙いのコンテンツはXやYouTubeでも多く見られますし、逮捕者も出ました。過激な投稿が歯止めなく広がる中で、プラットフォーム側は、こういった投稿の削除や管理についてより真剣に取り組む責任があると考えています。
古田 炎上ビジネスのような話は、「アテンション・エコノミー」（人々の関心を集めることが収入に結びつく経済システム）と絡めてよく議論されています。この問題に対処するには、注目を集めるだけのコンテンツに金銭的な報酬を与えないことが必要になってくるのですが、そうなるとプラットフォーム側での対策が不可欠です。
日本ファクトチェックセンターでは、この問題に関する解説動画を制作しました。アテンション・エコノミーの仕組みや、プラットフォームのアルゴリズムがどのように偏向を強化するのかについて説明しています。ぜひご覧ください。
※アテンション・エコノミーやプラットフォームの役割に関しては、上記シリーズの第3回、フェイクニュースとアルゴリズム YouTubeやTikTokが便利で危険な理由 【JFCファクトチェック講座 理論編3 よりご覧いただけます。
——炎上の当事者になった時の心のケアについて伺いたいです。立ち直りと沈静化にどの程度の時間を必要としますか？
山口 一過性の炎上なら、沈静化の目安は「72時間」でしょうか。ただ、炎上しやすい立場の人は長引くこともあります。炎上した方が組織に属しているか個人かによっても大きく変わってくると思いますね。
古田 私も同感で「72時間」というのは、体感値としてあると思います。ただし、批判を受けやすい立場の人が、2回ほど炎上を経験すると、それだけでその人に対する「固定客」がつくことがあるんです。もう「この人の発信をずっと見てやろう」と。その状態になると、何を発言しても批判される状態が続いてしまいます。
そういう場合の心のケアに関して、いろんな事例を見て思うのは、批判に対してガーッと強く反論する人ほど、心のダメージが大きいということです。反論している時は、アドレナリンが出ているけれど、気づかないうちに、すごく精神的な体力を消耗しているんですよね。
もしそうなった場合は、休むことをおすすめします。できれば、日頃から相談相手や同じ業界の仲間をつくっておくのもよいでしょう。相談できる人がいないなら、最近はChatGPTなどのAIに慰めてもらうのも手です。いつでも答えてくれますから。
——今日は炎上に関して不安を感じながら聞いていた方も多いと思います。そんな方々に向けて、最後にメッセージをお願いできますか？
山口 今日はテーマ上、ネガティブな話が多かったと思いますが、実際のネットはそんなに怖い場所ではありません。ですので、自分が発信したいことがあれば、きちんと伝え続けることが大切だと思います。たとえ大きな声ではなくても、きっと届いている人はいるはずです。
古田 私のBuzzFeed時代のオーストラリアの同僚の話を紹介します。彼女は、高校時代はほとんど友達がいなかったそうです。でも、ライターになって大好きなドラマの記事を書き始めたら、世界中に彼女の記事のファンができたんです。彼女は「私の仲間はこんなところにいたんだ」と気づき、「だから私はインターネットが大好きなんです」とエッセイに綴っていました。
現在のソーシャルメディア空間では、批判的な人が多い雰囲気がありますが、支持してくれる人も確かに存在します。自分の表現が適切かどうかを常に自省することは大切ですが、同時に、皆さんを支持してくれる人もいることを忘れないでください。
——本日はありがとうございました。
▼イベントのアーカイブ動画は以下からご覧いただけます。
登壇者プロフィール
古田大輔
ジャーナリスト/メディアコラボ代表/デジタル・ジャーナリスト育成機構 事務局長
朝日新聞記者、BuzzFeed Japan創刊編集長を経て独立し、ジャーナリストとして活動。2020-22年Google News Labティーチングフェロー。2022年9月に日本ファクトチェックセンター編集長に就任。ニューヨーク市立大院News Innovation and Leadership2021修了。
note: https://note.com/masurakusuo
X: https://twitter.com/masurakusuo
D-JEDIとは
デジタル・ジャーナリスト育成機構（Digital Journalist EDucation Institute＝D-JEDI）は、報道やメディアに直接携わる人を中心に、より広く発信に関わる人達にも「開かれたデジタル・ジャーナリズム」を学ぶ場所を提供する一般社団法人。
山口紗貴子
弁護士ドットコムニュース編集長（ニュース編集部部長）
慶應義塾大学卒業後、2002年株式会社新潮社に入社。「週刊新潮」編集部、出版企画部などにて特集記事の取材や小説・コラム連載、書籍編集に携わった。2015年弁護士ドットコム株式会社に入社。日々の取材記事のほか、編集部発の書籍やムックも担当。2024年4月より現職。
モデレーター・金子智美
note株式会社
2020年よりnote株式会社にてコミュニティ運営などのユーザー向けコミュニケーションに従事。前職はLINE株式会社(現:LINEヤフー）に10年間所属し、ソーシャルメディアを中心としたコミュニケーション全般の戦略・企画を担当。
note: https://note.com/kanetomo/
X: https://twitter.com/kane_tomo