誹謗中傷をなくすアプリを作っている話

【悲報】【衝撃】といった文言の乱用や、攻撃的な文章が増えてきています。特にネット上には注意を引くために過激な言葉が使われることが多く、誹謗中傷に繋がることも少なくありません。

このような表現は対象となっている人や物を傷つけるだけでなく、目にしただけでも嫌な気分になる物です。自分自身が何か言われたわけではなくとも、悪質な表現を目にして不快に思ったことがある方も多いのではないでしょうか。

そもそもインターネットは自由な情報交換の場であれども、傍若無人に暴れてよい場所ではありません。広場フォルムであって闘技場コロッセウムではないのです。

もっとも、肝心の発信者に忠告しても聞く耳を持ちません。悪質なサイトや記事を取り締まるのには限界がありますし、たとえ健全な企業の運営する媒体でも対策が十分かは疑問です。

アルゴリズムの不備

【衝撃】や【悲報】や、誹謗中傷といった過激な言葉は人の注意を惹きつけます。急上昇やトレンドの自動収集では「多くの人が見たから」と機械的に判断し、これらを注目度の高い記事や投稿としていることがあります。

アルゴリズムやその開発者には罪はないでしょうが、どうもやりきれない。こんなことでは傷つく人が増えるばかりですし、陰険な記事は広めるべきものではありません。

ちなみに、いわゆる「炎上マーケティング」なるものはこれを逆手に取ったものだそうです。人を傷つけることになっても注目や利益を優先するとは。しかしこれは本題ではないので置いておきましょう。

とるべき態度

このような陰湿なものに対する態度とは、あの哲学者の如く「通り過ぎること」でしょう。わざわざ汚れた空気の場所にいつまでも留まっている義理はありませんし、文句を言うだけなら彼らと変わりません。

しかしながら、避けていても目に入ってくることは多々あります。SNSのトレンド、ニュースのコメント欄、そのようなものにはどのように対処すればいいのか。

ここからが技術の使い所です。現実に憤るだけでなく、自分自身の手で解決策を作り上げられるところがエンジニアの強みではないでしょうか。

そこで今回考えたのは、われわれ受信する側で悪質な文章を見えないようにしてしまえばよいのではないか、ということです。具体的にどんなものか分かりやすいように開発途中の画像をご覧ください。

単語フィルタリング

画像を見ていただけるとわかるように、【衝撃】などといった過度に衝撃を与えようとする単語は見えなくなっています。「www」なども中傷のために使われることは多くても、文章上はなくても困らない。このような表現もブロックの対象としています。

列挙するのは避けますが、差別的な表現や対立を煽ったりするような表現、むやみやたらと感情を煽り立てる表現はできるだけ少なく済むような配慮を心がけています。

過激なコンテンツの排除

過度に性的であったり、劣等感を煽ったりするようなものも厄介です。広告だけであれば既存の広告ブロックでも対応できるのですが、サイト内要素として組み込まれているものは対処しきれません。

もちろんこれらもブロックできるように調整しています。実際のサイトで試験を行なっているため、加工を施していますが広告などが消えているのがわかるかと思います。

コメント欄の撤廃

ニュースサイトなどを見ると、記事と一緒にコメント欄が設置されていることもあります。確かに意見を述べる場としてはいいものかもしれませんが、いつでも健全な議論が行われているとは限りません。

中には混乱を招くようなものもありますし、見るかどうか選択の余地があって然るべきでしょう。このようなコメント欄も同様に撤廃できるような機能を開発しています。

実は海外ではすでにコメント欄を隠すソフトウェアは存在するのですが、日本のサイトには非対応のものが多く、今回改めて開発したいと思っています。

これはまだ開発段階のため不十分な点もありますが、Yahooニュースなどでの導入を考えています。

今後の展望

現時点ではブロックの仕組み自体は完成しており、デザインなどの調整を行なっています。できるだけ複雑な操作を必要としないような開発を心がけています。

まずはモバイル機器で使えるアプリとして公開する予定ですが、PC版も視野に入れており、さまざまな場面で使えるものを目指しています。

ちょっとしたお願い

リリース前にはテスト版の配布なども行いたいと思っています。しかし、このアプリは個人で作成しているで、多くの人に知ってもらうための情報発信にあてる時間がないのが現状です。

もし少しでも共感していただけたなら、この記事をSNSなどで共有等してもらえると大変嬉しく思います。みなさんに使って頂けるように尽力していくのでよろしくお願いします。