生成AIを使った誹謗中傷対策システム
少し前に、note社が誹謗中傷対策として、生成AIをチェックツールとして活用する方法を紹介していました。
生成AIの「クリエイティブ」機能に対しては疑問符が付きますが（苦笑）、文章校正や問題点のあぶり出しに対しては、非常に優秀です。
最近は、この手の機能を活用することも増えてきました。
さて、あるクリエイターの投稿に対して、「この文章の問題点を指摘してください」とチャットGPTに問いかけた際の、チャットGPTの回答です。
1. **攻撃的な論調と個人攻撃**:
文章全体が攻撃的であり、特定の人物やグループを「古参のオジサン・オバサン」として批判しています。個人攻撃に近い表現が使われているため、読者の一部が不快に感じる可能性が高いです。また、年齢差別的なニュアンスが含まれており、広範な読者層に対してて失礼に当たる可能性もあります。
うんうん、やはりそうですか……。
まあ、「攻撃的」な文章を恒常的に行っている人は、割と「勢い」で投稿しているのでしょう。一見考え抜かれたようでも、実は結構論理破綻していることも珍しくないですし。
攻撃的思考はクセになることが、脳科学者たちによって証明されているのですけれどね……。
ですが「攻撃的ニュアンスが大好き」な人々は、きっと、そうした行動は止めないでしょう。あれこれと上から目線の文章を書く段階で、既に「正義中毒状態」になっているはずですから。
そして、「誹謗中傷 AI」でグーグル検索をした結果として出て来たのが、上記の記事です。
これが実装化されれば、note社の負担もずいぶんと減ることでしょう。
モデルとなっているのはXですが、日本語の微妙なニュアンスにも対応してくれるということなので、note社がこのようなシステムを導入した場合、必然的にユーザーは過激な投稿を減らさざるを得なくなっていくのでしょう。
実際、私が下記のnote社のレポートをヒントに、チャットGPTに「問題投稿」（Xも含む）について、「この投稿の問題点を指摘してください」と投げかけた投稿に対する回答は、概ね全て私が感じた感覚と一致しています。
むしろチャットGPTの方が、より「もやもや」していた感覚を視覚化してくれるかもしれません。
他にも、別の投稿に対してもこんな回答が。
そんなわけで、自分の投稿が「投稿するのが妥当かどうか」をチェックするツールとしてAIを活用する方法は、私もおすすめです。
また、特定の投稿で「自分に対する誹謗中傷かも……」と感じた投稿についても、生成AIに問いかけるのであれば、周りを巻き込まずに済みますしね。
#誹謗中傷
#エッセイ
#この経験に学べ
#AIとやってみた
これまで数々のサポートをいただきまして、誠にありがとうございます。 いただきましたサポートは、書籍購入及び地元での取材費に充てさせていただいております。 皆様のご厚情に感謝するとともに、さらに精進していく所存でございます。