TwitterのコミュニティノートをBing AIに自動生成させてみた
広義のコミュニティノート的な検証機能自体はあって然るべきだが、現状、コミュニティノートのフォーマット自体がそれを信じることをアフォードしている点は興味深い。
コミュニティノートのコミュニティノートがあればよいのかもしれないが、さて・・・。
例えば、このtweet。
これに否定的なコミュニティノート(っぽい文章)をbing AIに生成させてみると次のようになる。
何やらもっともらしい検証コメントが生成された。
検証は重要だが、一見検証っぽいものは簡単に生成できる。従って検証が本当に検証なのかどうかを検証しなければならないことになる。コミュニティノートには一応事前評価に依るフィルタリング機能がついていて、一定評価以上のものしか表示されないようになってはいるが、こういった一見もっともらしい記述を適切に評価するだけの機能を果たしているのか疑わしい。
ましてや第三者に検証を求めているエンドユーザーに至っては、そもそも彼ら彼女らがそういった検証の手間を省いてほしいというニーズを持っているからこういった機能が実装されたわけであり、彼ら彼女ら自身に「検証の検証」を求めるのは無理筋だろう。
※厳密に言うと本件に関してはbingAIはどうやら2023年を2022年と勘違いしているようなのだが、そこを修正しても恐らく似たような印象を与える検証コメントを生成することは可能だろうし、このままでも十分相当割合のユーザーにこのニュースの信憑性を疑わせるような印象を与えることができるだろう。
この記事が気に入ったらサポートをしてみませんか?