AI投稿監視、「グレー」に苦慮に思う
不適切なユーザー投稿を人工知能（AI）で削除する動きがネット企業の間で広がっている。ヤフーはニュースサイトで他人への誹謗（ひぼう）中傷などが相次いだ場合、投稿欄を自動で非表示にする仕組みを導入した。米テック大手が取り組みで先行するが、違反か判別しづらい「グレー」投稿の摘発に苦慮している。表現の自由を優先してきたネット企業だが社会的責任とのバランスが新たな課題となっている。（上記記事より抜粋）
以前読んだ『AI vs. 教科書が読めない子どもたち』という本で、AIは文章の意味を理解することはできないと書かれていました。3,4前の本ですがおそらくその点が改善されてはいないと考えられるので、現在もAIは文章の意味を理解することはできていないはずです。
では何故、AIに判断を委ねているのかと言うと
ヤフー関係者は「恣意性を排除するためにAIのみとした」と話す。
と言う理由があるからです。恣意性を排除するためにAIに判断を委ねると、精度が下がる。人間が判断すれば精度は高いが恣意性が判断に出てくるというのはなかなか悩ましいものです。
また、ヤフーではAIが駄目だと判断するコメントあった場合は、そのニュースのコメント欄自体を閉じてしまうようです。これだと自分の気に入らないニュースや、方向に向かったコメント欄を無効化させることが容易にできるような気がするのですが、その辺りはどう対応するんでしょうね？
この記事が気に入ったらサポートをしてみませんか？