AI Builderでハラスメント対策は可能か？

Teamsって便利ですよね。
弊社でも導入から数年経ち、今ではなくてはならないものになっています。
とはいえ、新たなツールを使えば新たな問題も出てくるもので、一部チームにてハラスメント疑い事案が発生してしまいました。

実はMicrosoft 365 E5には、このような事態に対応するための「コミュニケーションコンプライアンス」というツールが用意されています。
しかし、残念ながらE5のライセンスはなかなか手が出ない。

そんな折、MiyakeさんからAI Builderで感情分析ができるということを教えていただき、ハラスメント対策に使えないか検証してみました。

（注意！）
・AI Builderを使用しますので、有償ライセンスが必要です。
・AIの感情分析を使用する際には、倫理原則をご理解の上ご利用ください。
https://www.microsoft.com/ja-jp/ai/responsible-ai?activetab=pivot1:primaryr6
・最終的なハラスメントの判断は専門家の見解をご確認ください。

全体像

フローは下記を参考にしてください。
チームへ投稿した内容をAI Builderが感情分析し、否定的感情が高い場合に本人に注意喚起チャットを送るという流れです。

結論

「現状はハラスメント対策には使えない。」
1ヶ月ほど検証してみた結果、現状ではハラスメント対策には不向きということが分かりました。

たとえば、下記のように叱責のような文では否定度が高くなりにくく、逆に肯定的な内容であっても「欠品」のようなネガティブな単語が入ると否定度が上がるようです。

ハラスメントになりそうな叱責は否定度がさほど高くない

肯定的な内容であっても否定的な単語が入ると否定度が上がる

MicrosoftのLearnを見ると下記のような記載がありますので、そもそも「ハラスメント」検出は想定していないのかもしれませんね。

AI Builder 感情分析で解決されたビジネス上の問題 - Training | Microsoft Learn

もしくは日本語の精度が高くないだけで、将来的には精度が上がってくるのかもしれません。（コミュニケーションコンプライアンスは異なるエンジンを使ってるのかな？）

というわけで、現段階ではAI Builderでハラスメント対策は難しいという結果でした。
とはいえ、AI Builderは使い方次第で色々面白いことができそうなので、ぜひ触ってみてくださいね。

参考サイト

上司が怒ってたら教えてくれるフロー（Power Automate） - Qiita