富士通は大丈夫か？カスハラ対策の間違ったAIアプローチ
今月４日、東京都では顧客による著しい迷惑行為「カスタマーハラスメント（カスハラ）」を防ぐ全国初の条例が可決、成立した。2025年4月に施行するという。厚生労働省も法改正の検討を始めているしカスハラ対策は全国的な動きになるようだ。
この動きは今の時代至極当然であり、行き過ぎた客の態度は是正しなければならないと私も思う。
だが、ここにきて富士通と東洋大学がおかしなことを始めている。
AIを本当に知っているのか疑問に感じたので、私の意見を言わせていただこう。
富士通の「カスハラ対策AI」とは？
フジトラニュース「犯罪心理学×AIでカスハラから従業員を守る！ ～東洋大学と富士通の革新的な取り組み事例～」より画像引用
富士通とカスハラ研究を行っている東洋大学は、共同開発によりAIにカスハラを学ばせた体験AIを作ったという。
上記の写真のように、スタッフがドラッグストアの店員役となりAIがカスハラ客を演じている。マイクで話している音声を文字起こしし、会話が終了するとAIが採点し評価もしてくれるようだ。
富士通の紺野氏は、「犯罪心理学の知見を活用し、カスハラに共通する会話のパターンを学習したAIによってカスハラの現場を再現してます。攻撃の仕方から声のトーンまでリアルに再現したAIトレーナーと対話することで、様々な業種や業態におけるカスハラの疑似体験ができます。」と、記事の中で説明している。
また、「カスハラに対して「毅然とした態度で対応できているか」「適切な距離を保てているか」といった点を評価し、さらに採点理由や改善すべき点も提示することで、次のアクションに役立てることができます。」のだそうだ。
「はあ？何やってるの？富士通さん。」
私は、生成AIの専門家ではない。だが、はっきり言わせてもらいたい。
「AIを馬鹿にするな！」と。もっとAIを理解しAIの得意なことに使うべきだし、カスハラ対策ならもっと別のやり方を考えるべきだろう。
この富士通と東洋大学がなぜ間違っているか気が付かない人も多いと思うので、ここから解説をしていく。反論は受け付けるのでコメントまでどうぞ。
AI（ここでいうAIとは、LLMのこと）は、広く汎用性があり人間から受け入れられるように設計されている。AIの特徴から考えるとカスハラ客を演じるのは次のような無理なところがある。
倫理的制約： 攻撃的、差別的、あるいは過度に不適切な言動を再現することは、プログラムされた倫理ガイドラインに反する。
ポジティブバイアス： 対話を建設的で礼儀正しい方向に導くよう設計されているため、極端なネガティブな態度を維持するのは困難。
一貫性の維持： 非理性的で感情的な行動を一貫して演じることは、論理的思考を基本とする AI には難しい課題だ。
リアルな不合理さの欠如： 人間のカスハラ客が示すような予測不可能な感情の起伏や非論理的な要求を自然に再現することは困難である。
過激な表現の制限： 実際のカスハラ場面で使われるような過激な言葉遣いや脅迫的な表現を使用することはプログラム上制限されている。
上記にあげたとおりAIは本来人間にとって都合がよい存在になるように作られているのだから、あえて整合性のないカスハラ客を演じさせることには無理があるのだ。
もし、それを演じさせようとしたらどうなるか。「台本を予め用意」して、台本のとおりにAIが順番に話すということになる。
それなら、AIを使わなくても実現できる。
もしくは、程度の低いAIを使うことで「合理性がまだ整っていない」ことを逆に利用して理不尽な会話を再現させるということになる。
それでは、そのAIに進歩がない。
ならば、最新のAIに敢えて理不尽なセリフを言わせるようにファインチューニングでもさせるのか？
せっかくAIが整合性を保てるように訓練してきたものを、逆に不整合になるように再訓練させるなんて馬鹿げてる。
これを私はAIを馬鹿にしてると思う理由だ。
AIに暴力的な発言や思想を教えたり演技させる行為をビジネスと結びつけようという発想が陳腐である。誰も得をしない。
AIを馬鹿にしていないのなら、「AIに対して無知すぎる」といわざるを得ない。
つまり、何のAIモデルを使っているかは知らないが「カスハラ専用モデル」などという汎用性の低いものは、東洋大学といえどわざわざ一からは作らないだろうから既存のAIモデルを調整して使ってるのだろう。しかしそれは、非常に無意味な行為だという訳だ。
一攫千金の正しいAIによるアプローチを教えてやろう
よく聞け、富士通と東洋大学！
この私がAIの長所を活かした正しいカスハラ対策とはどうするべきか教えてやろう。
その方法は、「モデレーションAI」を使ってカスハラ客を判定し、カスハラ客には人に対応させないで代わりに「自動音声を流すこと」や「AIが代わりに対応すること」をさせればいい。
この案の何が富士通のAIと違うかというと、「従業員を訓練するため」ではなく「従業員を守るため」にAIを使うということだ。
すでに富士通のそのAIツールでも行っているように「音声から文字起こしを行い会話を判定すること」は現実的なアプローチとなっている。
ならば、それを実際の現場での会話録音をリアルタイムに文字起こしさせ、モデレーションAIにより倫理チェックを行わせるのだ。
その結果、カスハラ客と判定されたら自動で自動音声やAIなどに切り替わる。そうすることでオペレーターが助けを呼ばなくてもいい仕組みとなる。
カスハラ客もクレームを強い口調でいうと自動でAIに切り替わってしまうのなら埒が明かないから落ち着いて話をするようになるだろう。
検証は必要だが、カスハラ判定された客が落ち着いたらオペレーターと再度電話できてもよいし、それが繰り返されたり、またはあまりに悪質な場合は、条例を理由に電話を切断してもよい。
モデレーションAIはすでにある技術であり、AIが得意な分野だから導入ハードルはそこまで高くない。
これならオペ―レーターも安心して仕事ができる環境が整う。
カスハラ対策とは教育ではなく、従業員を守ることだと思うが、違うかね？
```mermaid
graph TD
A[顧客からの電話] --> B[オペレーターが対応]
B --> C{リアルタイム音声認識}
C --> D{モデレーションAIによる倫理チェック}
D --> E{カスハラと判定?}
E -->|Yes| F[自動音声/AIに切り替え]
E -->|No| G[オペレーターが対応継続]
F --> H{顧客が落ち着いた?}
H -->|Yes| I[オペレーターに再接続]
H -->|No| J{繰り返しor悪質?}
J -->|Yes| K[通話切断]
J -->|No| F
I --> L{再度カスハラ?}
L -->|Yes| F
L -->|No| G
K --> M[終了]
```なぜ教育ではなく守ることが重要か
さて、きっとカスハラ対策にもオペレーターの教育訓練も重要だと今も信じているだろうから教えてあげよう。
カスハラ客とは、理不尽だから教育は無駄！
君は、「レストランで注文していない料理が出てこないと激怒する客」を訓練でなんとかなると思っているのかい？
カスハラ客は、理不尽であり整合性がないから対策を求められているんだよ。
もし、整合性があり理不尽でない要求なら、それをカスハラ客と呼ぶのはお客様に対して失礼だ。
金を払っている以上、客は成果物を正当に受け取る権利がある。サービスに過失があるのなら正すべきだ。それをもしカスハラ客だと呼んでいるのなら、それは新たな問題を生む。
フジトラニュース「犯罪心理学×AIでカスハラから従業員を守る！ ～東洋大学と富士通の革新的な取り組み事例～」より画像引用
先ほどの会話内容だが、客は「ポイントアップキャンペーン」という客にとって得になる内容について知らされていないという当然の権利について指摘している。
これは、怒っている内容自体には問題がなく、理不尽な要求でも過剰な要求でもない。
しかし、オペレーターへの暴言はエスカレートしていく。
もし、このようなシミュレーションを想定し訓練に使うのなら「カスハラ中に毅然と振舞えるか」ではなく、「いかにしてカスハラ客を作らないか」に専念すべきだ。
採点するのなら、「カスハラ客」になりうるクレーム客を「カスハラ客」にしてしまったら減点やゲームオーバー。ぐらいなら訓練として意味はある。
そもそもカスハラ客はオペレーターの対応に問題があったときに起きていることも多いのだから。オペレーターにとっては毎日の業務の中のたくさん接するうちの一人の客にすぎないのかもしれないが、客にとっては繋がったオペレーターにしか頼れる相手がいないのだ。そのオペレーターがすぐに理解し共感してくれるならヒートアップせずに済んでいることも多い。
つまり、もし訓練をさせるのなら採点基準は「すでにカスハラ客になっている人への対応」ではなく、「カスハラ率（カスハラになりうる客がカスハラになる率）を下げること」を学ばせるべきだ。多くの客はカスハラ客になりうる因子を持っているし、その原因を作る大半は最初にクレームに対応する店員にある。
まとめ
理不尽でない要求をする客をカスハラ客呼ばわりするな！
「カスハラ客に対する毅然とした態度」を訓練するのではなく、「カスハラ客を作らない」訓練をしろ！
「従業員を訓練すること」より、「従業員を守ること」にAIをまず使え！
と、いうことでカスハラ対策のAIサービスに対して敢えてカスハラ客のように怒っている風の記事にしてみました。びっくりさせてごめんなさい。
今回の富士通さんと東洋大学さんのAIツールに私の知らない情報や誤った解釈から、不当な評価を行っている可能性もありますので読者の方はこの記事だけを鵜呑みにせず正当な評価をお願い致します。
私は、これからのヘルプデスクは人間とAIが分業すべきと考えています。うまく人間の得意なところとAIの得意なところを住み分けていける仕組みづくりができたらよいと思っています。
👇そんなヘルプデスクの革新的アイデアはこちらから。
この記事が気に入ったらサポートをしてみませんか？