AI採用の限界

9月10日の日経新聞で「AIでの採用は時期尚早」という記事が掲載されました。ある法則に則って算出されたデータを鵜呑みにするとミスリードされかねないという主旨です。
同記事の一部を抜粋してみます。

～～あなたが次にどこかの企業の採用面接を受ける時、ウーバーの評価を見せてほしいと求められたらどんな気持ちがするだろうか。ウーバーの評価とは、ウーバー・タクシーの運転手が乗客としてのあなたに付ける点数だ。ウーバーのドライバーは利用者を降ろした後で、1～5点で評価し、その平均点が利用者にわかるようになっている。

米国のある企業経営者が先月中旬、求人採用のプロセスにウーバーの評価を採り入れたとツイートした。「見知らぬ相手（運転手）を尊重する人（ウーバー利用時の乗客）なら、顧客や同僚のことも大切にするはずだ」と。こう投稿したのは、デンバーにある投資会社を経営するビタリー・カツェネルソン最高経営責任者（CEO）だ。

しかし、カツェネルソン氏はすぐに、ウーバーの評価を利用する方法には問題があることに気づいた。女性たちの話によると、ウーバーのドライバーからの誘いを断った後、評価が下がったというのだ。物騒な地域に住む男性たちも、家の近くで降ろしてもらおうとすると、そんなところまで行きたがらないドライバーには悪い評価を付けられた、という経験をしていた。

カツェネルソン氏がさらに衝撃を受けたのは、自分のアシスタントのバーバラさんのウーバー評価が、見たこともない低い点数だったことだ。理由がわからなかった。バーバラさんは、同氏の言葉を借りるなら、信じ難いほど親切で素晴らしい人だからだ。「社員の全員がバーバラのような人だったらと思うほどだ」と。

その後、バーバラさんがウーバーをほとんど使わないことが判明した。一度、利用しようとしたときに行き違いのようになってしまい、迎えにきた車に乗らなかったことがあったという。

カツェネルソン氏はこれをきっかけにウーバーの評価を採用に使う考えを即、断念した。「当初は自分はなんて賢いのかなどと思ったが、ウーバーの評価が優れた解決策にはならないことに気づいた」のだ。筆者はカツェネルソン氏の話を聞きながら、人材採用に人工知能（AI）のアルゴリズムを使うことに対する同氏の懐疑が、もっと多くの企業にも広まればいいのにと考え始めた。～～

この記事は、大きく2つのことを示唆していると思います。
ひとつは、AI判定とされるプロセスにも、どこかで人間の判定が介在している可能性があるということです。

上記の例の場合は、運転手からのある人物（乗客）に対する評価結果というデータは、正確に集められているのでしょう。東京でA運転手、大阪でB運転手、沖縄でC運転手の車を同じ人物（乗客）が利用しても、それがウーバー経由であればABC各運転手が自分をどう評価したのかが、一か所に集められて、その情報を他者が利用できてしまうのです。以前の社会では考えられなかった環境になりました。

しかし、運転手が何をもって自分のことをよい人物だと評価するかの判断軸は、運転手という人間の判定に委ねられているわけです。運転手に対してどのように教育や訓練をしても、他者（乗客）に対する評価点が完全に同一になる状態はつくれないでしょう。

AIの活用によって個人の与信判定を行うという試みも始まっていると聞きます。確かに、個人の居住地、世帯構成、年収、職歴、金融機関からの借入履歴などの属性情報を集め、世界中にいる似た属性情報の持ち主の信用リスクとデータ比較するなどすれば、融資可能かどうかの判定結果が出るかもしれません。しかし、例えばAさんとBさんで同額の借入履歴があったとして、それが高級車を買うための借入だったのか、身体上の事情があって高額な保険外診療を行うための借入だったのかでは、AさんBさんに対する評価は違うはずです。この点を、AIは直接教えてくれないでしょう。

もちろん、借入理由まで正確にデータで把握できれば、アウトプットされた与信情報の精度も高まるのかもしれません。しかし、保険外診療を行いたいという名目で借り入れた資金を実は高級車に使っていたという場合、判定が歪むことになります（そうした嘘をついたというデータでさえ正確に集められるのかもしれませんが・・）。傷害事件の履歴があると言っても、それが暴飲で酩酊しての故意による暴力的な行為だったのか、限りなく緊急避難に近い行為だったのかで評価が変わるはずですが、同じ傷害事件というデータで扱われる可能性もあります。よって、そうしたデータ「だけ」で的確な判断ができると考えるのは、行き過ぎでしょう。

同記事は次のように続いています。

～～多くの企業が人材探しを外注し、委託された企業はウェブサイトをあさって候補者を物色する。求職者がオンライン上に提出している応募書類から、雇用者が望んでいると思われる語句を含んでいるか自動的に検索している。音声認識や身ぶり解析ソフトなどを利用する様々なデジタルツールが、求人の成否を左右するとされる。

しかし、様々な新技術の活用が、よい人材の採用につながっているのかという点は、実はほとんどわかっていない。では、企業はいったいどうすべきなのか。まず、さも先進的な技術を駆使しているかのように思えても、効用が確認されていないデジタルツールは使わないことだ。重要なのは基本的なスキルについて試験をすることだ。

筆者は、カツェネルソン氏が数年前にある方策を用いてアナリストを1人採用した際に、大切なことに気づいていたのではないかと思う。その時同氏は、報酬額だけを気にかけるのではなく、投資について強い探究心のある人材を探そうとしていた。そして、恐ろしく時間のかかる求人方法を考え出した。応募者に以下に回答するよう求めたのだ。

過去1年に読んだ本をすべて列記し、これまで自分が最も影響を受けた3冊の本と2人の人物について説明すること。加えて株式分析を提出させ、自分を採用しないことがいかに大きな間違いであるかを説明する手紙を添えるよう求めた。50人ほどの応募があったが、すべての課題に回答したのは12人だけだった。だが、この時採用したアナリストは今も同社に在籍している。カツェネルソン氏は、この採用は「大成功だった」と話す。～～

このカツェネルソン氏のエピソードは、外部から人を採用するときの難しさと奥深さ、そして解決の方向性の本質を物語っているのだと思います。

1人の人間の中には、白黒様々な要素が入り混じっています。完全に白、完全に黒の人などいなくて、だれしもグレーな部分も持っています。それを何らかの法則に則って集められたデータだけで、白黒判定することは無理があるのでしょう。

あるデータは一つの判定材料になるかもしれませんが、そのデータにすら人の判定が介在しているということ、そしてそのデータだけでは総合的な判定はできないということを、私たちは認識すべきなのだと思います。

採用で多面的な方法をとることの意義については、よろしければ以下もご参照ください。

続きは、次回以降取り上げてみます。

＜まとめ＞
AIによってはじき出されたデータにも、そのプロセスで人による判定した結果の要素が絡んでいる。