【採用】AIツールの利用、日本でも規制されるのか
採用の現場でAIツールの利用が増えており、ニューヨーク市では2023年7月に、規制する条例が施行された。そして、欧州でも厳しいルールになる可能性があるようだ。
AI規制の条例の内容
このAI規制の条例については、「労働政策研究・研修機構（JILPT）」のサイトにも同様の記事が掲載されていた。
ニューヨーク市は7月5日、企業の採用活動等におけるAI(人工知能)の活用を規制する条例を施行した。人材の採用プロセスや昇進者の選考等に「自動雇用決定ツール(Automatic Employment Decision Tool, AEDT)」といわれるソフトウェアを使用する場合、性別や人種等で偏りが生じないか、第三者による監査を事前に受けるよう義務付けた。求職者や労働者に、こうしたツールの使用を通知することも定めた。違反企業には罰金を科す。
条例は、採用などでAIツールを活用する場合、
第三者による事前監査
求職者にツール使用の通知
をする必要がある、という内容だ。
第三者による事前監査
このAI規制の条例では、「バイアス監査」は、独立した第三者がおこなうことになっている。
「バイアス監査」は、独立した第三者である監査人が行う。当該ツールの使用でカテゴリーごとの選考にどの程度の違いが生じるかを明らかにする。少なくとも性別、人種/民族別、これらを組み合わせたカテゴリーにおける選択率、得点率、影響率を計算する。
同法では、バイアス審査とは、独立した監査人よる「公平な評価」であり、評価項目には少なくとも、性別カテゴリ、人種／民族カテゴリなどの選択計算方法やスコアリング方法の評価が含まれなければならないと定められており、この審査は毎年実施することが義務付けられている。コンプライアンス義務を負うのは、雇用する企業であり、AIツールを開発するベンダーではない。
求職者へのツール使用の通知
求職者へ、ツールの使用を通知する必要もあるようだ。
条例はAEDTを使用する企業や、職業紹介などを行う人材紹介事業者(Employment agencies)に対して、(1)使用前に「バイアス監査」が行なわれたことを確認する、(2)監査結果をウェブサイトに掲載する、(3)従業員や求職者に、評価や査定におけるツールの使用を通知する。評価にあたって考慮される職務上の資格や特性も伝える、(4)ツールに使用されるデータの種類とソース、データ保持ポリシーをウェブサイトに掲載する、ことを義務付けた。
自動雇用決定ツール（AEDT）とは
なお、自動雇用決定ツール(AEDT)の定義は次のようなものだ。
条例はAEDTを「機械学習、統計モデリング、データ分析、または人工知能に由来し、スコア、分類、推薦を含む簡略化されたアウトプットを提供する計算プロセスで、雇用上の裁量的な意思決定を実質的に支援、または代替するために用いるもの」と定義している。
この定義によれば、日本で言えばSPIなどの適性検査、特に性格検査は（検査結果を意思決定にどのように活かすかにもよるが）AEDTに相当するのではないだろうか。
カリフォルニア州でも法案提出
カリフォルニア州で提案されている雇用AI規制法案は、内容が若干異なっているようだ。
カリフォルニア州議会で提出された雇用AI規制法案「AB 331」では、雇用AIツールの審査は、独立した監査人ではなく、そのツールを開発したデベロッパーが実施すべきと規定。また、企業が候補者に対しAIツールの利用を通知することを義務付けるだけでなく、候補者にAIツールの利用を拒否する権利を与えている。
「ツールを開発したデベロッパー」が審査を実施すべき、とあるが、理に適っていると思われる。
ニューヨークの場合は、第三者による審査だったが、採用ツールのアルゴリズムがブラックボックスになっている場合、第三者による審査には限界があるような気がする。
欧州においても議論
欧州でも重要な議題となっている。
欧州議会では、AI規制に向け新たな法律「AI Act」が提案され、今後いくつかの議論と段階を経て施行される見込みとなっている。
高リスクに分類される分野の1つとして、雇用・労働者管理が含まれており、同法案がこのまま施行されると、採用におけるAIツールの利用は大きなコストを伴うものになると見られているのだ。
日本でも規制されるかも
米国（ニューヨーク市など）、欧州と来れば、次は日本でも採用におけるAIツールの利用に規制がかかるようになるかもしれない。
求職者（就活生）に不利益（あるいは納得感が得られないようなこと）にならないように、採用におけるAIツールの一定の規制は必要だと思う。しかし、規制が行き過ぎれば、いわゆるHRテックのイノベーションを阻害することにもなるだろう。どのあたりで着地させるのか、絶妙なバランスが求められる。
元・採用担当者としては、AIツール活用の規制によって、採用担当者の業務が煩雑になることが心配だ。「評価ツール使用を求職者へ通知」程度であればさほどの業務量ではないが、「バイアス監査の実施や結果の公開」、「ツールに使用されるデータの種類とソース、データ保持ポリシー、バイアス監査結果をウェブサイトへ掲載」となってくると、業務量が多大になるだろう。
HRテック推進とAI規制と採用業務量の絶妙なバランスが求められるのだ。
この記事が気に入ったらサポートをしてみませんか？