【メモ】児童虐待対応における AI 利用に関する調査研究事業報告書（令和２年度厚生労働省子ども・子育て支援推進調査研究事業）
三重県の児童相談所で、AIの判断を活用して、保護を見送った子どもがなくなるという出来事があった。
とても悲しいことであるが、そもそも児童相談所の人手が足りず、苦しみ、救われない子どもが全国にたくさんいる。少しでも児童相談所の中の人が重大な案件に対応できるように、活用できるツールはどんなものでも活用してほしい。児童相談所で活用されたAIがどういったものであったか、確認したい。
今日は、「令和２年度厚生労働省子ども・子育て支援推進調査研究事業 児童虐待対応における AI 利用に関する調査研究事業報告書」を確認した。メモの目的は、主な主張を拾うこと、いざ詳細にあたる時の目印として。
レポートを見ると、そもそも児童相談所では、過去のデータの活用がされていなかったようだ。AI活用以前の問題。今回の出来事があったからといって、AI活用の機会もなくしてはいけないし、AI導入・利活用のための事前タスク（アセスメントシートの作成補助、データの整備、検索システムの構築）を止めてはいけない。より進めて、データの利活用を推進する必要がある。
〇ＡＩの利用についてのお考えについて
・回答した児童相談所の９割以上の児童相談所において、ＡＩ活用の前段である業務データの分析利活用は、行われたことがなかった。
（追記）こんな記事も出たので、ごん参考まで
児童虐待対応における AI 利用に関する調査研究事業報告書（令和２年度厚生労働省子ども・子育て支援推進調査研究事業）
どんな情報か（概要）
本調査研究では、以下 3 点の作業を実施した。
● 全国調査 全国の児童相談所へのアンケート調査により、児童相談所の緊急性の判断等においてどのような課題があり、それらの課題の背景にある前提条件について把 握する。
● 検討委員会 有識者による検討委員会を設置し、全国調査の結果に対して、児童相談所等の現場の視点や学術的な視点を盛り込んだ考察を深める。
● ツール仕様の検討等 「AI を活用した緊急性の判断等に資するリスクアセスメントツールの仕様の素案(ソフトウェアの概要)」を作成し、「当該ツールを自治体で導入にするに当たって課題となる事項(導入に当たっての課題)」を整理する。
特に読むべきポイント
今回は、特にAIの活用状況について確認したい。
「７．５ AI ツールのシステム要件」箇所に、「７．５．３ 機能要件について」があり、ここに今回問題となったであろう機能「７．５．３．５ 再発リスクの表示」が書かれている。AIは過去のデータから判断しているので、たまたま類似の特徴を持った案件が事件に至らず、リスクが低く判断、入力されていた可能性もある。
AI ツールにおいては、蓄積された対応記録において再発があったかどうかの事実は、 同一児童の、反復した通告受理記録から把握することができる。このような過去の記録の蓄積を基に、現在対応中の事例についてリスクアセスメント項目の入力の都度、 事例の類似度を AI が判定し、再発リスクを算出し、それを表示することができる。
再発リスクを推定するアルゴリズムの候補には、機械学習や確率モデリングなどの枠組みが想定されるが、算出された再発リスク指標の値を説明可能とすることを重視する場合は解釈性に優れたアルゴリズムを採用することが望ましい。 AI による参考情報として再発リスクが表示されると、職員は再発する危険性を踏まえた一時保護の判断ができるようになる。また、職員の経験に基づく再発の危険性の感覚を、客観的なデータに照らして確認できるようになり、認知バイアス等による判断ミスの防止に役立てることができる。
どのような課題に対応しているか、具体的な施策やアクションプラン
AI ツールは児童相談所で活用され緊急性の判断等に資することが期待される。しかし、AI ツールを緊急性の判断等に用いるためには、関係する児童相談所の相談援助活動の流れとのつながりや既存のシステムとの関係性、データの連続性・連携、等を考慮しなければならない。
そのため本調査研究におけるツールの導入に当たっての課題整理は、当該ツールに係るハードウェアの配置やソフトウェアを配布する観点に留まらず、できるだけ幅広く、当該ツールが児童相談所の相談援助活動の流れの中に組み込まれ、スムーズに活用されるようにするための課題を抽出することとする。 また、当該ツール導入の初期段階においては、これまで児童相談所になかったデータ活用や AI 活用の基礎スキルをいかに高めるかといった人材育成からの作業が重要となるため、そのような観点からも課題整理と検討を行うこととする。
誰に影響を与えそうか・影響を与えそうなポイント
全国の児童相談所、ということは、全国の子どもたちに影響がある取り組みになる。自分の子だけじゃない、隣人の子ども、離れて暮らす孫にも影響がある話だ。
人手が足りない今の児童相談所にあって、はじめに書いた通り、AI導入・利活用のための事前タスク（データの利活用、参照システムの導入）を止めてはいけない。
いつ発表されたか、誰が発信したか
令和 3 年 3 月 31 日
株式会社ＡｉＣＡＮ
なぜまとめたのか（理由）
児童相談所の人手不足の解消、児童虐待発生時の迅速な対応のため。
令和元年度中に全国 215 ヵ所の児童相談所が児童虐待相談として対応した件数は 193,780 件で過去最多となり、平成 2 年度の統計開始以来 29 年連続で最多を更新した。 このような状況下で、「児童虐待防止対策の抜本的強化について」（平成 31年 3月 19 日児童虐待防止対策に関する緊急閣僚会議決定）が決定され、児童虐待発生時の迅速・的確な対応の検討において、虐待事例に関するデータを収集し、その結果を AI で 分析し、緊急性の判断に資するツールの開発を加速化することとされた。
また、令和元年度子ども・子育て支援推進調査研究事業「児童虐待対応におけるアセスメントの在り方に関する調査研究」では、虐待事例に関するデータを収集し AI を活用した分析を行いアセスメント項目情報リストが得られている。
このような状況から、AI による分析を含むデジタル技術が、どのような形で導入されると、児童福祉の相談援助活動において児童虐待の発生・発見・発覚時の緊急性の判断に資するものとなるかの検討が喫緊の課題となった。
誰が主にとりまとめたか
株式会社ＡｉＣＡＮ
どんな点がこれまでの主張と比べて新しいか
そもそもデータ活用自体がされておらず、業務の整理がされていることに、注目すべきであろうと思う。
最後、「８．３ 児童福祉の相談援助活動における AI 技術の限界について」に、以下の項目がある。AIをただ利用するだけでなく、どのような制約があるのか、現状の限界については、把握しておく必要がある。
「８．３．１ 限界① AI 技術による職員の判断の代替は不可能」
「８．３．２ 限界② AI による新たな対応ノウハウ等の自動的な学習は不可能」
「８．３．３ AI の定期的な更新の必要性について」
同時に、それを使いこなすための取り組みも継続していく必要がある。
AI ツールの活用のためには、職員のスキルアップが欠かせないものとなる。ここでのスキルアップは、AI ツールの操作のためだけを指すものではない。広く業務にデータを活用できるようになるという意味でのスキルアップである。
IT による業務システムは、事務処理の一部を職員の手作業の代わりにコンピュータ処理するためのものである。したがって、業務システムを活用する前提として、職員は業務に関するスキルの習得を必要とした。前提とするスキルがなければ業務システムの操作方法のみを習得しても業務に当該システムを活用することはできないためである。
まとめ
データが活用されてこなかった現状と、人手不足をあらためて感じる内容であった。不幸な出来事があったからといって、AIやシステム開発担当、システム導入推進する人をたたくのは間違っている。より推進するために、できることを考えたい。
いい歌を詠むため、歌の肥やしにいたします。 「スキ」「フォロー」「サポート」時のお礼メッセージでも一部、歌を詠んでいます。