<検証・三重県予算>児相にAIを導入 職員急増、経験不足を補完

【広島県の湯﨑知事(左)にシステムを紹介する鈴木知事=県児童相談センターで】

施策や取り組みに対し、何かと「全国初」と銘打ちたがる県だが、またもやその称号を掲げて全国から注目を集めている。児童虐待の一時保護などで人工知能(AI)を活用するシステムの導入だ。

児童相談所の職員が家庭訪問の際、子どもの氏名や年齢、けがの部位などを専用の端末に入力すると、AIが過去の事案で蓄積された約6000件のデータを元に虐待のリスクや再発の可能性を診断する。

県は昨年7月から「全国初」の実証実験を実施し、中勢児相と南勢志摩児相に20台のタブレット端末を配置。他の児相への配置について、県は「実証実験の結果を踏まえて検討する」としていた。

ところが、その結果がまとめられる前に、県は県内に6つある全ての児相にシステムを導入する方針を決めた。令和2年度当初予算案に関連費用を計上。その金額は約1億2000万円と、決して安くはない。

職員の経験則ではなく、データに裏付いた「適切な判断」がシステム導入の目的だが、実証実験の結果を待たずに導入を急ぐ目的は「全国初」の獲得ではなさそう。背景にあるのは児相職員の「急増」だ。

厚生労働省は平成30年度、児相の体制や専門性の強化を自治体に要請。30年の虐待件数を元にした試算では令和4年度までに、県は県内の児童福祉司を26人増やす必要があるのだという。

ただ、県では定年退職の真っ最中で、今後は経験の浅い職員が相対的に増える見通しだ。そんな中で「新たなシステムが職員の経験不足を補ってくれる」との考えが整備を加速させているのだという。

一方、AIには課題も多そうだ。まずはシステムを維持するために毎年、一億円ほどを要するということ。「維持費を下げるには、他の自治体にも同じシステムを使ってもらうよりほかない」(県職員)という。

システムの精度を担保するには、AIに多くの事例を経験させなければならないという課題も。「AIの診断は理由を説明できない部分もある。事例が少なければ精度も下がる」(児童相談強化支援室)

最も大きな課題は、AIが間違った判断をした場合の「責任問題」だろう。全国でも、虐待死事件などで事前に問題を把握していた児相が一時保護をしていなかったケースでは、児相が真っ先に批判の矛先となる。

AIの診断を借りて下した判断が誤っていた場合に、どのように職員が責任を取るのか。県は「あくまでも最終判断は職員」との姿勢を貫くが、万が一の事態が発生した場合の明確な回答は示さなかった。

一方、児童相談強化支援室からは「経験が浅い職員がAIの診断結果を全て信じてしまう可能性がある。AIの長短を学ぶ研修も必要だろう」との指摘も。多くの課題を前に「全国初」の挑戦は続く。