今の項目数では「必要な情報として十分ではない」、項目増は「現実的ではない」
システムは、91の項目を入力すると、AIが0から100の数値で一時保護の必要性を判定する。児童虐待防止対策部会の公表資料によると、AIシステムと児相幹部クラスの所感とを比較する効果検証で、約6割に疑義が生じた。具体的には、児相幹部の所感よりAIの方が一時保護の必要性が高いと出たものが13件、低いと出たものが41件、「スコアの幅が広くて判断に活用できない」ものが8件だった。
その原因として、判断に必要な情報にもかかわらず該当する入力項目がない、項目があっても程度や範囲の指定ができないことが挙げられた。こども家庭庁は、現状の91項目では判定に必要な情報として十分ではないが、「これ以上の項目追加は入力負荷の観点から現実的ではない」と判断した。
今後の方針としては、定型項目の入力ではなく、記録の文字情報など否定形の情報を学習データとするAIで、児童相談所の業務のサポートを目指すという。その第一歩として、「面談音声マイニング及びAI要約ツール」の開発予算を要求するとした。前出の担当者によると、これは面談時の音声情報をテキスト化し記録、要約するもので、現状の記録作成作業の6～7割の負担削減を見込んでいるという。