こども家庭庁が開発を進めていた、AIを使って子どもの一時保護の必要性を判定するシステムについて、現段階でリリースしても実用化が難しいとして、リリースの延期を決めた。これが報じられる中で波紋が広がったのがAIに学習させた虐待の記録が5000件だった点だ。SNSでは「少ない」とする指摘が相次いだ。
こども家庭庁はこの指摘に、専門家を交えた検討会で議論された数字であり「少ないと思っておりません」と反論。延期の理由は別のところにあると説明した。
-
こども家庭庁 -
児童虐待対策防止部会の資料1 -
児童虐待対策防止部会の資料2
「性能の改良によって解決することは今後も目指し続ける」
システムは、こども家庭庁2021年度から23年度までで約10億円をかけて開発を進めていたもの。3月3日に読売新聞が、「10億円かけた虐待判定AI、こども家庭庁が導入見送り...ミス6割で『実用化困難』」との見出しで報じた。記事では、複数の専門家が学習データ数5000件では少なかったと分析したと報じたほか、SNSでも「少ない」と指摘する声が寄せられた。
こども家庭庁虐待防止対策課の担当者は3日、J-CASTニュースの取材に、学習データの数はAIの専門家を含む有識者で構成された検討会で議論された際、5000件が少ないという意見は特段なかったとし、「少ないから精度が低いとは思っていない」とした。
さらに、AI活用について中止するわけではなく「現状のままリリースすることは延期」するのだとし、「性能の改良によって解決することは、当然今後も目指し続けていきます」と説明した。その原因は、学習データの少なさとは別のところにあるという。
担当者によると、24年12月26日の児童虐待防止対策部会の資料としても公開されている。
今の項目数では「必要な情報として十分ではない」、項目増は「現実的ではない」
システムは、91の項目を入力すると、AIが0から100の数値で一時保護の必要性を判定する。児童虐待防止対策部会の公表資料によると、AIシステムと児相幹部クラスの所感とを比較する効果検証で、約6割に疑義が生じた。具体的には、児相幹部の所感よりAIの方が一時保護の必要性が高いと出たものが13件、低いと出たものが41件、「スコアの幅が広くて判断に活用できない」ものが8件だった。
その原因として、判断に必要な情報にもかかわらず該当する入力項目がない、項目があっても程度や範囲の指定ができないことが挙げられた。こども家庭庁は、現状の91項目では判定に必要な情報として十分ではないが、「これ以上の項目追加は入力負荷の観点から現実的ではない」と判断した。
今後の方針としては、定型項目の入力ではなく、記録の文字情報など否定形の情報を学習データとするAIで、児童相談所の業務のサポートを目指すという。その第一歩として、「面談音声マイニング及びAI要約ツール」の開発予算を要求するとした。前出の担当者によると、これは面談時の音声情報をテキスト化し記録、要約するもので、現状の記録作成作業の6～7割の負担削減を見込んでいるという。