こども家庭庁が開発を進めていた、AIを使って子どもの一時保護の必要性を判定するシステムについて、現段階でリリースしても実用化が難しいとして、リリースの延期を決めた。これが報じられる中で波紋が広がったのがAIに学習させた虐待の記録が5000件だった点だ。SNSでは「少ない」とする指摘が相次いだ。
こども家庭庁はこの指摘に、専門家を交えた検討会で議論された数字であり「少ないと思っておりません」と反論。延期の理由は別のところにあると説明した。
-
こども家庭庁 -
児童虐待対策防止部会の資料1 -
児童虐待対策防止部会の資料2
「性能の改良によって解決することは今後も目指し続ける」
システムは、こども家庭庁2021年度から23年度までで約10億円をかけて開発を進めていたもの。3月3日に読売新聞が、「10億円かけた虐待判定AI、こども家庭庁が導入見送り...ミス6割で『実用化困難』」との見出しで報じた。記事では、複数の専門家が学習データ数5000件では少なかったと分析したと報じたほか、SNSでも「少ない」と指摘する声が寄せられた。
こども家庭庁虐待防止対策課の担当者は3日、J-CASTニュースの取材に、学習データの数はAIの専門家を含む有識者で構成された検討会で議論された際、5000件が少ないという意見は特段なかったとし、「少ないから精度が低いとは思っていない」とした。
さらに、AI活用について中止するわけではなく「現状のままリリースすることは延期」するのだとし、「性能の改良によって解決することは、当然今後も目指し続けていきます」と説明した。その原因は、学習データの少なさとは別のところにあるという。
担当者によると、24年12月26日の児童虐待防止対策部会の資料としても公開されている。