１０億円かけた虐待判定ＡＩ、こども家庭庁が導入見送り…ミス６割で「実用化困難」［読売］25/03

読売新聞の記事によると…

１０億円かけた虐待判定ＡＩ、こども家庭庁が導入見送り…ミス６割で「実用化困難」

虐待が疑われる子どもの一時保護を巡り、人工知能（ＡＩ）にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことがわかった。国が２０２１年度から約１０億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが６割に上った。ＡＩは虐待の判断にはなじまず、実用化は困難と結論付けた。
　同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したＡＩに約５０００件の虐待記録を学習させた。傷の有無や部位、保護者の態度など９１項目に情報を入力すると、虐待の可能性が０～１００の点数で表示される。
試作モデルがほぼ完成し、今年度に計１０自治体の児相に協力してもらい、過去の虐待事例１００件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、１００件中６２件で「著しく低い」などの疑義が生じたという。
　ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「２～３」だった。あざなどがなかったためとみられる。
　同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。ＡＩの発展状況を見ながら、再開するかどうかも含め検討するという。

（略）
　◆ 一時保護＝児童福祉法に基づき、虐待などが疑われる１８歳未満の子どもについて、児童相談所の判断で家庭から引き離す措置。期間は原則２か月以内で、２０２２年度の虐待による一時保護件数は２万９８６０件。こども家庭庁によると、同年度に全国の児相が虐待の相談を受けて対応した件数は、過去最多の２１万４８４３件だった。

［全文は引用元へ…］2025/03/03 05:00

Xより

【ライブドアニュースさんの投稿】

【実用化困難】10億円かけて開発の"虐待判定AI"、判定ミス6割で今年度の導入断念こども家庭庁https://t.co/Cx4EjKIA6l

約5000件の虐待記録を学習させ、傷の有無など91項目を入力すると虐待の可能性が0～100の点数で表示される。テスト段階で判定ミスが6割に上り、開発を保留して見送りを決定した。 pic.twitter.com/VvkEX5p6aU
— ライブドアニュース (@livedoornews) March 3, 2025

10億は国的には少なめだしAI開発ってのはトライ&エラーが常だから、ローリスクローリターンってことで一度やってみて、そのうえで進展見込みがなかったので事業凍結って判断は悪くないとおもう

けどそもそも虐待をAIに判断させるくらいなら児相がより家庭に介入しやすいルール改正とかしたほうがいい
— ⚓雪風しれーかん⚓ (@Yuki_1939324) March 3, 2025

こども家庭庁は解体したほうがいい😔
— 吉岡淳 (@junyoshioka_32) March 3, 2025

完全に生成AI企業に公金チューチューさせるための八百長プロレスだろコレ。

今やAIは世界中から信用なくて公金以外で稼げないから。
— 🌝 (@PC_Game_Nard) March 3, 2025

今回は子供家庭庁でしたが、これからは他の省庁でも似たようなこと（AI・生成AIによる金失い）が出てくると思ってください
生成AIに関し事前に懸念すべきレベルのリスクや欠点について2年半前から警鐘と訴えが続けられてきましたがほぼ無視でAI事業者優遇のごり押しがされ今その実働スタートラインです
— エンシェントみ (@mikkuuiso333) March 3, 2025

引用元：https://www.yomiuri.co.jp/national/20250302-OYT1T50076/

みんなのコメント

10億は国的には少なめだしAI開発ってのはトライ&エラーが常だから、ローリスクローリターンってことで一度やってみて、そのうえで進展見込みがなかったので事業凍結って判断は悪くないとおもうけどそもそも虐待をAIに判断させるくらいなら児相がより家庭に介入しやすいルール改正とかしたほうがいい
こども家庭庁は解体したほうがいい
完全に生成AI企業に公金チューチューさせるための八百長プロレスだろコレ。今やAIは世界中から信用なくて公金以外で稼げないから
今回は子供家庭庁でしたが、これからは他の省庁でも似たようなこと（AI・生成AIによる金失い）が出てくると思ってください生成AIに関し事前に懸念すべきレベルのリスクや欠点について2年半前から警鐘と訴えが続けられてきましたがほぼ無視でAI事業者優遇のごり押しがされ今その実働スタートラインです
こどもまんなかこども家庭庁子供の回りは金と利権に群がる汚い大人ばかり
虐待判定AIって今必要でしたかね…こども家庭庁の予算はもうなくして全額を減税に使ってください！
6割ミスは実用化できないよね…。
こども家庭庁の予算７兆円で保育園から大学まで無償にして、こどもが18歳過ぎるまで月7万円位育児手当を支給してごらんよ。あっ！と言う間に少子化は改善するよ。分かっててやらないんだよ。税金をチューチューしたいだけなんだよ。
こども家庭庁マジで金食い虫だな。
「顔はやめな、ボディにしなボディ」と仰ってた三原じゅんこ大臣が一番、傷の有無なんて虐待、暴力判定に参考にならないとよくご存知では？こども家庭庁を潰して、178万円減税を国民は望んでるんですよ
こども家庭庁のやることは、いつもどこかポイントが外れてるような気がするな
テストデータ5000件は少なすぎる気がする… てか、試作モデルが出来上がるもっと前の段階でのアルゴリズムの試験とかは無かったのだろうか？（AI系は未経験なので、「そういうのは出来ないんだよ！」とかいうのなら知らんけどすんません）
社内の勉強会でやってみましたレベルの粗末な内容。この内容なら１０億掛ける前の、事前検討、調査段階でわかるものだと思う。これだけの規模の費用が無駄になったのであれば、RFPや、議事録などで、適切な提案、議論が行われていたのか精査してほしい。
余計なことするな。無駄金ばっか使って。だいたいお前らが仕事しろ。
くそ無能で呆れる。 91項目も入力するならわざわざ人工知能になんてせずに、フローチャート式分類の人工無能にしておけば数人チームで1年くらい5,000件のデータを分析したら完成してただろ。AIに絡めたいなら、そのデータ分析の際に使えば良いだけなのに。
政府・自民党はとにかく日本国民の税金を盗む事しか念頭に無い、「10億円かけて開発」その金も誰かの懐に入っているんだろ、形が残って無いから何とでも言える
一人年収1千万で100人分さあどれだけ中抜きしてるでしょうか？受けた会社はどこだろう？？
試みはともかく、失敗の責任を一切取らない仕組みが、国民の反感を買うんだよ
5000件って少なさもだし、こんな程度のaiに10億ってほんとに何しとんずっと
こども家庭庁なのかデジタル庁なのかよくわからんが、碌なことせんな
10億というと一億人で割れば10円だから国の税金の用途としては微々たるものなんだろうけど、金額としては膨大に感じるので、費用対効果として適正な予算規模だったのか？や次のAI開発にその経験が国として活かせる様にノウハウを公開して欲しいですね。他が二の舞にならないように。
>開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をＡＩが高精度で判定することの難しさを指摘する。ＡＩの学習には膨大な量の記録が必要だが、今回の約５０００件では少なかったとも分析している。改良を繰り返すしかないと思います。職員待遇改善と併せて。
判定ミス6割誰か事前に止めなかったの_(┐「ε:)_
これが税金10億の行くつき先かあ…

japannewsnavi編集部の見解

虐待判定AI導入見送りに広がる波紋

虐待が疑われる子どもの一時保護を巡り、人工知能を活用して必要性を判定するシステムの導入が見送られたことが明らかになりました。国が約10億円を投じて開発を進めてきたものの、試験運用の段階で判定ミスが6割に上ったとされ、実用化は困難との判断に至ったと報じられています。慢性的な人手不足に悩む児童相談所の現場を支援する目的で構想された取り組みでしたが、期待された成果には届きませんでした。
テストでは過去の虐待事例100件をもとに検証が行われ、そのうち62件で判定精度に重大な疑義が生じたとされています。子どもが深刻な暴力を訴えていたにもかかわらず、点数が極めて低く算出されたケースもあったといい、制度設計そのものへの疑問も浮上しました。91項目を入力する仕組みでありながら、けがの程度や範囲といった重要情報が十分反映されない構造だったことも課題として指摘されています。

予算規模と制度設計への疑問

今回の開発費10億円という金額については、国全体の予算規模から見れば限定的だとする声がある一方で、結果が伴わなかったことへの厳しい意見も相次いでいます。税金の使途として妥当だったのか、事前の実現可能性評価は十分だったのかという問いが広がっています。とりわけ、学習データが約5000件にとどまっていた点については、専門家からも「量として不十分だったのではないか」との分析が出ています。
生成AIを含む先端技術は急速に進歩しているとはいえ、児童虐待のように事例ごとの背景や状況が複雑に絡み合う分野で高精度の自動判定を行うことは容易ではありません。開発前段階でアルゴリズムの妥当性検証や小規模な試験導入を重ねるべきだったとの指摘も見受けられます。さらに、RFPや議事録の内容を検証し、どのような議論を経て事業が進められたのかを明らかにしてほしいという声も上がっています。

現場支援の在り方をどう考えるか

児童相談所の業務は、通告件数の増加と人員不足という二重の課題に直面しています。2022年度には虐待相談対応件数が過去最多を更新し、一時保護件数も高水準で推移しました。そうした現場の負担軽減を目指す試み自体を否定する意見は少ないものの、優先順位や方法論を見直すべきだという指摘が目立ちます。
具体的には、AIによる点数化よりも、職員の増員や待遇改善、家庭への立ち入りや支援を行いやすくする法制度の整備を先行させるべきではないかという意見があります。また、失敗事例から学び、他省庁や自治体が同様の過ちを繰り返さないよう、ノウハウを共有する必要性も語られています。
導入見送りは一つの区切りに過ぎません。技術活用を進めるにせよ慎重姿勢を取るにせよ、子どもの安全という最優先課題を軸に、透明性ある議論と説明責任を果たしていくことが求められています。今回の件は、その重要性を改めて浮き彫りにした出来事と言えるでしょう。

執筆::japannewsnavi編集部