4歳児死亡 AIシステムが「保護率」39%の衝撃

2日前の朝日新聞に不可解な記事が載った。

見出しは『4歳死亡　AIが「保護率」39%』、副見出しが『虐待断定できず　児相保護見送り　三重』である。母親の4歳の娘への障害致死事件で、その10カ月前に通報があったが、虐待に関するAIシステムの評価「保護率39%」などを参考に、一時保護を見送ったものというものである。

この「保護率」とは何だろう。AIシステムで保護の緊急度が数値化できるものだろうか。早速、他社の報道をネットで調べてみた。

日テレの『news zero』によれば、AIシステムには、三重県内の児童相談所が「過去に対応した約1万3000件のケースがデータベースとして入力されて」いて、「ある子どもの一時保護を検討する際、年齢やケガの状況などを入力すると、『このようなケースは過去の事例では〇％の割合で保護している』と表示され」るものであったという。

このシステムは、「保護が必要」かどうかを判断するのではなく、過去の事例に照らし合わせたとき、「保護した割合」を示すものだった。

毎日新聞によれば、「今回のAIの評価は、類似事例の保護率が39％だった。早期の対応が必要な目安を80％以上としており、39％は「高くはない」という認識だった」という。

三重県庁では過去の実績より、一応、高い保護率 80%を求めている。しかし、保護すべき児童を保護するという目的には、「保護率」は かなっていない。

さらに調べると、驚くようなことがわかった。

この三重県のAIシステムは、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の資金援助で1年で開発され、2020年に稼働した。また、厚生労働省やデジタル庁でAIシステムの成功事例として紹介されていた。

この背景に、児童相談所で熟練した人手が不足し、「現場の担当者」からはAIに期待する声が上があがっていたという。「職員は3～4年で人事異動がある。過去の実例を基に判断できるツールが欲しい」というわけである。

この「現場の担当者」とはいったい何者なのか。人事異動は組織内の立身出世を目指す者のためにある。自治体は住民サービスのためにあり、人事異動は不要である。

自治体は人事異動の対象からはずしても現場の熟練者を育てるべきではないか。自治体は、まず、システムの構築論のまえに、現場重視の姿勢を示すべきではないか。児童相談所一筋の人がいてしかるべきではないか。そういう現場の人に感謝する社会を構築すべきではないか。

最後に、ITにだずさわってきたものとして、コンピューター・システムは、量的な問題を解決するのであって、質的な問題を解決できないことを、注意したい。しかも、量的な問題と言っても、限界がある。

人間ができないことをAIシステムができるわけではない。囲碁や将棋でAIシステムが力を発揮できたのは、その対象が簡単であることと コンピューターが感情を持たないことである。

AIシステムを過大評価してはならない。

今回の4歳児死亡の問題に戻ろう。現場の担当者が面倒なことに関わりたくないという気持ちが少しでもあれば、「親のあざが虐待によるものと断定できなかった」ことや、「母親が児相の支援や指導に応じる姿勢があった」ことで、人間の判断に曇りが生じるだろう。その危険を補うためにAIシステムを参考にするのは、私は理解できる。

しかし、保護すべきかどうかを数値化するのは、とても難しい課題で、1，2年の研究でシステムを構築するなんて、どだい無理である。一時保護が適切だったかどうかを個々の事例において判定することは、人間がやってもコンピューターがやってもできないからである。

考えてみれば、一時保護をすれば虐待が起きない。一時保護しない場合だけに、虐待が起きる場合と虐待が起きない場合とがある。したがって、虐待の通報があったとき、その後の通報、児童相談所や警察の判断や対応、医師の判断などの追跡の丁寧なデータベースがあって、どのよう事象が虐待をうかがわせる証拠になるのか、どのような監視追跡が必要になるのか、親のウソをどう見破るのか、などの知識を構築することがだいじである。虐待の発生をゼロにもっていくことが目標である。

結局、自治体が熟練した現場の人を育てることが求められる。