米国科学・工学・医学アカデミー（National Academies of Sciences, Engineering, and Medicine: NASEM）は9月、安全性が重要なシステムへの機械学習技術の統合には、機械学習とシステム工学を融合した新たな工学分野の確立が必要とする報告書を発表した。報告書は、自動運転車や医療ロボット、電力網などの分野で機械学習の活用が進む一方、誤作動が人命や財産、環境に深刻な被害をもたらす可能性があると指摘しており、従来の安全工学は航空機や原子炉など極めて信頼性の高いシステムを生み出してきたものの、画像認識の精度が97％でも自動運転などの用途では10億倍高い信頼性が求められるなど、機械学習特有の予測不可能性や変動性により、両分野の統合には技術的課題が存在しているとしている。そこで、NASEMは、データ工学ツール、不確実性の表現と校正、検証・評価手法の3つの重要研究分野を特定し、機械学習研究者にシステム全体の視点を、安全工学者には機械学習の特性理解を求め、また政府に対しては技術の透明性向上と安全基準の策定を提言している。

NASEM “Machine Learning for Safety-Critical Applications” (09/24/25)
https://nap.nationalacademies.org/resource/27970/interactive/