現在、機械学習(machine learning: ML)は、高度な効率的製造から、医薬品、自動運転輸送に至るまで、様々な分野で応用されている。すでにMLの恩恵が出てきているものの、性急に進めるあまり、MLプラットフォームの脆弱性にほとんど注意が払われていないというのが現状である。特に、AIシステムの改変、故障、詐欺については脆弱である。こうした中、国防高等研究計画局(Defense Advanced Research Project Agency: DARPA)は、「詐欺に対するAIの頑強性の保証(Guaranteeing AI Robustness against Deception: GARD)」プログラムをスタートした。GARDプログラムは、MLアルゴリズムを欺こうとする試みを阻止する第一世代の防御策を開発することを狙いとしている。本プログラムに関する広範官庁公示(Broad Agency Announcement: BAA)は今後発表される予定である。
Defense Advanced Research Project Agency “Defending Against Adversarial Artificial Intelligence” (2/6/19)