既存の機械学習（ML）モデルの根底には、多くの脆弱性が内在しており、人工知能（AI）アルゴリズムへの攻撃は様々な否定的影響をもたらす恐れがある。MLモデルが重要インフラやシステムに統合されつつある中、これらの脆弱性に対する懸念は強まりつつある。このような中、国防高等研究計画局（Defense Advanced Research Project Agency: DARPA）の「AIの不正に対する頑強性の保証（Guaranteeing AI Robustness against Deception: GARD）」プログラムは、MLモデルへの攻撃に対する次世代の防御策を開発することで、この安全性に関する課題の一歩先を進むことに焦点を当てている。新興の防衛策が、既知の攻撃能力に対抗する、もしくはそれを上回ることを確実にすることは、技術への信頼を確立し、その最終的な利用を確実にする上で重要である。こうした目的を支援するため、GARDの研究者は、既存及び新興のMLモデルと敵対者からの攻撃に対する防衛策の有効性を評価及び検証するコミュニティの努力を支援するため、様々な資源及びバーチャル式ツールを開発している。
