敵対者は、人工知能（AI）システムに意図的に混乱をもたらし、故障を生じさせることができる。そして、これに対して開発事業者が導入できる絶対確実な防衛策はない－これは、米国標準技術局（National Institute of Standards and Technology：NIST）のコンピュータ科学者と共同作業者がまとめた報告書「敵対的な機械学習：攻撃と軽減の分類と用語（Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations）」に記載されている見解である。この報告書は、信頼できるAIの開発を支援するNISTの広範な取り組みの一部であり、NISTの「AIリスク管理枠組み（AI Risk Management Framework）」を実践する一助となるものである。報告書は、攻撃の主要な4種類（回避（evasion）、中毒化（Poisoning）、プライバシー（Privacy）、悪用（Abuse））についてまとめ、攻撃者の目標及び目的、能力、知識といった複数の基準に基づいて分類分けしている。
