NIST、AIに対する攻撃防御に関する最終ガイドラインを発表

NEXTGOV/FCWは3月25日、米国標準技術局(National Institute of Standards and Technology: NIST)が人工知能(AI)を標的としたサイバー攻撃に対抗するための最終ガイドラインを発表したと報じた。このガイドラインは予測型および生成型AIモデルに対する攻撃の種類を明確にし、具体的な対策を提供している。一方で、NISTのアポストル・ヴァシレフ氏(Apostol Vassilev)は現行の技術では攻撃の数や威力が対策手段を上回っていると警告し、対象となるプラットフォームのサイバーセキュリティ対策をを強化する必要があると述べた。特に生成AIモデルに対するサプライチェーン攻撃や直接・間接プロンプト攻撃が新たな脅威として浮上しており、プロンプト攻撃はモデルに有害なデータを入力し有益でない回答を出力するもので、サプライチェーン攻撃は特定のモデルにアクセスできるコンポーネントを対象にして第3者によって開発され、特定の AI モデルに悪意のある情報を導入することを目的としているという。

NEXTGOV/FCW “NIST releases finalized guidelines on protecting AI from attacks” (03/25/25)
https://www.nextgov.com/artificial-intelligence/2025/03/nist-releases-finalized-guidelines-protecting-ai-attacks/404042/?oref=ng-skybox-hp