NIST、自律型AIの安全ガイドライン策定で意見公募

FEDSCOOPは1月7日、米国標準技術局(National Institute of Standards and Technology: NIST)傘下の人工知能(AI)標準イノベーションセンター(Center for AI Standards and Innovation: CAISI)が、自律的にタスクを遂行する「エージェントAI」のセキュリティに関する一般からの情報提供を求めていると報じた。AI技術の評価とガイドライン作成支援が目的で、エージェントAIは業務の完全自動化で期待される一方、人間の介入なしに自律行動するため、ハイジャック攻撃などの深刻なセキュリティリスクも懸念されていることから、連邦官報(Federal Register)を通じて情報提供依頼書(Request For Information: RFI)を公開する。具体的には、AIエージェントに存在する脅威や脆弱性、セキュリティに関するベストプラクティス、リスクの評価・軽減策などについて情報を求めており、この取り組みにより公共の安全を守り、消費者の信頼を確保しながら、最新AI技術の導入を促進することを目的としている。締め切りは、正式な公開日から60日後となっている。

FedScoop “NIST AI center looks for input on agentic AI security, best practices” (01/07/26)