オークリッジ国立研究所（Oak Ridge National Laboratory: ORNL）の人工知能セキュリティ研究センター（Center for Artificial Intelligence Security Research: CAISER）は、エクサスケールで人工知能（AI）モデルにおける脆弱性を迅速に検知する助けとなる枠組み「フォトン（Photon）」を開発した。この枠組みにより、AIベースのシステムがセキュアで攻撃に対して頑強であることを確実にすることができ、エネルギーや医療、金融、国家安全保障といった重要領域でAIモデルを導入する際の重要な保護措置となる。ORNLの研究者は既存技術の「ディープハイパー（DeepHyper）」に逆転の発想をすることでフォトンを設計した。ディープハイパーは元々、大規模なニューラルネットワークを訓練して最適なネットワークパラメータを見つけることを目的として開発されたものであるが、フォトンは、この目的を逆転させ、悪意のある行為（最も効率的な攻撃のパラメータ）を検出するよう訓練されている。

Oak Ridge National Laboratory “Photon framework scales AI vulnerability discovery” (03/24/26)
https://www.ornl.gov/news/photon-framework-scales-ai-vulnerability-discovery