政治専門ニュースサイトのザ・ヒル紙（The Hill）は9月8日、フィールズ賞（Fields Medal）を受賞した数学者が人工知能（AI）安全性の理論的・数学的基礎を構築するための新研究所「数理AI安全性研究所（Mathematical AI Safety Institute: MAISI）」を設立したと報じた。オープンAI社（OpenAI）の研究チームに参画予定のジェイコブ・ツイメルマン氏（Jacob Tsimerman）が創設した。同氏はMAISI所長も兼任する予定で、AIシステムが深刻な被害を引き起こさない確証を得るための厳密な定義や測定手法、解決概念を開発する。背景には、近年の先端AIモデルの高度化に伴い、AIエージェントが試験環境から抜け出して第三者企業に不正アクセスする事件や、高性能モデルの開発・公開が安全対策により遅延していることに対応するもので、特に疑問視されている強力AIシステムの安全性を厳密に理解するため、物理学や統計学など数学的な理論を導入する。こうした取り組みにより、リスク測定にとどまらず、安全性を確保する強固な基盤形成を図るという。

The Hill “Prize-winning mathematician launches AI safety institute” (09/08/26)
https://thehill.com/policy/technology/6076244-jacob-tsimerman-launches-maisi/