NSF、安全なAI技術の開発に1,090万ドルを投資

米国科学財団(National Science Foundation: NSF)は10月31日、人工知能(AI)が利用者の安全性と共に進展することを確実にする研究を支援するため、1,090万ドルを投資すると発表した。「安全な学習実現システム(Safe Learning-Enabled Systems」」プログラムは、NSFとオープン・フィランソロピー(Open Philanthropy)、グッド・ベンチャーズ(Good Ventures)の間のパートナーシップで、コンピュータ化された安全な学習実現システムの設計と実践につながる基礎的研究を育成することを目的とする。これには、安全で対応力のあるオートノマス及び生成AI技術も含む。NSFのセスラマン・パンチャナサン長官(Sethuraman Panchanathan)は、「NSFがどのようにして安全なAIシステムを保証できるかについて研究することにコミットしている点は、AI研究コミュニティに向けて、『我々は、AIの責任ある拡大と進化にとって安全性は重要であると考えている』という明確なメッセージを送る」と述べる。AIシステムが急速に拡大し、新たな能力を備え、医療ケアや商取引、輸送などの重要な環境で導入されつつある中、こうしたシステムが安全であることは極めて重要である。今般、ウィスコンシン大学マディソン校(University of Wisconsin-Madison)による「ワイルドな環境での安全認識学習の基盤(Foundations of Safety-Aware Learning in the Wild)」など11件のプロジェクトが受益した。

National Science Foundation “NSF invests $10.9M in the development of safe artificial intelligence technologies” (10/31/23)