大規模言語モデルの急成長により、人工知能（AI）は日常生活の様々な側面で急速に統合されている。しかし、AIの返答の正確さや適切さを検証することは常に容易とは限らない。AIシステムが、安全で倫理的な判断が重要となる状況で人間の信頼できるパートナーとなるには、人間の意図や法、政策、基準に関する知識を効率的にAIに伝える必要がある。こうした目標に向け、国防高等研究計画局（Defense Advanced Research Project Agency: DARPA）は「デオンティック推論に関する人間とAIのコミュニケーションのデブオプス（Human-AI Communications for Deontic Reasoning Devops: CODORD）」プログラムを発表した（デオンティクとは哲学用語で、義務、許可、禁止を意味する。デブオプスはソフトウェア開発（development）とIT運用（operations）を組み合わせた造語）。CODORDプログラムは、人間のデオンティク知識を自然言語を介して自動的に高度な表現力を持つ論理プログラミング言語に伝えることを目指す。成功すれば、CODORDによって、義務や許可、禁止に関して人間が生成した膨大な量の知識を論理言語に移行するために必要な費用と時間を大幅に削減できる。

Defense Advanced Research Project Agency “Teaching AI What it Should and Shouldn’t Do” (9/27/24)