国防総省、生成AIの潜在的なマイナス面に躊躇しつつ、生成AIへの取り組みは継続

国防総省(Department of Defense)の最高デジタル及び人工知能局(Chief Digital and Artificial Intelligence Office: CDAO)の高官は7月11日、ランド研究所(Rand Corporation)が主催したイベントで、「国防総省は、生成人工知能(AI)の能力がどのように機能するかについてより良い理解を得、それらの使用に関する測定を開発しようと試みているが、AIモデルが誤った応答を生成している点は引き続き懸念している」と述べた。CDAOの副担当官であるマーギー・パルミエリ氏(Margie Palmieri)によれば、国防総省による生成AI使用への手法は、「使用事例ベース」で、国防総省はコンピュータ・ビジョンや自然言語処理、その他の機械学習アルゴリズムの使用を継続し、重要なタスクを完遂している。生成AIには有望性がある一方、パルミエリ氏は、「我々が見つけたことは、生成AIの潜在的なマイナス面に十分な注意が払われていないということである。具体的には、生成AIが作り出す幻覚(hallucination)を指す」と警告する。そして、「これは国防総省にとっては大きな問題であり、我々は業界とより密接に協力して、これらのマイナス面に取り組みたい」と加えた。

Nextgov “DOD experimenting with generative AI, even as ‘potential downsides’ give officials pause” (7/12/23)