情報高等研究開発活動（Intelligence Advanced Research Projects Activity: IARPA）は、人工知能（AI）や機械学習ツールをサポートする大規模言語モデル内の脆弱性と脅威に対処するツールの有用性を分析するため、新たな契約形態を考案している。IARPAが8月25日に発表した募集前通知（pre-solicitation notice）は、「バイアスの影響と顕著な生成AIの限界（Bias Effects and Notable Generative AI Limitations: BENGAL）」と称される研究開発調達と10月24日にワシントンDCで予定されているプロポ―ザー・デーのイベント計画を詳述している。通知は、「BENGALの目標は、大規模言語モデルの脅威状況について理解し、それらを定量化し、脆弱性と脅威に対処するか、不完全なモデルで柔軟に対応する方法を見つけることであると述べる。プロポ―ザー・デーでは、5分間を上限としてプロジェクトに整合する能力を強調するライトニング・トークが最大20件行われる計画である。

Nextgov “IARPA teases event for large language model vulnerability mitigation tools” (8/29/23)