IARPA、生成AIが呈する脅威に対応
情報高等研究開発活動(Intelligence Advanced Research Projects Activity: IARPA)は、人工知能(AI)や機械学習チャットボットを加速させる大規模言語モデル(large language models: LLMs)が、どのように脅威や偏見に脆弱であるかについて理解したいと考えている。このような中、IARPAは、8月1日、LMsに内在する脅威と脆弱性や、それらがどのように特性化されるか、脅威と脆弱性を軽減するためにどのような戦略を利用できるか、といった点について洞察を得ることを目的として、情報の要請(Request for Information: RFI)を行った。LLMsは、人間の言語に関するデータを収集し、ニューラル・ネットワークを模倣し、テキスト・ベースの返答を生成する助けとなる。しかし、LLMsによる返答は、信頼性があり、巧みな会話に見えるかもしれないが、その実際の知識には限界があり、誤解を招く返答や不正確な返答を生成する可能性がある。IARPAのRFIによれば、IARPAは諜報分析活動にLLMを使用する可能性を調査しているが、本技術の潜在的なエラーや脆弱性を相殺するための枠組みをどのように確立できるか、という点についても模索している。 Nextgov “IARPA grapples with threats posed by generative AI” (8/3/23)