MIT研究者、AIリスクのレポジトリを発表

人工知能(AI)システムを利用する際やそれらの使用を統治する規則を作成する時、人や企業、政府は具体的にどのようなリスクを考慮すべきだろうか? この問題への回答は容易ではない。重要インフラの管理を行うAIであれば、そこには人間の安全性に関する明らかなリスクがあるが、試験の採点や履歴書の整理などを意図したAIの場合はどうか? 欧州連合(European Union: EU)のAI法やカリフォルニア州の法案など、AIを規制する法案の作成において、政策策定者は、「法案は、どのリスクを対象とすべきか」という点で総意に到達することが困難となっている。そうした人々やAIを取り巻く業界と学術機関全般の関係者へ道標を提供すべく、マサチューセッツ工科大学(Massachusetts Institute of Technology: MIT)の研究者は、「AIリスク・レポジトリ(AI risk repository)」と呼ばれるものを開発した。AIリスクに関するデータベースのようなものである。レポジトリは、700以上のAIリスクが、因果関係(例:意図的)、領域(例:差別)、下部領域(例:偽情報とサイバー攻撃)によってグループ分けされている。

Tech Crunch “MIT researchers release a repository of AI risks” (8/14/24)