AIのパイオニア、AIの安全性を再考する非営利組織を立ち上げ
機械学習のパイオニアであるヨシュア・ベンジオ氏(Yoshua Bengio)は、約3,000万ドルの資金を得て、人間のような動きをしない人工知能(AI)システムを構築することを目的とした新たな非営利研究所「ローゼロ(LawZero)」立ち上げることを発表した。これは、「自律的に行動するAI」へのトレンドに逆行するものである。ベンジオ氏をはじめとする一部の専門家の中では、人間ではなく自らの利益に重きを置くAIシステムが作り出される現在のトレンドへの懸念が高まっている。同氏は、「知的機械を構築するためのテンプレートとして人間からヒントを得ているが、これを続けると、我々よりも賢く、死ぬことを望まない存在を作り出すことを意味する」と述べる。ベンジオ氏は、AI開発に対するより厳しい規制を呼びかけ、大手企業の分割さえも主張している。 AXIOS “1 big thing: AI godfather aims to make AI less human” (06/03/25) https://www.axios.com/2025/06/03/yoshua-bengio-lawzero-ai-safety