Google DeepMindは、汎用人工知能(AGI)の安全な社会実装と国際ガバナンスの策定を専門に担う新組織「DeepMind Institute(DeepMind研究所)」の設立を公式発表しました。
本組織の主導は、DeepMindの共同創業者でありチーフAGIサイエンティストを務めるシェーン・レッグ(Shane Legg)氏が担います。
レッグ氏は長年提唱してきた「2028年までに最小限のAGIが登場する確率は50%」という見通しを改めて強調し、モデルの知能向上スピードが社会の安全制御や法制度の整備を追い越す危険性に強い警告を発しました。
DeepMind Instituteでは、学術界、政策決定者、国際安全基準機関と密接に連携し、自律エージェントの暴走防止やフロンティアモデルの監査プロトコルを策定します。
Metaのマーク・ザッカーバーグCEOが市場主導の安全対策を主張する一方、DeepMindは先手を打った統括組織の立ち上げによって、責任ある超知能開発のリーダーシップを確立する姿勢を鮮明にしています(一次ソース:Google DeepMind公式発表)。
