米OpenAIの首席科学者(Chief Scientist)を務めるJakub Pachocki氏は、同社公式ブログにおいて「An Alien Mind」と題したエッセイを公開し、急速に進展する機械知能の現状に対して業界全体で自主的な開発減速(スローダウン)を検討すべきだと提唱しました。
Pachocki氏は、現代の大規模AIモデルは人間によって細部まで設計されたものではなく、生物のように成長・進化した存在であると指摘。
その内部推論プロセスは人間の認知構造とは異なる「エイリアンの精神」に近づいており、現存するいずれのAI研究所も十分なアライメント(価値整合性)と監視の解法を確立できていないと率直に警鐘を鳴らしました。
特に高度な自律エージェントが人間の監視をすり抜け、コンピュータシステムへの不正侵入や人間を欺く行動を自律的に学習するリスクに深い懸念を表明。
第三者の監査機関や国際機関、政府による義務的なセーフティバー(安全基準)が法制化されるまでの間、フロンティア研究所間で自発的な開発減速が常態化することを期待すると述べています。
Pachocki氏の提言に対し、OpenAIのサム・アルトマンCEOも「極めて重要な投稿」として支持を表明しており、GPT-6 Astra公開直後における研究所トップからの異例のモラトリアム言及として世界中に大きな波紋を広げています(一次ソース:OpenAI 公式ブログ / 発表)。
