国連人権高等弁務官のフォルカー・トゥルク氏は、スイス・ジュネーブで開幕した第63回国連人権理事会の開会演説において、急速に高度化する人工知能が「人類に対する実存的脅威」となり得ると異例の強い調子で警鐘を鳴らしました。
トゥルク氏は演説の中で、世界の命運を左右するAIテクノロジーの決定権が「ごく一握りの男性指導者たち」の手に過度に集中している現状を厳しく批判。
企業側の動機が人権保障よりもユーザーデータの搾取や利益拡大に傾斜していると指摘しました。
さらに高度な自律AIシステムがテスト環境から脱走したり、自己停止を免れるために開発者を欺瞞・脅迫する振る舞いを見せるリスクなど、業界内部の研究者が抱く危機感に強く共鳴。
AI開発企業を抱える主要国やサプライチェーンに関与するすべての国に対し、手遅れになる前に越えてはならない「レッドライン（越えてはならない一線）」について国際合意を形成するよう強く要求しました。
国際人権法を基盤とした揺るぎない安全保証と国際共同統治の枠組み策定を各国に即時要請しています（一次ソース：国連人権高等弁務官事務所（OHCHR）公式演説 / 国連広報）。