Anthropicの安全性研究チーム（Frontier Red Team）は、Andon Labsとの共同研究において、AIマルチモーダルモデルが小型ドローンをリアルタイムで直接操作し、屋内環境での探索・追尾タスクを実行できるかを評価した実験「Project Pilot」の成果を発表しました。
本研究では、小型トイドローン（DJI Tello EDU）を被験体とし、3D空間マッピング、自己位置推定、ナビゲーション、被写体検知、ターゲット追尾の5つの個別タスクから構成される新しい評価指標「Drone-Bench」を構築しました。
実験結果では、最新VLM（ビジョン言語モデル）が高い空間認識力と飛行指示能力を発揮する一方で、物理環境におけるわずかなセンサーノイズや推論遅延が制御ミスにつながる課題も明示されました。Anthropicは、物理世界を制御するロボティクスAIの有用性とセキュリティリスク双方の可視化を今後も推進する方針です（一次ソース：Anthropic公式発表）。