当无人机的摄像头、目标照片和自主控制放进同一条链路，隐私问题不再只是“视频保存几天”。谁可以成为目标、模型在什么区域搜寻、身份不确定时是否继续跟随、运行记录能否被再次用于训练，都需要在试验开始前说清楚。
Anthropic 与 Andon Labs 的 Project Pilot 选择了一个有意带着双重用途的任务：在室内办公室中寻找并跟随指定人员。官方列举了搜救、灾害响应和合法公共安全等正当用途，也指出越权执法或不受约束的私人组织、个人可能滥用。实验中的被跟随者知情，并且是团队成员。
先审用途：为什么跟、由谁提出、何时结束
同样是“找人”，失联人员搜救、园区安保测试和追踪某位员工的正当性完全不同。审核单不应只写一个宽泛的“安全用途”，而要记录任务发起者、依据、目标人员状态、允许区域、开始与结束条件。
如果是预先同意的实验，参与者应知道无人机将使用参考照片、可能在哪些房间出现、谁能看实时画面、怎样退出。若用途依据不是个人同意，还需要相应的组织授权与适用规则，不能用模型评测名义替代。
用途审查可以压缩成四问：
目标是谁，为什么可以被定位？
无人机允许搜寻和跟随到哪里？
谁能开始、暂停和终止任务？
目标完成、撤回同意或授权到期后，系统怎样停止？
四问中有一项不清楚，就不适合先收集视频、再补流程。
再审数据：参考照片和环境视频不是同一种资产
Drone-Bench 的任务包括根据办公室视频重建空间，并根据目标参考照片在无人机视频里返回边界框。至少涉及三类数据：环境建图素材、目标身份素材、飞行过程视频。它们的用途、访问者和保留期不应自动相同。
环境视频可能拍到办公室布局、门禁位置、屏幕和旁观者；参考照片直接承担目标匹配；飞行视频还会记录行动轨迹。若把所有资产丢进同一个“评测数据”目录，后续很难回答某人的照片是否被删除、地图是否仍可复用、失败视频能否进入回归库。
一份数据台账可以分开记录：
具体期限要由机构规则决定，官方研究没有提供通用保留时间。重要的是不要用一个默认值覆盖全部资产。
现场审查要把错跟与旁观者算进去
模型可能没有撞墙，却跟错了人。检测模块使用参考照片返回目标框，跟随模块再据此控制方向。如果画面里出现相似人物、目标被遮挡或走出画面，系统应该怎样处理，直接关系到隐私和身体安全。
现场规则应包括身份置信度下降时悬停还是搜索，是否允许进入未授权房间，旁观者如何避开或提出异议，以及人工停机是否覆盖所有自动动作。只测试“正确目标站在明亮走廊”不足以验收跟随边界。
还要处理衍生数据。参考照片经过检测器后可能形成特征表示，飞行视频可能被裁成失败样本，环境视频则会生成三维模型和二维地图。删除原图不一定同时删除这些衍生物。台账应记录它们从哪项原始资产生成、能否反推出身份或空间、由哪次评测继续使用。任务授权结束后，逐项决定删除、匿名化或保留，而不是只清空一个视频目录。
若运行中出现错跟，还要有通知和隔离步骤：先停止任务并锁定本次数据，确认被错误识别者和实际目标，再判断哪些日志可用于故障复盘。复盘样本若继续保留，应去掉与定位问题无关的身份信息。不能为了修检测器，把一次未经预期的旁观者影像自动变成长期训练资产。
审查责任也要具名。任务负责人批准用途，数据负责人核对资产去向，现场负责人掌握停机，工程人员复盘算法。一个人可承担多项角色，但记录里不能只写“项目组负责”。发生错跟时，具名分工能让停止、通知、删除和修复按顺序发生。
可以设计三组负例：目标与旁观者交叉行走；目标离开画面后另一人进入；参考照片与现场外观差异增大。观察系统是停止、重新确认还是直接切换目标。负例的通过标准不是最终又找回目标，而是在身份不确定期间没有继续高置信跟随错误对象。
能力进展不应自动放宽用途限制
Project Pilot 测了 15 个模型。新模型在检测和跟随上相对进展更快，重建和定位仍是瓶颈。Fable 5 在真机检测与跟随上优于参考算法，却因地图错误无法跨房间导航。每项十次运行时，模型有四项至少成功达到一次基线，但 Fable 5 的平均表现只在三项达到。
这组结果说明能力与可靠性仍有差距。即使以后可靠性提高，用途授权也不会因此自动解决。恰恰相反，系统越容易获取、越能稳定跟随，越有必要把发起权限、目标依据和数据去向写成可审计规则。
设备价格也不能替代风险判断。试验使用的 DJI Tello EDU 当时零售价 129 美元，硬件门槛较低；但官方环境仅限慢速、一个办公室平面图和有限人数，没有覆盖户外人群。低价提高可获得性，不证明任意场景已经可用，也不降低错跟和越权使用的后果。
用途、数据、现场三张单要能互相对应
审查结束时，不应得到三份互不相关的文件。用途单上的任务编号，要能找到对应参考照片授权；数据单上的飞行视频，要能找到现场负责人和停机记录；现场发生错跟时，要能回到检测版本与目标依据。
一条完整记录可以这样核对：
任务编号与发起依据
目标人员及同意或其他授权记录
允许区域、速度、时段和结束条件
建图视频、参考照片、飞行视频的资产编号
模型、检测器、地图和飞控版本
错跟、丢失、越界、碰撞及人工停机事件
任务结束后的删除、保留与复盘决定
这套做法不假设所有定位跟随都不应进行，也不因为可能用于搜救就跳过审查。它把技术能力和具体使用分开判断。Project Pilot 已展示模型在受控环境中的方向性进展，同时也展示错误地图怎样导致危险动作。对机构而言，合格的试验不仅要能复现成绩，也要能说明每次跟随为何被允许、用了什么数据、在哪里停止。
官方来源：Anthropic 与 Andon Labs，《Project Pilot: Can AI control a drone?》，2026 年 7 月 24 日。
