机器人已能执行搬运、导航及人机协作等任务，但在误读物体或遭遇意外时的反应仍存隐患。今年 7 月，一段网传视频显示，一款中国制造的类人机器人在俄罗斯因误判握手手势而做出攻击性动作。尽管该视频疑似摆拍，但随着 AI 驱动机器人加速迈向工业部署，如何证明系统在现实世界中的安全性，已成为超越硬件性能的核心挑战。

NVIDIA 推出 Halos for Robotics，试图从计算堆栈层面解决这一难题。NVIDIA 机器人生态系统与边缘 AI 产品负责人 Amit Goel 指出，传统安全措施已无法支撑现代机器人的复杂任务需求。工业机器人开发商 Addverb 的测试也证实了这一点，其系统曾出现深度计算错误及轻微碰撞等问题，凸显了机器人需持续验证行为而非单纯执行指令的必要性。

当 " 停止 " 已不再足够

传统工业机器人依赖预定义的安全边界，检测到障碍物即停止，无法区分人员与普通障碍。Goel 表示，这种频繁停机限制了操作区域，降低了多任务场景下的实用性。在由基础模型驱动的机器人时代，安全措施需具备情境理解能力：递送物品时需靠近工人，而其他场景下同样距离则可能构成风险。

" 上下文和推理是安全功能的关键。"Goel 称。Halos 作为参考平台，涵盖计算硬件、系统设计、操作系统及安全应用。其配套的 Holoscan Sensor Bridge 以低延迟传输传感器数据，并将安全逻辑与主要功能分离，允许两者在同一计算单元上并行运行。

" 由外向内 " 的安全机制

NVIDIA 方案的核心之一是 " 由外向内 "（Outside-In）安全机制。通过部署在设施周围的外部摄像头，系统可监控机器人、人员与机械的互动，弥补机器人自身视野盲区。相比在每个转弯前减速的传统做法，该机制能识别潜在危险并发送指令阻止不安全运动，从而在保障安全的同时维持运营吞吐量。

Goel 表示，该方法可适配工厂、仓库、医院及零售等不同环境。此外，仿真技术在测试多 AI 系统交互中扮演重要角色，帮助开发人员预判多个模型共存时的行为表现。NVIDIA 还设有检查实验室，在开发者寻求正式认证前审查技术文档并提供反馈，但实验室本身不进行产品认证。

鉴于 AI 与安全领域尚处早期，标准制定机构仍在探索通用解决方案。机器人、传感器及应用场景的多样性，使得开发统一的安全标准极具挑战。

跨越试点到量产的鸿沟

Addverb 高级机器人部门负责人 Rajesh Kumar 指出，挑战常现于测试阶段，如库存单位重叠导致的深度计算错误、夹爪过度旋转等。即使完成任务，系统仍需冗余深度传感、置信度评分及运动中检查来捕捉错误。面对意外障碍，系统可结合传感器数据减速、重规划路径或停止，必要时将任务移交人类。

速度限制、扭矩限制及紧急停止等硬性措施独立于学习系统运行。Kumar 强调，成功的试点仅证明机器人能执行特定任务，而量产要求其在对象、环境及操作条件变化中保持性能一致性。" 最大的差距在于不可预测环境中的一致性。"

为应对风险，NVIDIA 推出开源项目 OpenShell，对机器人上的 AI 模型进行沙盒化处理，防止模型超出最大扭矩等预设限制。同时，带外监控系统旨在检测并阻止不安全活动，即使 AI 决策超出预期边界也能实施约束。

Goel 承认，除计算效率和模型成熟度外，安全性仍是阻碍类人机器人广泛部署的主要障碍。当前的核心挑战不仅是提升机器人智能，更是确保其不断增长的能力始终处于人类可信任的范围内。

【星途科讯 图文丨伊贝 首发于 ZAKER 科技，转载请注明出处】