概念词条 重要度 3/5
端侧 AI（端侧推理）
又称：端侧 AI · 边缘 AI · 端侧推理 · Edge AI · Edge Inference · On-device AI
在机器人本体或近端设备上直接运行 AI 推理，无需实时依赖云端，是低延迟、隐私安全部署的关键技术路线。
关键玩家 · 3 家（来自公司库）
定义
端侧 AI（Edge AI）是指将 AI 模型的推理（inference）计算部署在终端设备或近端计算节点上执行，而非将数据传至云端处理。在具身机器人场景中，“边缘”通常指机器人自带的计算单元（CPU/GPU/NPU/专用加速芯片），目标是在毫秒级延迟内完成感知与决策推理。
为什么重要
机器人的实时控制对延迟极为敏感：云端往返延迟（通常数十至数百毫秒）无法满足高频控制回路（通常 1 kHz）的需求。端侧推理还减少了对网络稳定性的依赖，在工厂断网或户外等场景下至关重要，并降低了敏感视觉/传感数据上传云端的隐私风险。对判断一家机器人公司的产品化就绪程度，端侧部署能力是关键工程指标。
技术现状
- 模型轻量化（剪枝、量化、蒸馏）和高效推理框架（TensorRT、ONNX Runtime）是当前主要工程路径，用于将大模型压缩到端侧可运行规模。
- 专用 AI 芯片（NPU/VPU）正快速渗透机器人算力平台，NVIDIA Orin/Thor 系列是当前人形机器人端侧算力的主流选择。
- 端云协同（端侧快速反射 + 云端慢思考）的分层架构正成为行业共识，兼顾实时性与模型复杂度。