边缘智能：概念、动机与端边云协同

一、从云计算到边缘智能

边缘计算是一种分布式计算框架，它在更接近数据源的位置（如物联网设备、本地终端、边缘服务器）捕获、存储、处理和分析数据。其核心理念是将计算能力从远程数据中心下沉到数据产生的第一线，从而缩短响应时间并节省网络带宽。

大量传感器和智能设备不断产生海量数据。人工智能能够快速分析这些数据，从中提取有效信息，并据此进行高质量决策。将 AI 与边缘计算结合，便催生了「边缘智能」（Edge Intelligence）。

边缘智能的核心思想是使人工智能更加接近人、数据和终端设备。其目标是在数据源附近的设备上进行实时数据处理、模型推理和决策，从而提高响应速度、数据安全性与服务可靠性。

具体而言，边缘智能要求智能体在边缘侧的严格时延、能耗与隐私约束下，可靠地完成推理、预测与动作。异构边缘节点能够协同整合感知、预测与控制能力，理解复杂指令，持续学习并积累知识，适应动态环境与多样任务，同时在需要时灵活调用云端资源。

随着智能设备数量与计算能力的不断增长，计算与服务的重心正在逐渐由云端向网络边缘扩展。传统云计算需要将数据传输至远程数据中心进行处理，逐渐难以充分应对大规模、实时、可靠、隐私保护的数据处理需求。

通过广域网传输大量数据会对网络容量和云计算基础设施的计算能力提出较高要求。本地部署减轻了网络和云端的压力。但这也是一把双刃剑：边缘设备受限于算力和存储，可能无法运行较大的模型，推理速度也可能较慢。

基于云计算的服务需要经过网络传输，其访问延迟通常难以得到稳定保证。许多时间关键型应用（如协作式自动驾驶、实时工业控制）对响应速度具有严格要求。将推理放到本地可以大幅缩短响应时间。但本地运行也可能增加设备功耗、导致发热或续航下降。

多数云计算应用依赖无线通信和骨干网络。在部分工业场景中，即使网络连接丢失，智能服务仍然需要保持较高可靠性。分散、分层的计算架构降低了智能服务对云端节点和持续网络连接的依赖。但更复杂的设备和网络结构可能推高设备资源成本。

深度学习应用通常涉及大量私人信息，智能家居、智慧城市等领域尤其重视数据隐私。部分敏感数据可能不适合甚至无法传输至云端，因此需要在设备本地或附近完成处理。但完全本地化可能会妨碍模型的全局训练过程。

边缘计算通常更易于访问，且具有丰富的数据来源和应用场景，可以推动深度学习在不同行业中的应用，促进 AI 服务的普及。但模型需要足够小才能部署在边缘设备上，这可能压低模型精度和可信度。

当前，边缘智能主要涉及两种部署方式：设备端推理和设备端训练。

边缘智能的大多数应用集中在推理阶段，即运行已经训练完成的人工智能模型。一种常见的工作流程是：

此外还有协同推理的方式：边缘设备不是把完整输入直接发给服务器，而是把神经网络拆分为两部分——设备端执行前几层，将中间特征发往边缘端，由边缘端完成后几层推理。这种方式存在一些挑战：中间特征可能比原始输入还大、难以合理切分、以及可能泄露隐私。

设备端模型训练是指直接利用终端设备或边缘节点中的本地数据更新模型。这种能力使设备能够根据本地环境持续适应和优化。

设备端训练也是联邦学习的基础。在联邦学习中，各设备利用本地数据训练模型，而不必直接上传原始数据，只需上传模型更新（如梯度或参数增量），从而在保护数据隐私的同时实现全局模型优化。

边缘计算并不意味着完全取代云计算。当边缘设备的计算能力、存储资源、能耗条件无法承担任务时，可以进行任务卸载，将任务发送给边缘服务器或云端。

这种三层协同架构的核心理念是「就近处理，按需卸载」：终端设备承担实时性最强、隐私要求最高的任务；边缘服务器承担中等实时性任务；云端承担计算密集和大规模存储任务。三层相互配合、各取所长，形成一个弹性、高效的边缘智能系统。