论文:Edge AI: On-Demand Accelerating Deep Neural Network Inference via Edge Computing
Edgent是一个框架,通过协同设备和边沿,利用边沿计算,进行DNN协同推理的框架。
DNN推理是将一个预先训练好的DNN模型摆设到实际业务场景中,如图像检测、物体检测、在线翻译。
当Edgent在不同带宽设置下产生的最优协同推理策略(选择划分点和退出点)
及时边沿智能驱动自动驾驶无人机
自适应学习驱动的边沿服务迁徙
用户在移动的过程中,服务节点需变动保证服务质量
必要均衡计算耽误、通信耽误和迁徙损耗
m i n ∑ t = 0 T ω 1 t d c p t + ω 2 t d c m t + ω 3 t s t min \sum_{t=0}^{T} \omega_1^t d_{cp}^t + \omega_2^t d_{cm}^t +\omega_3^t s^t mint=0∑Tω1tdcpt+ω2tdcmt+ω3tst