早餐｜第十三期 · 聊聊模型部署和边缘计算

早餐｜第十三期 · 聊聊模型部署和边缘计算

爱学习的 OpenVINO 中文社区

内 容 来 源 | 曹慧燕
排 版 | 李擎
*music by audionautix.com

大家好，这里是OpenVINO 早餐
在上一期节目中，我们跟大家聊了人工智能，机器学习，深度学习这些概念
今天我们来聊一聊模型部署和边缘计算

作者介绍

○ 曹慧燕

英特尔
IOTG Edge
AI 工程师

正餐部分

视频放映

文本阅读

深度学习的工作流通常分两个阶段。

第一个阶段是模型训练阶段。首先我们要构建一个网络模型，然后拿一堆的数据来训练这个模型。直到它的各项指标符合我们的预期，就可以停止训练了。

第二个阶段就是推理阶段。在这个阶段，我们就可以使用这个训练好的模型进行实时的推理运算。训练阶段通常对算力的要求比较高，所以这部分我们一般把它部署在云端。推理阶段的模型部署就取决于实际的应用场景。我们可以把它部署在云端，也可以部署在设备端，或者是介于两者之间的边缘云端。

来看一下常见的边缘计算的应用场景：

• 最常见的安防系统，智能摄像头需要实时地对视频内容进行识别。

• 家居的应用场景，像智能音箱，需要实时地跟主人进行语音互动。

• AR-VR需要实时地识别你的姿势、眼球，从而切换不同的虚拟场景。

• 机器人、无人机的壁障、悬停，包括无人驾驶等等。这一类的应用通常对实时性的要求都比较高。

当然可能还有一些应用考虑到数据的安全性，在这样的情况下，就需要把模型直接部署在边缘设备端进行实时的推理运算，而不是部署在云端。

END

关于边缘计算，今天就简单聊到这里。感谢收听，我们下期节目再见！

原文发布于2020-08-06：早餐｜第十三期 · 聊聊模型部署和边缘计算

关注我们，让开发变得更有趣????

微信号：openvinodev
B站：OpenVINO 中文社区

*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.