英特尔AI Box+OpenVINO赋能边缘智能计算

1 .英特尔 赋能边缘智能计算 丁蓝 技术销售专家 

2 .• 英特尔 AI Box 赋能边缘智能计算 • OpenVINO 加速边缘 AI 推理与部署 

3 .英特尔® 赋能 边缘智能计算 

4 . 推动边缘发展的 驱动因素 延迟 带宽 安全性 连接性 设备/ 事物 内部 边缘 边缘 网络边缘、 区域性云 核心 网络 云/ 数据中心 边缘计算的重要性日益增强 到2023年 70%的企业数据会在传统数据中心或云端之外产生与处理 1 43%的人工智能推理发生在边缘设备（相比云端） 到2023年 2 目前为 350 亿美元的总体市场规模 到 2025 年增长至 650 亿美元以上 3 1. IDC FutureScape 2020 Predictions, goto.webcasts.com/starthere.jsp?ei=1262189&tp_key=0f0e85ad06. 2. 2. ABI Research, May 2018, abiresearch.com/press/hardware-vendors-will-win-big-meeting-demand-edge-ai-hardware/. 3. 3. Global Artificial Intelligence of Things (Technology & Solutions) Markets 2020-2025 Oct 2020 

5 .边缘智能方案的重要场景： 在边缘测部署视频AI分析 基于AI算法的视频分析 vs. AI摄像头方案 在边缘AI应用中，视频分析负责处理数字视频信号，基于AI ▪ 同时接入并处理多路视频流，应对复杂场 景的AI分析 算法，从视频数据中提取相关信息，以便制定决策 ▪ 利用现有的IP摄像头实现智能边缘方案， 更低的方案总支出（TCO） ▪ 高扩展性与灵活性，满足各类分析需求， 网络摄像头 边缘测视频分析 云端 并整合各类业务应用 ▪ 易于管理，维护与更新 vs. 云计算方案 ▪ 更高的连接稳定性与更低的延时 ▪ 避免大量视频数据上传至主干网络，降 低网络带宽费用 ▪ 在本地处理数据，提升数据安全性 端 边缘 网络与数据中心 

6 .英特尔®视频AI计算盒 硬件平台与产品 

7 . 英特尔®视频AI计算盒 • 高性能，可扩展的通用计算平台 • 集成高性能媒体与AI能力，基于统一平台开发 • 低功耗，多种硬件形态，灵活部署 • 聚合生态伙伴，有效应对边缘AI碎片 化挑战，快速上市解决方案 • 覆盖各类行业与场景的商用AI算法 • 借助英特尔各类接洽与销售渠道，更 • 基于OpenVINOTM与Media SDK充分 多方案落地机会 优化，完整的软件工具与开发支持 • 依托英特尔品牌，放大推广效力 • 云边端灵活部署 

8 .提供“通用计算 + 媒体 + AI”能力，满足各类方案需求 视频AI计算盒硬件平台 CPU GPU 基于统一的硬件平台，降低开 i7 4C/8T 12MB 2 VDBox 96个执行单元 发成本、方案成本及部署运营 成本 + + i5 4C/8T 8MB 2 VDBox 80个执行单元 i3 2C/4T 6MB 1 VDBox 48个执行单元 媒体与AI工作负载运行于集成 Celeron 2C/2T 4MB 1 VDBox 48个执行单元 GPU平台，借助OpenVINOTM实 现高性能AI推理 业务应用等通用负载 高密度编解码 AI性能 操作系统、业务应用、通用工作 第十一代英特尔® 酷睿TM （Tiger Lake – UP3） 负载等运行于高性能X86 CPU平 CPU + Codec + AI 台 

9 .来自中国ODM合作伙伴的视频AI计算盒产品 经过全面测试与验证，可靠支持性能需求与部署要求 UMIMTL-1145 PIR-V41 GNS-V40 AI-7702 大唐计算机 信步科技 信步科技 泰尼狗 US-M5520 BullD-1135G7 E098 RA-V6000 优哲信息 鼎盛智能 智微智能 锐宝智联 以及更多… 访问 视频AI计算盒硬件页面 了解更多 

10 .英特尔®视频AI计算盒验证测试 针对视频AI计算盒产品功能与性能的全面测试与验证  BIOS配置  软件配置  内存带宽  多视频流解码性能  基于集成显卡的深度学习推理性能  视频分析管道测试，包含解码与推理。 

11 .OpenVINO 加速边缘 AI 推理与部署 

12 . 快速部署并加速AI推理工作负载 高性能 简化开发 一次编写 深度学习推理 易于使用 任意部署 实现高性能，基于硬件优化的人工智能和计算机视觉推理，并在从边缘到云的英特尔®架 构上进行部署。 

13 . 快速部署并加速AI推理工作负载 Train a model Model Optimizer Intermediate Find a trained model Representation Open Model Zoo .bin, .xml Inference Engine or or OpenVINO™ integration with 

14 .OpenVINO™ Toolkit Developer Journey Model Server Read, Load, Infer gRPC/ REST Server with C++ backend Model Optimizer Converts and OpenVINO Format OpenVINO Runtime (Inference Engine) optimizes trained IR Data (Intermediate Representation File) Common API that abstracts low-level model using a (.xml, .bin) programming for each hardware supported framework Post-Training Optimization Tool Reduces model size into low- precision without retraining Neural Network Compression Framework Compression algorithms for quantization-aware training with PyTorch and TensorFlow frameworks Intel® GNA Open Model Zoo Deep Learning Workbench (IP) 280+ open sourced and optimized Visually analyze and fine-tune pretrained models available Powered by oneAPI The productive, smart path to freedom for accelerated computing from the economic and technical burdens of proprietary alternatives. 

15 . 英特尔®视频AI计算盒 英特尔®第十一代酷睿™处理器性能参考 Tiger Lake-UP3 + Intel® Distribution of OpenVINO™ toolkit vs Coffee Lake CPU RESNET50-TF SQUEEZENET1.1-CF MOBILENET-V2-PYTORCH YOLO-V3-TINY-TF SSD30-CF i7-8700T 35W i7-1185G7 GPU only i7-1185G7 -GPU+CPU *更多评估数据与配合工作负载/配置信息请见Intel® Distribution of OpenVINO™ toolkit Benchmark Results ，英特尔技术可能需要启用硬件、软件或激活服务。 具体成本和结果可能不同。 

16 . 英特尔®视频AI计算盒 英特尔®第十一代酷睿™处理器集成显卡性能参考 Intel® Iris® Xe graphics (11th Gen Intel® Core™ i7-1185G7 @ 3.00GHz) + OpenVINO™ toolkit 2000 FP32 INT8 1800 1600 1400 1200 1000 800 600 400 200 0 resnet50-TF squeezenet1.1-CF mobilenet-ssd-CF yolo-v3-tiny-TF FPS *更多评估数据与配合工作负载/配置信息请见Intel® Distribution of OpenVINO™ toolkit Benchmark Results ，英特尔技术可能需要启用硬件、软件或激活服务。 具体成本和结果可能不同。 

17 .https://bizwebcast.intel.cn/dev/index.html ➢ 看技术专家深度解读 OpenVINO™ 应用； ➢ 享丰富且安全的 OpenVINO™官方技术文档； ➢ 听行业大咖讲述发展趋势及 OpenVINO™ 案例； ➢ 上专属 OpenVINO™ 学习课程更能获得官方授权证书 为广大人工智能领域开发者提供一站式学习AI开发的新体验 

18 .