商汤科技 陈宇恒 - 《未来都市--智慧城市与基于深度学习的机器视觉》

1 .未来都市 - 智慧城市与基于深度学习的 机器视觉 演讲者／陈宇恒 

2 .

3 .

4 . 概要 • 我们是谁 • 智慧城市中机器视觉应用 • 我们是如何构建城市级AI+智慧城市系统 • 大规模深度学习实战系统的几点经验 

5 .l商汤科技联合创始人，架构师 lC++/Go/Rust/Ruby开发者 l多个开源项目贡献者 lNIPS国际会议论文作者 @chyh1990 

6 .软银孙正义收购Google旗下的 2017.6 机器人公司Boston Dynamics 和Schaft 2017.3 Intel 153亿美元收购无人驾驶 技术公司 Mobileye 软银孙正义设立1000亿美元人 2016.7 工智能基金，320亿美元收购芯 片架构公司ARM 2016.8 赢得ImageNet 5项主要比赛中 的3项世界冠军 通用 10亿美元 收购无人驾驶技 2016.3 术初创公司Cruise Automation 2016.3 DeepMind AlphaGo 围棋AI击 败李世石 首次中国公司在ImageNet竞赛 2015.11 夺冠，视频分析技术登顶 2014.11 Google 6.6亿美元收购深度学 习公司 DeepMind 人脸识别大幅提高精度，商汤科 2014.6 技首次突破人类肉眼识别准确率 ，领先于Facebook 2013.12 Facebook 建立人工智能实验室 并聘用 Yann LeCun Google5000万美元招入 2013.3 Hinton，发布基于深度学习的 搜索引擎 2012.12 深度学习鼻祖 Hinton 赢得 ImageNet图像识别竞赛 Microsoft 深度学习驱动的语音 2011年中 识别大幅提升精度 

7 .公司简介 唯一 20年 800余位 150余位 深度学习 科研经验 技术研发人员 人工智能博士 平台公司 历史业绩 商业营收 400余家 累计融资 核心技术 市占率 大型客户伙伴 全球最大 全球领先 行业第一 共同发展 领先技术 AI+金融 AI+智慧城市 AI+智能手机 AI+芯片 AI+无人驾驶 AI+医疗图像 

8 .AI+智慧城市：以智能安防场景为例 特征向量 

9 . AI+智慧城市 l单机、简易分布式人脸检测、跟踪、比对平台 2015-2017 l处理数十路到数百路监控摄像头数据 l千万级别深度学习特征检索 l行业试水 l云原生Cloud-Native超大规模视图存储、处理、检 索 l处理数万到数十万路，城市范围级别监控、门禁摄 像头数据 l10-100 Billion级别深度学习特征检索 2018-2019 - PB以上级别数据库存储 - 100PB级别抓拍图片存储 - 每秒万次并发检索请求 l大规模推广应用 l某种程度上说，城市内所有市民都是系统的用户 

10 .深度学习算法发展为平台系统赋能 首次超过人眼 DeepID时代 6位密码时代 8位密码时代 What’s Next? 98.52% DeepID3 99.55% 1/100万 错误概率 1/1亿 错误概率 人眼 97.45% DeepID2 99.15% 95% 通过率 97% 通过率 97.35% 30万张人脸训练 6000万张人脸训练 20亿张人脸， 2亿个体训练 2014 2015 2016 2017 2018 

11 .自我演化的异构人工智能云 

12 .云原生的深度学习数据闭环 深度学习 场景相关业务 应用服务 高度定制的 模型测试与验证 图片、特征仓库 自进化深度学习系统 数据清洗-查询 深度学习训练平台 

13 . 深度学习算法在产品应用中的挑战 • 深度学习算法也需要“深度”学习业务需求 - 处理特殊输入，如模糊、黑白照片 - 适配具有不同特征的数据源 *示意图来自互联网 - 在严肃应用中，客户追求100%准确率，算法性能提升永无止境 • 深度学习模型需要在准确率和速度上做均衡 - 使用更加精巧的模型和Operator设计 - 使用模型压缩算法，在基本保障准确率的情况下大幅提升速度 - 利用最新的硬件特性，如GPU TensorCore/int8 

14 . Kubernetes在异构系统调度中的挑战 1.6 1.9 1.10 1.8 nvidia/gpu volume-awared CPU manager local-volume custom scheduler scheduling Device plugin • Kubernetes版本发布快，新特性更新频繁，对异构调度的支持不断加强；但配套设施落后（e.g. Spark on K8s, GitlabCI) • 容器系统调用栈深，需要仔细验证操作系统，内核及异构设备驱动的兼容性 • Kubernetes对NUMA、异构计算、存储设备的调度能力待加强 

15 . Go语言在高性能系统中的实践经验 • 为什么用Go - 比起C++，更易于实践各种并发模式 - 比起Java，更加简洁，更易于与C/C++交互 - 比起脚本语言，类型和内存安全，保证重构效率与产品质量 - 完善的配套工具，如go test, gofmt, go lint, race-detector 

16 .

17 . Go语言在高性能系统中的实践经验 • Go在开发高性能应用上也有一些不足， 对比C++： - 无法直接控制操作系统线程，CUDA 调用需要特殊处理 - 部分标准库实现依赖reflect，性能较 差 - GC的带来的开销，如在Go Heap上 百倍慢于等价的C实现！ 构建百万以上级别的对象缓存，需要 仔细优化 

18 . 回顾 • 智慧城市中，在智能安防领域机器视觉有着爆发式应用 • 我们使用基于深度学习的机器视觉技术，构建了超大规模的自我演化 的分布式智能系统 • 在构建这个规模的系统中，我们广泛使用了Kubernetes、Go等流行技 术，“那些年踩过的坑” 

19 .

20 .

21 .

22 .

23 .