- 快召唤伙伴们来围观吧
- 微博 QQ QQ空间 贴吧
- 视频嵌入链接 文档嵌入链接
- 复制
- 微信扫一扫分享
- 已成功复制到剪贴板
百度飞桨在英特尔处理器上的模型量化全流程解决方案
百度飞桨是中国首个开源开放、技术先进、功能完备的产业级深度学习平台。百度飞桨和英特尔密切合作,构建了模型量化全流程解决方案,加速深度学习模型的应用与落地。本次分享,首先介绍百度飞桨模型量化的实现原理,然后讲解产出、部署量化模型的的全流程解决方案,最后展示百度飞桨模型量化在实际业务中的应用与收益。
彭军才 百度飞桨高级研发工程师
展开查看详情
1 .
2 .
3 .
4 .• • • •
5 .• • • •
6 .• • •
7 . ( ! = #$%&' + /0 )*+,-
8 . ( *,./ (, −2, 2 ! = #$%&' ! = #$%&' )*+,- )*+,- (345 2 )*+,- = )*+,- = !345 !345
9 . −0.5 0.6 0.7 −0.53 ∗ = 0.1 −0.8 −0.3 0.31 −79 95 scale_a=0.8/127, round(A/scale_a) = 16 −127 127 scale_b=0.7/127, round(B/scale_b) = −54 −79 95 127 −15163 ∗ = 16 −127 −54 8890 −15163 −0.526 ∗ scale_a ∗ scale_b = 8890 0.309
10 .
11 .
12 .
13 .• • •
14 .• •
15 .• • •
16 .• •
17 .
18 . P(x) KL P‖Q = ' P x log Q(x) ./012 = 3/5678
19 .• • • •
20 .• • •
21 . !,-./ !"#$% = '()*+ 01234_6 !,-./_BC = !"#$%∗scale_x 7,-./ 7"#$% = '()*+ 01234_8 7,-./_BC = 7"#$% ∗ 01234_8 9"#$./ = !"#$% 7"#$% 9,-./ = 9"#$./ ∗ scale_x ∗ scale_w = !"#$%∗ 7"#$% ∗ scale_x ∗ scale_w = (!"#$%∗ scale_x)∗ 7"#$%∗ scale_w) = !,-./_BC ∗ 7,-./_BC
22 .
23 .• • • • • •
24 .
25 .
26 .
27 .
28 .• • •
29 .•