申请试用
HOT
登录
注册
 
百度飞桨在英特尔处理器上的模型量化全流程解决方案
0 点赞
0 收藏
4下载
英特尔AI实践日
/
发布于
/
63
人观看

百度飞桨是中国首个开源开放、技术先进、功能完备的产业级深度学习平台。百度飞桨和英特尔密切合作,构建了模型量化全流程解决方案,加速深度学习模型的应用与落地。本次分享,首先介绍百度飞桨模型量化的实现原理,然后讲解产出、部署量化模型的的全流程解决方案,最后展示百度飞桨模型量化在实际业务中的应用与收益。

彭军才 百度飞桨高级研发工程师

展开查看详情

1.

2.

3.

4.• • • •

5.• • • •

6.• • •

7. ( ! = #$%&' + /0 )*+,-

8. ( *,./ (, −2, 2 ! = #$%&' ! = #$%&' )*+,- )*+,- (345 2 )*+,- = )*+,- = !345 !345

9. −0.5 0.6 0.7 −0.53 ∗ = 0.1 −0.8 −0.3 0.31 −79 95 scale_a=0.8/127, round(A/scale_a) = 16 −127 127 scale_b=0.7/127, round(B/scale_b) = −54 −79 95 127 −15163 ∗ = 16 −127 −54 8890 −15163 −0.526 ∗ scale_a ∗ scale_b = 8890 0.309

10.

11.

12.

13.• • •

14.• •

15.• • •

16.• •

17.

18. P(x) KL P‖Q = ' P x log Q(x) ./012 = 3/5678

19.• • • •

20.• • •

21. !,-./ !"#$% = '()*+ 01234_6 !,-./_BC = !"#$%∗scale_x 7,-./ 7"#$% = '()*+ 01234_8 7,-./_BC = 7"#$% ∗ 01234_8 9"#$./ = !"#$% 7"#$% 9,-./ = 9"#$./ ∗ scale_x ∗ scale_w = !"#$%∗ 7"#$% ∗ scale_x ∗ scale_w = (!"#$%∗ scale_x)∗ 7"#$%∗ scale_w) = !,-./_BC ∗ 7,-./_BC

22.

23.• • • • • •

24.

25.

26.

27.

28.• • •

29.•

0 点赞
0 收藏
4下载