申请试用
HOT
登录
注册
 
百度飞桨在英特尔处理器上的模型量化全流程解决方案
英特尔AI实践日
/
发布于
/
96
人观看

百度飞桨是中国首个开源开放、技术先进、功能完备的产业级深度学习平台。百度飞桨和英特尔密切合作,构建了模型量化全流程解决方案,加速深度学习模型的应用与落地。本次分享,首先介绍百度飞桨模型量化的实现原理,然后讲解产出、部署量化模型的的全流程解决方案,最后展示百度飞桨模型量化在实际业务中的应用与收益。

彭军才 百度飞桨高级研发工程师

展开查看详情

1 .

2 .

3 .

4 .• • • •

5 .• • • •

6 .• • •

7 . ( ! = #$%&' + /0 )*+,-

8 . ( *,./ (, −2, 2 ! = #$%&' ! = #$%&' )*+,- )*+,- (345 2 )*+,- = )*+,- = !345 !345

9 . −0.5 0.6 0.7 −0.53 ∗ = 0.1 −0.8 −0.3 0.31 −79 95 scale_a=0.8/127, round(A/scale_a) = 16 −127 127 scale_b=0.7/127, round(B/scale_b) = −54 −79 95 127 −15163 ∗ = 16 −127 −54 8890 −15163 −0.526 ∗ scale_a ∗ scale_b = 8890 0.309

10 .

11 .

12 .

13 .• • •

14 .• •

15 .• • •

16 .• •

17 .

18 . P(x) KL P‖Q = ' P x log Q(x) ./012 = 3/5678

19 .• • • •

20 .• • •

21 . !,-./ !"#$% = '()*+ 01234_6 !,-./_BC = !"#$%∗scale_x 7,-./ 7"#$% = '()*+ 01234_8 7,-./_BC = 7"#$% ∗ 01234_8 9"#$./ = !"#$% 7"#$% 9,-./ = 9"#$./ ∗ scale_x ∗ scale_w = !"#$%∗ 7"#$% ∗ scale_x ∗ scale_w = (!"#$%∗ scale_x)∗ 7"#$%∗ scale_w) = !,-./_BC ∗ 7,-./_BC

22 .

23 .• • • • • •

24 .

25 .

26 .

27 .

28 .• • •

29 .•

0 点赞
0 收藏
4下载
确认
3秒后跳转登录页面
去登陆