申请试用
HOT
登录
注册
 
大模型推理在eBay的架构实践-田浩炜
大模型推理在eBay的架构实践-田浩炜

大模型推理在eBay的架构实践-田浩炜

示说网官方
/
发布于
/
129
人观看

田浩炜-eBay高级技术专家

2014年硕士毕业于浙江大学计算机系。曾在蜻蜓FM、一条网络科技任职,负责搜索、推荐系统的算法及机器学习平台的系统架构的研发工作,在eBay先后参与了特征工程管理平台、统一推理平台,模型训练平台的研发。目前主要负责eBay大模型的训练基建及推理平台的相关工作。


分享介绍:

     随着AIGC技术的兴起,eBay各业务部门正积极应用AIGC以加速提升业务价值。然而,随着AIGC模型规模不断增大,机器学习平台的架构也面临更多挑战。为满足业务团队需求,eBay机器学习平台部门在基础架构层进行了多项升级,特别针对大规模AIGC模型的特点和应用场景。本次演讲将重点介绍eBay机器学习平台在大模型推理方面的架构实践,从大模型生命周期管理、模型部署和推理架构、模型优化等方面来简述eBay机器学习平台在AIGC领域的工作。

4点赞
0收藏
2下载
确认
3秒后跳转登录页面
去登陆