申请试用
HOT
登录
注册
 

Xinference: 大模型时代的分布式推理平台-何开圣

示说网官方
/
发布于
/
186
人观看

何开圣-未来速度 CTO

未来速度 CTO,曾在阿里云计算平台负责 Python 生态的工作,参与设计开发多个分布式计算框架,多个开源项目核心开发者。


分享介绍:

     1. 介绍当前大模型领域常用的推理框架以及功能,2. 分析目前大模型推理的需求,3. 如何做到生产可用的分布式管理,4. 讨论推理周边的技术栈以及工具链。

7点赞
0收藏
确认
3秒后跳转登录页面
去登陆