Triton Meetup 2023

活动信息

“Triton Meetup 2023“活动将于 2023 年 2 月 25 日下午，在北京 BCos 共享办公（北京 WFC 环球金融中心办公店）举行。本次活动是 Triton 社区首次正式举办的线下技术交流活动，对模型推理领域具有里程碑意义。活动将专注于 AI Infra、推理引擎 相关主题，打造 Triton 社区开放共享的技术生态，共同推进 Triton 在国内的推广和应用落地。

本次活动，现场邀请到了来自 NVIDIA、蚂蚁集团、美团、京东、蔚来等各大公司的一众技术嘉宾，为大家带来 AI Infra、推理引擎相关的主题分享。参与者们将了解到 Triton 社区的最新技术和发展方向，以及社区相关成员当前的工业级推理引擎技术。来到现场的小伙伴们还能一起加入到 “AI 推理服务的当下与未来” 的圆桌主题讨论哦！

活动时间： 2023 年 2 月 25 日（周六）14:00--18:00

活动地点： BCos 共享办公-多功能厅（北京WFC环球金融中心办公店）

签到时间： 13:30-14:00

签到流程： 所有嘉宾抵达宴会厅后，在签到处签到入场。

论坛议程： 详见图片

听众收益：

1、了解到 Triton 是什么

2、Triton 在不同场景（搜索、推荐、广告、CV、NLP）的应用、优化方案和收益

3、了解 Triton 规模化应用，以及平台化要做的工作

4、近期 Triton feature 的更新

5、Triton 的 roadmap 和发展改进的方向

嘉宾阵容

议题一：NVIDIA Triton Inference Server 的现在和未来

申意

NVIDIA 解决方案架构师

负责为消费互联网行业提供 GPU 计算解决方案。包括编解码，数据前后处理，模型推理及服务化等。

议题简介:

• Triton 简介；

• Triton 重要 Feature 简介和 Roadmap 更新；

• Triton 的成功案例。

议题二：Triton 在蚂蚁全场景落地的优化

龚明亮

蚂蚁集团高级技术专家

长期从事 AI Infrastructure 和 GPU 虚拟化相关的研发工作。

议题简介:

• Triton 在搜索、推荐、广告业务场景的解决方案；

• Triton 在认知业务的解决方案；

• 结合业务场景，蚂蚁进一步的优化方案。

议题三：Triton 在美团数据中心的应用

王新

美团机器学习平台预测引擎团队技术负责人

美团机器学习平台预测引擎团队技术负责人，长期专注于机器学习预测引擎相关的开发工作。

议题简介:

• 机器学习模型在美团落地的痛点；

• Triton 落地的具体方案；

• 使用 Triton 的业务收益与效果。

议题四：Triton 在京东九数高性能推理引擎的应用与实践

杨培军

京东零售算法中台技术架构师

长期从事机器学习平台/深度学习推理加速和框架的研发，曾负责阿里妈妈搜索广告预估平台、Bigo 机器学习平台的建设。

议题简介:

• 京东零售的多元化算法需求给模型推理带来的挑战；

• 介绍京东算法中台在面向 CV/NLP 场景基于 Triton 二次开发的高性能推理框架；

• 阐述推理框架的架构演进和性能优化工作。

圆桌讨论：AI 推理服务的当下与未来

特邀嘉宾：郭城

蔚来自动驾驶研发平台 (NADP)资深工程师

负责搭建 NADP 云上推理系统，模型 CICD。

交通指南

地址： 北京市朝阳区东三环中路 1 号环球金融中心西塔 B1 层 BCos 共享办公-多功能厅

地铁： 地铁 10 号线-金台夕照站，从 A 口出步行 3-5 分钟，从环球金融中心南门进入

停车： 开车行进至“环球金融中心”，在大楼南侧地下停车场进入。建议绿色出行哦～

注： 更多活动信息与动态，欢迎搜索 “AI Infra”微信公众号 关注和浏览哦～