申请试用
HOT
登录
注册
 

Triton Meetup 2023

时间
2023/02/25 14:00 - 18:00
人数
180
地点
北京BCos 共享办公
查看地图
619人浏览
会议详情

活动信息

“Triton Meetup 2023“活动将于 2023 年 2 月 25 日下午,在北京 BCos 共享办公(北京 WFC 环球金融中心办公店)举行。本次活动是 Triton 社区首次正式举办的线下技术交流活动,对模型推理领域具有里程碑意义。活动将专注于 AI Infra、推理引擎 相关主题,打造 Triton 社区开放共享的技术生态,共同推进 Triton 在国内的推广和应用落地。

本次活动,现场邀请到了来自 NVIDIA、蚂蚁集团、美团、京东、蔚来等各大公司的一众技术嘉宾,为大家带来 AI Infra、推理引擎相关的主题分享。参与者们将了解到 Triton 社区的最新技术和发展方向,以及社区相关成员当前的工业级推理引擎技术。来到现场的小伙伴们还能一起加入到 “AI 推理服务的当下与未来” 的圆桌主题讨论哦!

活动时间: 2023 年 2 月 25 日(周六)14:00--18:00

活动地点: BCos 共享办公-多功能厅(北京 WFC 环球金融中心办公店)

签到时间: 13:30-14:00

签到流程: 所有嘉宾抵达宴会厅后,在签到处签到入场。

论坛议程: 详见图片

10801920不带二维码.jpg

听众收益:

1、了解到 Triton 是什么

2、Triton 在不同场景(搜索、推荐、广告、CV、NLP)的应用、优化方案和收益

3、了解 Triton 规模化应用,以及平台化要做的工作

4、近期 Triton feature 的更新

5、Triton 的 roadmap 和发展改进的方向

嘉宾阵容

议题一:NVIDIA Triton Inference Server 的现在和未来

申意

NVIDIA 解决方案架构师

image.png

负责为消费互联网行业提供 GPU 计算解决方案。包括编解码,数据前后处理,模型推理及服务化等。

议题简介:

  • Triton 简介;

  • Triton 重要 Feature 简介和 Roadmap 更新;

  • Triton 的成功案例。

议题二:Triton 在蚂蚁全场景落地的优化

龚明亮

蚂蚁集团高级技术专家

image.png

长期从事 AI Infrastructure 和 GPU 虚拟化相关的研发工作。

议题简介:

  • Triton 在搜索、推荐、广告业务场景的解决方案;

  • Triton 在认知业务的解决方案;

  • 结合业务场景,蚂蚁进一步的优化方案。

议题三:Triton 在美团数据中心的应用

王新

美团机器学习平台预测引擎团队技术负责人

image.png

美团机器学习平台预测引擎团队技术负责人,长期专注于机器学习预测引擎相关的开发工作。

议题简介:

  • 机器学习模型在美团落地的痛点;

  • Triton 落地的具体方案;

  • 使用 Triton 的业务收益与效果。

议题四:Triton 在京东九数高性能推理引擎的应用与实践

杨培军

京东零售算法中台技术架构师

image.png

长期从事机器学习平台/深度学习推理加速和框架的研发,曾负责阿里妈妈搜索广告预估平台、Bigo 机器学习平台的建设。

议题简介:

  • 京东零售的多元化算法需求给模型推理带来的挑战;

  • 介绍京东算法中台在面向 CV/NLP 场景基于 Triton 二次开发的高性能推理框架;

  • 阐述推理框架的架构演进和性能优化工作。

圆桌讨论:AI 推理服务的当下与未来

特邀嘉宾:郭城

蔚来自动驾驶研发平台 (NADP)资深工程师

image.png

负责搭建 NADP 云上推理系统,模型 CICD。

交通指南

图片

地址: 北京市朝阳区东三环中路 1 号环球金融中心西塔 B1 层 BCos 共享办公-多功能厅

地铁: 地铁 10 号线-金台夕照站,从 A 口出步行 3-5 分钟,从环球金融中心南门进入

停车: 开车行进至“环球金融中心”,在大楼南侧地下停车场进入。建议绿色出行哦~

注: 更多活动信息与动态,欢迎搜索 “AI Infra”微信公众号 关注和浏览哦~

活动
文档
专题
博客
确认
3秒后跳转登录页面
去登陆