申请试用
HOT
登录
注册
 
 Ray Forward-下一代 AI 计算

Ray Forward-下一代 AI 计算

新一届 Ray Forward Meetup 即将在北京闪亮登场!今年的主题为「Ray Forword-下一代 AI 计算」,现场大咖云集,超多干货,让你收获满满!
时间
2023/07/02 13:30 - 17:00
人数
100
地点
北京北京环球金融中心9F
查看地图
1757人浏览
会议详情


新一届 Ray Forward Meetup 即将闪亮登场!本次会议继续由 Ray 中文社区和蚂蚁集团主办,将于 2023 年 7 月 02 日在北京环球金融中心与你相约。


今年的主题为「Ray Forword-下一代 AI 计算」,我们特别邀请蚂蚁集团、Anyscale、潞晨、BentoML、VMware、字节跳动等多位专家进行最新分享,超多干货输出,让参与的你收获满满~



现在,活动已经开放报名啦!欢迎小伙伴们来到现场,加入我们,让我们齐聚一堂,听分享、谈见解、进行技术的交流和探索吧!


活动主题


Ray Forword-下一代 AI 计算


活动时间


2023 年 7 月 02 日(周日)


活动地点


北京环球金融中心 9F 大厅


活动议程


compress_议程图压缩版.png


阮若夷:

《Ray 在蚂蚁集团 AI 方面的应用》


张喆:

《Ray:大模型时代的 AI Infra》


进入 2023 年以来,一个很明显的趋势是几乎所有公司都在现有的 AI 应用(比如搜索,推荐,广告)之上,加入大模型的元素。比如基于大模型的智能客服,以及代码补全。在这次分享中,我们会讨论 Ray 是怎样作为 AI Infra 层来支持这样的新一代 AI 应用。

你将收获:

Ray 最新动态和进展,开源社区现状;

Ray 在大模型场景的核心能力。


尤洋:

《大模型的落地与挑战》


大模型具有的强大能力可以有效提升多行业生产力,但目前企业级大模型的训练与应用仍有较大挑战。在本次分享中,我们将讨论潞晨对大模型落地做出的努力,包括采用的分布式训练技术、并行计算技术、内存优化技术等。

你将收获:

大模型基础知识和大模型目前的前景与挑战

大模型训练、微调和部署时使用的先进技术

企业级大模型落地的成功案例


赵申阳:

《BentoRay:BentoML + RayServe》


Ray 和 BentoML 是机器学习生态系统中两个受开发者喜爱的开发框架,因其独特的优势而备受青睐。在本次演讲中,我们将介绍 BentoRay,使开发者在不修改代码的情况下在 RayServe 架构上轻松运行单容器的 BentoML 工作负载(Bentos),并利用 Ray 集群中的资源管理和弹性扩展的优势。

你将收获:

如何利用 BentoML 构建 AI 应用程序

如何利用 BentoRay 将单容器部署转移到 Ray 集群的分布式微服务部署


陈铁军:

在 Ray 上无缝使能异构 AI 加速器到主流 ML 框架提升机器学习


面对机器学习从云端到边缘端的快速发展,Ray 利用独有的优势正演变为对AI负载的管理和编排的领先平台。但面对层出不穷的多样化异构的加速设备,Ray 所依赖的主流机器学习框架却局限于支持 GPU,并缺乏对 ML 性能的挖掘提升。另一方面,能支持且增强各种加速器的编译器技术蓬勃发展 – Apache TVM, Intel OpenVINO, Nvidia TensorRT, Xilinx vitisAI 等,但通常独立于框架之外或需要额外的使能。在这里,我们将探讨如何利用我们引入的透明后端的 Interposer 机制来使能编译器技术到主流 ML 框架,从而能让 Ray 用户无需修改任何代码却能以最佳性能无缝支持异构多样化的 AI 加速器,实现 Power AI is Everywhere。

你将收获:

Ray 和其学习框架的结合和价值

编译器技术的简介

从 Python 到 C++ 如何无缝拦截学习框架和后端衔接编译器

对 Ray 的 ML 能力提升


王万兴:

《Ray 在字节跳动的实践》


Ray 是近年来兴起的新一代计算引擎,相较于传统计算引擎具有更好的可编程性、异构资源调度支持等能力,在分布式计算尤其是机器学习领域的应用越来越广泛。Ray 在字节跳动有比较广泛的应用,比如图计算、机器学习、数据处理等。本议题主要介绍 Ray 在字节跳动的实践,包括应用场景、云原生部署方案、遇到的问题和解决方案等。

你将收获:

了解 Ray 在字节跳动的应用场景

了解使用 Ray 所遇到的问题和最佳实践


胡东文:

《Ray 在隐语联邦学习中的实践》


隐语是蚂蚁开源的通用隐私计算框架。通过 Ray/RayFed 的通用编程原语,隐语提供了一种统一架构,能够同时支持 MPC、TEE 和联邦学习的方案。应用开发者可以从中心化的视角出发,自由组合多种隐私计算方案,在编程体验接近单机程序的基础上,灵活地支持各种联邦学习范式。

了解联邦学习的概念

了解隐语的可编程设备抽象

了解如何中心化视角编写联邦学习程序


Ray 中文社区


Ray 中文社区是由蚂蚁集团和 Anyscale 共同运营的针对中国技术爱好者的宣传沟通渠道。

GitHub:https://github.com/ray-project/ray

Ray中文问答:https://ray.osanswer.net



活动
文档
专题
博客
确认
3秒后跳转登录页面
去登陆