视频文档

使用隐语SPU框架实现大模型安全推理-吴豪奇

下载 3

快召唤伙伴们来围观吧
微博 QQ QQ空间 贴吧
视频嵌入链接文档嵌入链接
<iframe src="https://www.slidestalk.com/slidestalk/547528?embed&video" frame border="0" width="640" height="360" scrolling="no" allowfullscreen="true">复制
微信扫一扫分享
已成功复制到剪贴板

示说网官方

发布于

1年前

594

人观看

#信息技术 kubernates 云计算

吴豪奇-蚂蚁集团隐语算法专家、隐语开源SPU Maintainer

蚂蚁集团隐语算法专家，专注AI算法安全，主要负责隐语密态引擎SPU研发，提交隐私计算相关发明专利十余项。复旦大学软件工程硕士，主要研究方向为安全。

分享介绍：

大模型研究如火如荼，在对话领域取得了显著进展，然而其实际落地，如提供推理服务和对话接口（如ChatGPT），存在潜在的数据泄露风险。针对此问题，蚂蚁集团隐语SPU团队基于安全多方计算（MPC）实现了SPU密态计算引擎，为保护数据、实现隐私保护的大模型安全推理提供了可行解决方案。本次演讲将分享基于SPU实现大模型安全推理的具体流程，以及后续的性能优化方法。