申请试用
HOT
登录
注册
 
使用隐语SPU框架实现大模型安全推理-吴豪奇
使用隐语SPU框架实现大模型安全推理-吴豪奇

使用隐语SPU框架实现大模型安全推理-吴豪奇

示说网官方
/
发布于
/
124
人观看

吴豪奇-蚂蚁集团隐语算法专家、隐语开源SPU Maintainer

蚂蚁集团隐语算法专家,专注AI算法安全,主要负责隐语密态引擎SPU研发,提交隐私计算相关发明专利十余项。复旦大学软件工程硕士,主要研究方向为安全。


分享介绍:

   大模型研究如火如荼,在对话领域取得了显著进展,然而其实际落地,如提供推理服务和对话接口(如ChatGPT),存在潜在的数据泄露风险。针对此问题,蚂蚁集团隐语SPU团队基于安全多方计算(MPC)实现了SPU密态计算引擎,为保护数据、实现隐私保护的大模型安全推理提供了可行解决方案。本次演讲将分享基于SPU实现大模型安全推理的具体流程,以及后续的性能优化方法。

3点赞
0收藏
1下载
确认
3秒后跳转登录页面
去登陆