京东 苏志刚 - 《AI大数据时代电商攻防:AI对抗AI》

AI大数据时代京东和其它电子商务平台面对的新风险和新问题:如何用AI技术和系统化的安全方式来对抗内外部威胁,成为当今京东安全研究人员所面临的一个重要问题。 主要分析AI大数据时代安全与传统安全的不同,以及目前基于电子商务平台以AI的攻防对抗。
展开查看详情

1. AI大数据时代电商攻防:AI对抗AI 苏志刚, Ph.D. Head of JD Security Research Center JD.COM JD.com

2. AlphaGo: 战胜世界冠军 Source: David Silver JD.com

3. 深度学习的广泛应用 pcmag.com theverge.com JD.com

4. 攻击的规模和复杂性都在增加 JD.com

5. 账号安全: AI Empowered 业务验 APP 安 异常检 证和反 全 SDK 生物探针 测 黑产情报 馈 设备指纹 注册和 行为分析 订单风 登陆环 控 节的人 机识别 JD.com

6. 欺诈行为 • 机注 • 刷单 • 黄牛 • 代购和刷券 • 恶意订单 • 虚假评论 JD.com

7. 黄牛行为 攻:爬虫 QQ群传递消息 黑产软件登录 打码平台图像识别 守:反爬虫 NLP黑产活动监控 黑产软件逆向 高对抗性样本 地址聚类 JD.com

8.电商与黄牛的对抗 自然语言理解(NLP)/距离聚类 /密度聚类 提前预警/实时拦截 黑产监控/信息采集 效果反馈/样本标注 JD.com

9. 黄牛手机订单拦截 JD.com

10. 机注 • 成熟的工具:火牛和刀锋 • 黑灰产供应链 – SIM卡 – 解码平台 – 短信验证服务 – 身份证 • 检查特征 – 机器行为 – 虚假信息 JD.com

11. 账号销售 • 账号分类销售 • 销售平台 – 友商零售平台 – 社区 IM (QQ,微信) – 批发网站 JD.com

12. 刷单 • 利用虚假订单来提高第三方商家排名 • 刷单成本: 账号, 代购和物流. • 组织行为 – 代购仿照普通用户行为 – 多个账号下单,但公用有限的支付账号。类似的 收货地址 – 部分使用虚假快递追踪编号 JD.com

13. 恶意订单 • 第三方厂商之间的恶意竞争:破坏对手的促销活动 – 打击第三方对手的库存量 – DDOS 正常用户 – 浪费物流资源 • 特征 – 针对某个商家和产品 – 货到付款 JD.com

14. 机注是万恶之源 • 批量机注账号 • 检查机注 – 黑产情报:深挖黑产工具和策略 – 无监督学习 – 有监督学习 • 挑战: 低误判率 JD.com

15. 打击机注 Device Info User Behavior Geography Frequency 设备分析 无监督学习 行为分析 JD.com

16. 人机识别 • 京东有丰富的人机识别场景 机注 机器下单 爬虫 • 使用键盘和鼠标的行为作为人机识别特征 POP QUIZ: 人工人机识别 JD.com

17. 人机识别 JD.com

18.图片验证码对抗 AI的对抗与反制 黑产打码平台 模型提取: 使用尽可能少的查询去学习近似模型 使用对抗样本Adversarial example: 修改输入去击垮机器学习 熊猫 长臂猿 JD.com

19.京东智慧物流系统安全 无人仓 设备安全:AGV自主路径规划 安全挑战多源于恶意攻击(例如Mirai蠕虫攻击) 总结安全挑战类型可分为如下两类: 系统安全:单一设备错误造成系统紊 乱 无人机 人身安全:降落环境识别 人体识别 设备安全:自主避让 空中交通关系 自主规划路径 人工智能安全 数据安全:GPS劫持 数据传输劫持 针对于AI系统本身的攻击和 无人车 相关安全性问题 设备安全:车辆劫持 货物安全:被盗 伪造客户(骗过人脸识别) 数据安全:数据传输劫持 人身安全:道路识别 人体识别 无人超市 系统级别安全 资产安全:伪造货物 伪造用户(骗过人脸识别) 设备终端 云端 通讯协议 隐私安全:用户数据 订单数据 人脸数据 JD.com

20. AI安全问题的后果 l 无人车:被攻击者控制,变为工具, 造成货物丢失; l 在特定时刻实现对其他系统的大规 l 无人机:被攻击者控制,变为工具, l 无人车:无法正常识别路况,撞击 模毁坏性攻击; 造成货物丢失或者更大危害; 其他人或正常行驶的交通工具; l 消耗本系统所有资源,并导致其他 l 无人仓:AGV出现故意扰乱其他 l 无人机:自主规划路线违背规则, 系统瘫痪; AGV行走的状况,扰乱仓库秩序; 出现安全隐患; 被潜伏和利用作为肉鸡网络 l 无人超市:出现货物被盗窃或者支 l 无人仓:AGV协作出现问题,彼此 付费用被转嫁其他购物者情形;用 碰撞损毁;损失财产和延误货物运 户数据被盗取训练; 送; 高级 l 无人超市:无法正确识别购物人所 产生攻击者想要的结果 购物品,并形成关联,造成财务损 失; 中级 不能按照既定功能运行 初级 JD.com

21.AI 系统安全 京东信息安全部 AI系统级别 要在对抗样本下,进行learning系 统的测试 软件级别 分布式级别 从架构和方法两个层面来保证 要防御缓存溢出/接入控制等 learning系统的安全性 每个agent做局部最优决 等攻击方式对软件系统攻击 策,如何达到全局最优 JD.com

22. 总结 • 京东安全有广泛的AI应用场景 • AI应用高效运作的唯一途径 • 电商和黑产之间持续的高对抗性攻防 JD.com