1.क़‫ܕ‬വគᓒဩӾጱ૱࣋๢‫ګ‬ Ө᧣ഴಋྦྷ Ḙ੨ ൤ᔱവគଠ‫ޞ‬Ꮈ‫ݎ‬᮱ yao.ma02@ele.me 

2. Ḁԧԍक़‫ܕ‬വគӱ‫୵ۓ‬ா Ḁԧԍ൤ᔱവគଘ‫ݣ‬ጱፓຽӨਧ֖ ፓ୯ क़‫ܕ‬വគጱᇙྛ೴౴ क़‫ܕ‬വគᓒဩӾጱ૱࣋๢‫ګ‬ क़‫ܕ‬വគᓒဩӾጱ᧣ഴಋྦྷ !2 

3. Ḁԧԍक़‫ܕ‬൤ᔱവគӱ‫୵ۓ‬ா ໐ஞၞᰁ‫ݗف‬ ൤ᔱ‫̵ݗف‬ᰂ‫ݗفڟ‬ Ḓᶭവគ̵០ᲀտ࣋ ‫ݎ‬ሿᶭ̵ᦈ‫ܔ‬ᶭ ग़ଘ‫ݣ‬ Ḁԧԍ̵ඪ՞ਪ̵ಋႣ ੜᑕଧ+ŏ ग़ߝᔄग़࣋ว ᗦ̵̵ᷣࠟ᩻Ẍᜰ̵ኞẌ̵‫܅‬យ ෱̵ᷧྋ̵ᷧӥ‫܌‬᝷̵ज़ਸ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !3 

4. क़‫ܕ‬ଘ‫ݣ‬ጱच๜ӱ‫ۓ‬ၞᑕ ᅩ‫ڋ‬ ᭌೠ̵‫ے‬ᨻᇔ᫣ ‫ܨ‬෸ᯈᭆ አᷧ ၨᥦ ᬰମ ӥ‫ܔ‬ තᨵ ᦧհ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !4 

5. Ḁԧԍक़‫ܕ‬വគӱ‫୵ۓ‬ா Ḁԧԍ൤ᔱവគଘ‫ݣ‬ጱፓຽӨਧ֖ ፓ୯ क़‫ܕ‬വគጱᇙྛ೴౴ क़‫ܕ‬വគᓒဩӾጱ૱࣋๢‫ګ‬ क़‫ܕ‬വគᓒဩӾጱ᧣ഴಋྦྷ !5 

6. क़‫ܕ‬൤ᔱവគଘ‫ݣ‬ጱፓຽӨਧ֖ ൤ᔱവគ֛ḵ አಁӨᦈ‫᥶ܔ‬ᬡ አಁၞᰁ ࠟਹ‫׀‬ᕳ ൉‫׀‬٬ᒽհ꧊ ൉‫܋‬฿‫ط‬පሲ ఺ࢶቘᥴ ᔜ‫܃ٵ‬ᯈ ൤ᔱവគଘ‫ݣ‬ Ⴎᘗአಁ֛ḵ ၞᰁ‫ړ‬ᯈӾຑ ᦩ‫ํڦ‬ප‫׀‬ᕳ  ଃ๶ๅग़አಁࢧᦢ ಡ೮սᨶ‫׀‬ᕳ Ө॔ᨻ ḝۖࠟਹ౮ᳩ ࣋ว‫ݎ‬ሿ ฬᚆഭଧ ᑏۖᒒԻฃ80%զӤ AI Pioneer ၞᰁ‫ݒ‬ሿ̵Իฃհ꧊̵ኞாଘᤍ 2018 AI‫ض‬ᤈᘏय़տ !6 

7. Ḁԧԍक़‫ܕ‬വគӱ‫୵ۓ‬ா Ḁԧԍ൤ᔱവគଘ‫ݣ‬ጱፓຽӨਧ֖ ፓ୯ क़‫ܕ‬വគጱᇙྛ೴౴ क़‫ܕ‬വគᓒဩӾጱ૱࣋๢‫ګ‬ क़‫ܕ‬വគᓒဩӾጱ᧣ഴಋྦྷ !7 

8. क़‫ܕ‬വគጱᇙྛ೴౴ • ᓒဩս۸᱾᪠ᳩ • ၨᥦ->ᅩ‫ڋ‬->ӥ‫ܔ‬->‫ܨ‬෸ᯈᭆ->ᦧհ • ෸ᳵභఽ • ٬ᒽපሲ——ள᭛ଆۗአಁ٬ᒽ VS • ᒵஇ෸ᳵ——ᒒ‫ک‬ᒒ෸ᳵੱ‫ݢ‬ᚆᎨ • શ꧊පଫกด • ṛQPSҔአಁᤈԅ‫ݒ‬۸ளҔ  • ‫ܨ‬෸ᩒრᕅ๳ • ܱᷧᩒრ̵Ո‫ێ‬Ҕᯈᭆᬩ‫ێ‬Ҕ  •‫܄‬ऒ۸ • ӧ‫܄ݶ‬ऒၞᰁ̵‫׀‬ᕳ̵૱࣋ᇫா᮷ӧ‫ݶ‬ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !8 

9. क़‫ܕ‬വគᓒဩᓌ۸‫੶ړ‬ཛྷࣳ ᧣ഴಋྦྷ አಁ֛ḵᒽኼ̵ӱ‫ۓ‬ಡ೮ᒽኼ ᳩ๗ፓຽ Ծߝ/ӱ‫ۓ‬ᒽኼ ෛମ౮ᳩᒽኼ̵‫܄‬ऒ۸ᒽኼᒵ ኞாଘᤍ ๢࢏਍ԟഭଧ ฬᚆ۸Rank ๋य़۸᫨۸ሲ̵GMVᒵ೰ຽ ໑ഝ࣋ว̵఺ࢶ̵አಁኮ‫̵؟‬LBS ૱࣋๢‫ګ‬ පሲ๋य़۸ ᔜ‫ࢧݟٵ‬ ᓀᭌ‫ײ‬ᭌവគᵞ‫ݳ‬ ࣋ว‫ݎ‬ሿ̵఺ࢶᦩ‫̵ڦ‬ຽᓋ೵യᒵ ᦩ‫ڦ‬/೵യ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !9 

10. Ḁԧԍक़‫ܕ‬വគӱ‫୵ۓ‬ா Ḁԧԍ൤ᔱവគଘ‫ݣ‬ጱፓຽӨਧ֖ ፓ୯ क़‫ܕ‬വគጱᇙྛ೴౴ क़‫ܕ‬വគᓒဩӾጱ૱࣋๢‫ګ‬ क़‫ܕ‬വគᓒဩӾጱ᧣ഴಋྦྷ !10 

11. क़‫ܕ‬വគᓒဩӾጱ૱࣋๢‫ګ‬ ૱࣋๢‫ګ‬Өᓒဩፓຽғ • चԭሿํၞᰁ݊‫׀‬ᕳ҅᭗ᬦႮ‫ف‬೵യ̵ᔜ‫܃ٵ‬ᯈ݊ฬᚆ۸ഭଧ๢‫ګ‬ • ਫሿአಁ֛ḵӨଘ‫ݣ‬පሲ๋य़۸ ፓຽ᪠ஆғ᫨۸ሲń!ᦢᨻሲń!ྷ*09ń!‫*ٳ‬09ń!‫*ٳ‬098(    $FWLRQғ Ŏ ᯿ୌሿํ൤ᔱ̵വគದ๞֛ᔮ  Ŏ വគᓒဩ՗Ոૡᥢ‫کڞ‬Ոૡฬᚆᓒဩ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !11 

12. വគᓒဩፓຽೆᥴ ၞᰁ ‫׀‬ᕳ ᫨۸ આᕅ ൤ᔱവគฎ᫨۸ጱ໐ஞሾᜓғ ၨᥦ—>ᅩ‫>—ڋ‬ӥ‫>—ܔ‬ᯈᭆ *09 '$8 &75 &95 ਮ‫ܔ‬հ ฬᚆ۸ ᔜ‫ٵ‬ս۸ 8( '$8 &75 &95 ‫࣐ܔ‬8( ൤ᔱവគଘ‫ݣ‬ ჿ఺ଶ ٬ᒽපሲRU੪֛ᷧḵRUᒵஇ෸ᳵ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !12 

13. വគᔮᕹහഝ&ᓒဩຝ຅ Ḓᶭവគ ᰂ‫ݗفڟ‬ ൤ᔱ‫ڜ‬ᤒ ൤ᔱ‫ݗف‬ ០ᲀտ࣋ Ծߝ/ӱ‫੶ۓ‬ ັᧃቘᥴ Ծߝ/ӱ‫᧣ۓ‬ഴᒽኼ ࣋ว‫ڣ‬ෙ Rankᇙ஄‫ے‬᫹&ཛྷࣳഭଧ ਫ෸හഝ ᅩ‫ڋ‬ሲᶼ֌̵᫨۸ሲᶼ֌̵ਮ‫ܔ‬հᶼ֌̵ჿ఺ଶᶼ֌ ኮ‫؟‬๐‫ۓ‬ ᓒဩ/ཛྷࣳ੶ GBDT+FTRL FM Wide & Deep Deep FM ᇙ஄๐‫ۓ‬ හഝ/ᇙ஄੶ ࠟಁᇙ஄ አಁᇙ஄ Ӥӥ෈ᇙ஄ Ի݉ᕟ‫ݳ‬ᇙ஄ चᏐᦡෞ੶ Spark Hadoop TensorFlow EKV Storm Flume Kafka AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !13 

14. Rankཛྷࣳ‫܋‬ᕆ᪠ᕚ ॔๥ଶ ෸ප௔ • ᥢ‫>—ڞ‬ᕚ௔—>ᶋᕚ௔—>ᣟ‫ݳ‬ཛྷࣳ/Ⴎଶཛྷࣳ • ॠᕆ—>෸ྦྷᕆ—>ੜ෸ᕆ—>ၞୗๅෛ ս۸ፓຽ • ᫨۸ሲ(1)—> ᫨۸ሲ+GMV(2) —>GMV+አಁෆ֛֛ḵ(3) Ոૡᥢ‫ڞ‬Өᒽኼ ᕚ௔ཛྷࣳLR ᶋᕚ௔ཛྷࣳ݊ Ⴎଶ਍ԟ ཛྷࣳᣟ‫ݳ‬ Өࣁᕚ਍ԟ 01 02 03 GBDT/GBDT+LR 04 ࠟಁ੝ य़ᰁՈૡᇙ஄ૡᑕ Xgboost+FTRL አಁᤈԅ‫ܔ‬Ӟ ཛྷࣳᓌ‫ܔ‬ ᒵ‫࣋ړ‬ว̵‫فړ‬ Wide&Deep ‫ړ̵ݗ‬෸ྦྷᒵ DeepFM ᬽդౌ ᕮຎ‫ݢ‬ഴ௔୩ ग़ྍཛྷࣳ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !14 

15. Ⴎଶ਍ԟ——Wide&DeepཛྷࣳࣁഭଧӤጱଫአ ᬌ‫੶ڊ‬ sigmoid concat ‫ق‬ᬳള੶ GBDT‫ᜓৼݨ‬ᅩ ࠟಁ,አಁ,Ӥӥ෈ᑑ዇ᇙ஄ FC Deep ᮱‫ړ‬ғ4ᵌ੶ Wide ᮱‫ړ‬ FC concat ᬌ‫੶ف‬ አಁᑜੂᇙ஄ ࠟಁᑜੂᇙ஄ ᕚӥᦒᕞ embedding embedding ᕚӥᦒᕞ አಁᑑ዇ᇙ஄ ࠟಁᑑ዇ᇙ஄ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !15 

16. Ⴎଶ਍ԟ——DeepFMཛྷࣳࣁഭଧӤጱଫአ ᬌ‫੶ڊ‬ sigmoid concat 64 FC 128 FM੶ ‫ق‬ᬳള੶ 256 FC concat Embedding ᬌ‫੶ف‬ ᑜੂᇙ஄‫ړ‬໲ ᑑ዇ᇙ஄ GBDT click leaf GBDT order leaf !16 AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ 

17. ࣁᕚ਍ԟࣁक़‫ܕ‬വគጱଫአ FTRL算法伪代码实现： Why • 用户行为变化快，决策周期短 • 商家经营、运力、天气等因素随时变化 业界常用算法：FTRL： • 可以产生稀疏解 • 收敛速度很好 • 支持并行化处理，可以训练大规模模型 • 工程实现简单 参数迭代： AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !17 

18. ࣁᕚ਍ԟӨਫ෸୚ක ਫ෸໏๜ኞ౮ ࣁᕚཛྷࣳᦒᕞ ཛྷ໊ࣳḵ ਫ෸໏๜ၞ ࣁᕚᦒᕞཛྷࣳ ਫ෸පຎ୚ක FRTL ཛྷࣳਂ‫ؙ‬ ‫ے‬᫹ܲ‫ݥ‬ཛྷࣳ ཛྷࣳ݇හ ਧ෸ๅෛ ᕚӤഭଧ አಁᤈԅ෭ ӱ‫ۓ‬෭ப ப ཛྷࣳ‫ے‬᫹ ᇇ๜ᓕቘ ഭଧ୚ක ᇙ஄॒ቘ ෭பතᵞ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !18 

19. ࣁᕚ਍ԟࣁRankጱଫአ ࣁᕚഭଧ๐‫ۓ‬ FTRL … … ਫ෸ Ոૡᇙ஄ ᦇᓒ ਫ෸໏๜ၞ ୚ක ᅩ‫ڋ‬ཛྷࣳGBDT ӥ‫ܔ‬ཛྷࣳGBDT ฿‫̵ط‬ᅩ‫̵ڋ‬ӥ‫ܔ‬෭ப‫ى‬ᘶ݊᯻໏ ᐶᕚᦒᕞ GBDTᐶᕚᦒᕞ GBDT AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !19 

20. വគದ๞‫܋‬ᕆ᪠ᕚ ฬᚆ۸൤ᔱവគ——՗Ոૡᥢ‫کڞ‬๢࢏਍ԟ Ոૡᥢ‫ڞ‬ Ոૡฬᚆ හഝ‫܋‬ᕆ ᇙ஄‫܋‬ᕆ ཛྷࣳ‫܋‬ᕆ ӱ‫ۓ‬ቘᥴ‫܋‬ᕆ ਠෆጱ൤ᔱവគහഝ֛ᔮ ‫ق‬ӱ‫ۓ‬᱾᪠ᥟፍ ՗ᥢ‫کڞ‬Ⴎଶ਍ԟ ᔲᵋଘ‫ݣ‬ӱ‫ۓ‬ፓຽ‫ݒ‬۸ ਫ෸හഝ᭗᪠ ਫ෸۸ ग़ཛྷࣳᣟ‫ݳ‬/ࣁᕚ਍ԟ ّᶶଘ‫ݣ‬ၞᰁኞா AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !20 

21. Ḁԧԍक़‫ܕ‬വគӱ‫୵ۓ‬ா Ḁԧԍ൤ᔱവគଘ‫ݣ‬ጱፓຽӨਧ֖ ፓ୯ क़‫ܕ‬വគጱᇙྛ೴౴ क़‫ܕ‬വគᓒဩӾጱ૱࣋๢‫ګ‬ क़‫ܕ‬വគᓒဩӾጱ᧣ഴಋྦྷ !21 

22. क़‫ܕ‬വគᓒဩӾጱ᧣ഴಋྦྷ ᧣ഴಋྦྷӨଘ‫ݣ‬ኞாғ • පሲ๋य़۸ԏ‫ݸ‬ጱၞᰁٚ‫ړ‬ᯈ • Ꭸ๗ፓຽӨᳩ๗ፓຽّᶶ አಁࠟਹ/ࠟߝ ؇অ ᛔᆐၞᰁපሲ ଘ‫ݣ‬Ꭸ๗තፅ VS Vs VS ௛֛ჿ఺ଶ ࠟਹ౮ᳩ̵ᕚ ᳩ๗ኞாଘᤍ + ӥᩙᚆ ‫ي‬᪁റᔱ౮๜ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !22 

23. क़‫ܕ‬വគᓒဩӾጱ᧣ഴಋྦྷ ᧣ഴಋྦྷғ පሲ๋य़۸ԏ‫ݸ‬ጱၞᰁٚ‫ړ‬ᯈّ҅ᶶᳩ๗ፓຽӨၞᰁኞா ᫨۸ሲཛྷࣳҁGMV/CVR҂ ᕚӥӱ‫ۓ‬ಡ೮ ჿ఺ଶཛྷࣳҁST҂ ෛମङِᦇ‫ښ‬ ग़ཛྷࣳᣟ‫ݳ‬ አಁ‫ي‬᪁ᬟኴറᔱӨ೐઀ ҅ ᴠྊᬦଶӻ௔۸ Explore&Exploit ‫ړ‬उ૱̵‫܄ړ‬ऒᯈᗝս۸ፓຽ GMV/CVR/UEᒵ ᩙᚆᕚӥғ೉ෛ̵Ꮘᇿᒵ ᳩᎨ๗ፓຽଘᤍ ‫܄‬ऒ۸ᯈᗝ Ꭸ๗GMVፓຽ+॔ᨻሲboost ଠ‫ޞ‬ත‫ ف‬vs ଘ‫ݣ‬᫨۸ ս۸ፓຽ ၞᰁḝۖक़‫ࠟܕ‬ਹ൉‫҅܋‬ ද࠺ᕪ០࿜ଘ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !23 

24. क़‫ܕ‬വគ᧣ഴಋྦྷ——ᳩᎨ๗ፓຽଘᤍ አಁၞ०ܻࢩ: ଘᤍᒽኼғ • ੒ࠟߝჿ఺҅֕੒๐‫ۓ‬౲ᯈᭆ • ཛྷࣳᣟ‫ݳ‬ғ᫨۸ཛྷࣳ(୮ӥ᫨۸ሲ/GMV)+ჿ఺ଶཛྷࣳҁአಁෆ֛֛ḵ҂ ӧჿ఺ • ॔ᨻሲboostғၞᰁ᯿ෛ‫ړ‬ᯈ҅ੱᰁ‫ݻ‬ṛ॔ᨻሲࠟಁ‫؁‬ෑ҅‫׏‬ᬰࢧᦢ޾ • ࠟਹӧड़ӿ੄orവគᬦᑳ ॔ᨻ ၞ०አಁᄶၚ • սణ‫ێ‬ଶӧ᪃ ‫ݎ‬ኞᨻԣ • ෛẌఽғ‫ړ‬ᯈӞਧྲֺၞᰁ E&E ෛአಁ ᘌአಁ ၞ०አಁ ኸਂአಁ ӧٚᦢᳯ޾ᨻԣ ೮ᖅᦢᳯ޾ᨻԣ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !24 

25. क़‫ܕ‬വគ᧣ഴಋྦྷ——‫܄‬ऒ۸ਧ‫ګ‬ፓຽӨၞᰁ‫ړ‬ᯈ ‫ݱ‬उ૱̵‫܄‬ऒ‫઀ݎ‬ᴤྦྷӧ‫҅ݶ‬ၞᰁ‫׀‬ᕳ̵૱࣋ᒋԩ໒ੴӧӞ҅ᵱᥝӧ‫ݶ‬ጱፓຽ ᓒဩፓຽ‫ݢ‬ᯈᗝғ • GMV/CVR/UEᒵ ၞᰁಡ೮ • ಡ೮ྲֺٍ֛݊ᒽኼ‫ݢ‬ᯈᗝ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !25 

26. क़‫ܕ‬വគ᧣ഴಋྦྷ——E&E ࣋วғ • ෛମ౮ᳩಡ೮ • ‫܄‬ऒ۸ӱ‫ۓ‬ၞᰁಡ೮ • አಁෛẌఽᒽኼ ᒽኼғ • ‫ړ‬ᯈӞਧྲֺၞᰁ̵֖ᗝ • ᲁਧ֖--> ᫪ඎᒽኼ -->Explore & Exploit ଉአMABᓒဩғ • Thompson sampling • Epsilon-Greedy • UCB̵LinUCB AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !26 

27. क़‫ܕ‬വគӥጱE&E݊ᒽኼ௏ᘍ ၞᰁಡ೮޾ၞᰁපሲԏᳵጱଘᤍ 1. Explore ၞᰁ • ‫ۖސٯ‬ၞᰁಡ೮҅ၞᰁᨶᰁറᔱ • ᒽኼғ Thompson Sampling҅ᓌ၄ํප҅Ӭ ᚆ໑ഝӧ‫ݶ‬ӱ‫࣋ۓ‬วֵአᭇ‫ݳ‬ጱbeta‫݇૲ړ‬හ Epsilon-Greedy 2. Exploit • ๅṛጱ᫨۸ሲ҅൉‫܋‬ၞᰁපሲ݊൉‫׀‬ๅঅጱአ exploit explore ಁ֛ḵ • ᒽኼғ᭗ᬦཛྷࣳᶼ֌ᕮ‫ݳ‬አಁ̵ࠟਹ̵࣋ว̵ ӱ‫ۓ‬ᕪḵ+ Ӥӥ෈ӥጱ๋य़තፅ ཛྷࣳᶼ֌๋य़තፅ Thompson Sampling+ ਧ๗Ⴔᑮ݇හ 3. ‫࣋ݱ‬วറᔱྲֺᛔኧഴ‫ګ‬ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !27 

28. ӞԶఽఉ • ୌᒈ؋଼‫ݳ‬ቘ̵ᒧ‫ݪلݳ‬౴ኼፓຽጱӱ‫ۓ‬೰ຽ • ୩۸ӱ‫ۓ‬ቘᥴ҅ದ๞ḝۖӱ‫ۓ‬ • ଘᤍঅଘ‫ݣ‬ᳩ๗ኞா޾Ꭸ๗ፓຽ • ᯿ᥤದ๞҅֕ӧࠔದ๞ AI Pioneer 2018 AI‫ض‬ᤈᘏय़տ !28 

29.THANKS !29