(本文全文轉(zhuǎn)自雷鋒網(wǎng)，原標(biāo)題：AI是重要賣點(diǎn) 京東技術(shù)團(tuán)隊(duì)講解雙十一攻堅(jiān)戰(zhàn))
在臨近今年雙十一還有兩個(gè)周的時(shí)間點(diǎn)，京東團(tuán)隊(duì)從技術(shù)角度，詳解了如何打好618、準(zhǔn)備雙十一的攻堅(jiān)戰(zhàn)。
技術(shù)加持大促
京東商城首席架構(gòu)師劉海峰表示，每年的“大促”，都是研發(fā)的一場(chǎng)重要的考試，確保系統(tǒng)安全性。他主要從四個(gè)方面來(lái)介紹了大促備戰(zhàn)，可以分4個(gè)項(xiàng)目來(lái)介紹ForceBot軍演壓測(cè)、Chaos Monkey 故障演練、廣域分部架構(gòu)、阿基米德，通過(guò)這些項(xiàng)目展示了對(duì)故障、流量、擴(kuò)展、成本的應(yīng)對(duì)。
第一，讓京東技術(shù)系統(tǒng)能夠確保0故障。
劉海峰表示，為了檢驗(yàn)技術(shù)系統(tǒng)的穩(wěn)定性，確保系統(tǒng)在硬件與服務(wù)出問題時(shí)不影響用戶體驗(yàn)，京東研發(fā)團(tuán)隊(duì)開發(fā)出一套名叫ChaosMonkey的系統(tǒng)，專門應(yīng)用于京東做大規(guī)模的故障演練�？梢哉f(shuō)，故障演練是京東過(guò)去幾年大促中的例行工作。
根據(jù)故障類型從網(wǎng)絡(luò)層面、系統(tǒng)層面、數(shù)據(jù)庫(kù)和中間件，甚至到應(yīng)用服務(wù)的層面，去做各種各樣的故障模擬和驗(yàn)證。來(lái)考察各級(jí)力度發(fā)生的時(shí)候，我們整個(gè)基礎(chǔ)團(tuán)隊(duì)的檢測(cè)、響應(yīng)、處理還有恢復(fù)的時(shí)間。我們要求小的故障不需要人介入，大故障人工介入可以快速完成。通過(guò)整個(gè)這樣的工作，在大促之前的兩個(gè)月期間密集的來(lái)開展，提高我們對(duì)大規(guī)模故障的容錯(cuò)能力。
第二，所謂流量，即是通過(guò)ForceBot軍演壓測(cè)，確保有較強(qiáng)的技術(shù)能力能夠扛住大促峰值來(lái)臨時(shí)的巨量流量沖擊。
每年雙11與618當(dāng)夜零點(diǎn)，瞬間流量是很大的，為了應(yīng)對(duì)此間流量高潮，京東技術(shù)團(tuán)隊(duì)需要提前做大量壓測(cè)工作。早期，所有壓測(cè)都局限某一個(gè)系統(tǒng)或者某一個(gè)鏈條里面。但是，劉海峰表示，這樣做會(huì)有缺陷，它不能很好地檢驗(yàn)全鏈條系統(tǒng)，這些對(duì)大促來(lái)講都是最關(guān)鍵的。
2016年10月左右，京東集團(tuán)團(tuán)隊(duì)開始設(shè)計(jì)一個(gè)新一套的軍演機(jī)器人，F(xiàn)orceBot，如模擬一千萬(wàn)個(gè)用戶在全國(guó)各地同時(shí)部署于京東節(jié)點(diǎn)，在真實(shí)流量的情況下，機(jī)器人通過(guò)程序發(fā)起大的流量進(jìn)行全鏈的壓測(cè)，發(fā)起上億的瀏覽、搜索、加購(gòu)物車、下單等等并發(fā)任務(wù)。通過(guò)寫程序模擬人的行為——發(fā)起上億的瀏覽、選商品、加購(gòu)物車、下單等，實(shí)現(xiàn)，整個(gè)全鏈路聯(lián)動(dòng)的壓測(cè)。
于是，從2016年雙11開始，單機(jī)房的軍演壓測(cè)成為大促之前最關(guān)鍵的工作。劉海峰表示，今年618備戰(zhàn)期間，團(tuán)隊(duì)進(jìn)行了四次全鏈路的軍演壓測(cè)，通過(guò)單機(jī)房的軍演壓測(cè)成為系統(tǒng)優(yōu)化以及資源評(píng)估、分配的重要依據(jù)。
第三，所謂擴(kuò)展，也是今年在做的廣域分部架構(gòu)，即在公司規(guī)模不斷擴(kuò)展、消費(fèi)者流量不斷增加的情況下，增加機(jī)器、新建機(jī)房，同時(shí)保證公司業(yè)務(wù)實(shí)現(xiàn)沒有上限地增長(zhǎng)下去。
京東的技術(shù)架構(gòu)經(jīng)歷了從JAVA到同城單機(jī)房到同城雙機(jī)房、最后到廣域分布式的過(guò)程。國(guó)內(nèi)的各個(gè)地域，包括華北、華南、華東均有不同的IDC，整體形成大數(shù)據(jù)中心，同時(shí)讓用戶流量就近接入，解決整體可擴(kuò)展性問題，無(wú)論哪個(gè)區(qū)域出現(xiàn)問題，都能實(shí)現(xiàn)靈活流量調(diào)度。劉海峰表示，這套過(guò)程名叫“異地多活”，不同公司、團(tuán)隊(duì)對(duì)它均有不同理解，京東的特殊性在于經(jīng)歷了完整的歷程。
第四，有效控制成本，在合理閾值內(nèi)搞大促。
隨著每年618與雙11業(yè)務(wù)增加、訪問流量增大、投入資源增加，購(gòu)入的機(jī)器越來(lái)越多，機(jī)器成本已然非常高，怎樣既做好大促、同時(shí)合理控制成本，京東技術(shù)團(tuán)隊(duì)提出名為“阿基米德”的技術(shù)方法，具體來(lái)講是——
第一，做海量資源池的統(tǒng)一調(diào)度，特別是在線業(yè)務(wù)是京東主要大促的備戰(zhàn)服務(wù)，此外還有離線處理。技術(shù)團(tuán)隊(duì)將兩個(gè)資源池打通，做搶占式調(diào)度，然后做大規(guī)模超賣，進(jìn)一步提升資源利用率。
第二，做混合云，京東技術(shù)團(tuán)隊(duì)在大促期間租用一部分機(jī)器，比如京東云，也有可能是其他云服務(wù)合作伙伴，扛住大促流量。
AI的融入
在京東商城中臺(tái)研發(fā)高級(jí)總監(jiān)王曉鐘印象中，AI技術(shù)融入到京東每年618與雙11，并不是發(fā)生在某個(gè)具體節(jié)點(diǎn)，而是一種自發(fā)性的、百花齊放狀的。包括客服機(jī)器人、智能補(bǔ)貨、銷量預(yù)測(cè)、供應(yīng)鏈體系的優(yōu)化這些都是通過(guò)人工智能的技術(shù)來(lái)實(shí)現(xiàn)的。
具體來(lái)講，AI技術(shù)對(duì)大促的技術(shù)保障有哪些方面呢，王曉忠從兩點(diǎn)向雷鋒網(wǎng)介紹：
第一個(gè)，京東技術(shù)團(tuán)隊(duì)研發(fā)經(jīng)驗(yàn)機(jī)器人，進(jìn)行全鏈路故障演練，某種程度上來(lái)說(shuō)也是程序模擬人的行為，去模擬一個(gè)大的流量場(chǎng)景。
第二，大促期間，京東技術(shù)團(tuán)隊(duì)利用AI技術(shù)去更智能地服務(wù)一些客服任務(wù)。
今年京東雙十一較以往最大的不同，可以說(shuō)就是AI技術(shù)的運(yùn)用了。王曉鐘對(duì)雷鋒網(wǎng)解釋稱，以線上流量監(jiān)控為例，做方案、降級(jí)、分流等任務(wù)，均是人工完成，今年已實(shí)現(xiàn)在監(jiān)控?cái)?shù)據(jù)詳實(shí)基礎(chǔ)上的半人工智能化，王曉鐘稱，預(yù)計(jì)明年618與雙十一可以實(shí)現(xiàn)在很大程度上的全人工智能化。
容器系統(tǒng)上，京東做了四年之久：2014年8月第一代名為JDOS的容器平臺(tái)，最初定位不僅僅做容器，還做整個(gè)數(shù)據(jù)中心的OS，系一套大的集群管理系統(tǒng)。從2014年至2016年初，京東容器一直都是OPenStack的1.0系統(tǒng);從2016年初開始，啟動(dòng)OPenStack 2.0系統(tǒng)，將線上幾十萬(wàn)核實(shí)現(xiàn)異地遷移，以實(shí)現(xiàn)更簡(jiǎn)單的運(yùn)維。
其次，劉海峰表示，團(tuán)隊(duì)在做更統(tǒng)一、更動(dòng)態(tài)的資源調(diào)度，不再是固定多少核，而是根據(jù)負(fù)載做大規(guī)模的統(tǒng)一調(diào)整。這個(gè)資源池不不僅限于在心業(yè)務(wù)的資源池，還有離線業(yè)務(wù)的資源池，讓它更有彈性。
具體而言，從經(jīng)濟(jì)效應(yīng)來(lái)說(shuō)，如果想讓集群管理更有經(jīng)濟(jì)價(jià)值，無(wú)非是兩方面的工作——超賣與強(qiáng)行調(diào)度。劉海峰表示，從2011年到現(xiàn)在，通過(guò)超賣技術(shù)節(jié)省了很多機(jī)器。今年大促京東也會(huì)廣泛地使用在線和離線的混合調(diào)度的方式，緩解大促時(shí)候的峰值的流量。
對(duì)于今年備戰(zhàn)雙十一，包括阿里、京東、蘇寧等電商平臺(tái)紛紛加碼人工智能、無(wú)人機(jī)、無(wú)人店等宣傳曝光，王曉鐘對(duì)雷鋒網(wǎng)(公眾號(hào)：雷鋒網(wǎng))表示，人工智能是在備戰(zhàn)中很重要的賣點(diǎn)，同時(shí)更是看得見、摸得著的很實(shí)在的東西。
