首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 智能終端列表 >> 正文

華為云AI容器更易使用和運維,AI計算效率提升50%

2019年10月17日 15:40  CCTIME飛象網(wǎng)  

  如今,企業(yè)的數(shù)字化轉(zhuǎn)型和智能升級必談AI,AI在人們?nèi)粘I钪械漠a(chǎn)品和應(yīng)用也隨處可見,如智能音箱、AI相機(jī)、人臉支付等。但是,爆炸式增長的數(shù)據(jù)量、復(fù)雜的訓(xùn)練框架和算法,讓很多企業(yè)現(xiàn)有的AI計算平臺變得捉襟見肘:計算效率無法滿足業(yè)務(wù)增加訴求,運營運維成本也居高不下。華為云AI容器為客戶提供更高性價比的算力,更簡化了平臺運維,提升AI計算效率50%,加速了AI計算在各行業(yè)的落地和發(fā)展。

  計算量6年增長30萬倍, AI平臺 擴(kuò)容成本高

  OpenAI分析報告顯示,從2012至2018年的6年時間,AI訓(xùn)練使用的算力增長了30萬倍,是同時期摩爾定律增長量的5倍。這意味著,要保持計算速度不變,不能單單依靠芯片能力的升級,還必須增加計算設(shè)備投入。而專業(yè)GPU服務(wù)器配以高速網(wǎng)絡(luò)、高速存儲等設(shè)備,單臺平均成本在100萬左右,價格高昂,大部分企業(yè)難以承擔(dān)。

image.png

  系統(tǒng)日趨復(fù)雜, AI平臺 運維難度激增

  首先,不同的業(yè)務(wù)需要不同的AI訓(xùn)練框架、模型、加速庫,如何在統(tǒng)一平臺上管理不同的訓(xùn)練框架和模型,如何將線下訓(xùn)練快速部署到生產(chǎn)環(huán)境帶來巨大挑戰(zhàn)。

  其次,AI訓(xùn)練和公司業(yè)務(wù)使用不同的資源管理工具,使得運維團(tuán)隊需要掌握和使用多種資源管理工具,保障GPU利用率,增加運維復(fù)雜度。

  再者,GPU在集群內(nèi)被不同業(yè)務(wù)團(tuán)隊共享,團(tuán)隊間的資源協(xié)調(diào)也會耗費不少精力。

image.png

  公有云 +容器化:A I計算 平臺建設(shè)的必選之路

  面對上述問題,各企業(yè)開始著手構(gòu)建基于公有云和容器的AI計算平臺,基于公有云的容器平臺,能給客戶帶來什么樣的好處呢?

  更快速的獲取算力資源

  面對AI計算需要的超大規(guī)模算力,自建IDC擴(kuò)容周期長、一次性投入大,后期維護(hù)成本高,采用公有云,可以即申請即用,快速補(bǔ)充企業(yè)IDC算力的不足,同時具備更低的使用成本、無需關(guān)注基礎(chǔ)設(shè)施維護(hù)、避免資源閑置造成浪費等優(yōu)勢,成為了客戶擴(kuò)充算力的最佳選擇。

  降低日常使用和運維難度

  用戶搭建深度學(xué)習(xí)訓(xùn)練環(huán)境,需要準(zhǔn)備帶GPU的機(jī)器、安裝Python、TensorFlow、GPU驅(qū)動等,如果要從開發(fā)環(huán)境到測試環(huán)境,再從測試環(huán)境到生成環(huán)境,涉及環(huán)境遷移過程中需要花很大精力來保證環(huán)境的一致性。

  容器帶來的標(biāo)準(zhǔn)化打包能力可以提供了絕佳的解決方案,將相關(guān)軟件一并打包到鏡像中,一次構(gòu)建,即可在不同平臺上運行,極大降低安裝、部署的復(fù)雜度;同時各容器間相互隔離,可實現(xiàn)多訓(xùn)練框架并存,而且每一個框架都可以獨立進(jìn)行升級而不會影響其他業(yè)務(wù),降低的日常運維的難度,讓客戶可以將更多的精力集中在AI訓(xùn)練上。

  但是,我們在與用戶交流過程中發(fā)現(xiàn),用戶雖然認(rèn)可公有云+容器的模式,但是在公有云上自建一套容器化的AI計算平臺,對部分用戶仍存在較大的技術(shù)門檻,尤其是那些尚未接觸過容器的用戶。華為云就此推出了面向AI計算場景的容器服務(wù)——AI容器,并于2018年在華為全聯(lián)接大會發(fā)布,今年我們對AI容器進(jìn)行了升級,在性能、易用性、可運維等方面都有了很大的提升。

  華為云A I容器: 更易使用和運維,提升A I計算效率 5 0%

  開箱即用免除基礎(chǔ)設(shè)施運維

  AI容器采用華為云容器實例(CCI)作為基礎(chǔ)設(shè)施層,得益于CCI的Serverless架構(gòu),用戶完全無需關(guān)心主機(jī)的創(chuàng)建、管理、運維,而只需要在使用時申請所需要的算力資源即可(算力類型、CPU核數(shù)、內(nèi)存量),省去了基礎(chǔ)設(shè)施的日常運維工作,用戶可以更加專注于AI計算本身。

  高效調(diào)度,快速獲取海量算力

  AI容器基于全新的Volcano平臺進(jìn)行任務(wù)調(diào)度管理,Volcano是華為云高性能批量計算平臺,具有更高的調(diào)度性能,最高可達(dá)1000容器/秒,將算力獲取的效率提升近10倍。

  同時,有了Volcano的加持,AI容器還可以基于拓?fù)浜唾Y源親和進(jìn)行任務(wù)調(diào)度,根據(jù)策略將關(guān)聯(lián)任務(wù)調(diào)度到同一物理節(jié)點或二層網(wǎng)絡(luò)內(nèi),極大的提升了AI訓(xùn)練過程中任務(wù)間通信及數(shù)據(jù)交互的效率。

  秒級計費 ,資源性價比更高

  AI訓(xùn)練時客戶需要快速、多次計算進(jìn)行迭代,會對資源進(jìn)行頻繁的申請、釋放,AI容器采用按秒計費和套餐包的計費方式,真正做到按使用付費(PAYU),避免客戶采用包周期等方式購買資源后,利用率不足而造成的浪費。

  開放生態(tài) 支持主流訓(xùn)練框架

  隨著AI平臺容器化的深入,大量訓(xùn)練框架都已發(fā)布其容器版本,AI容器目前已支持Tensorflow, Caffe, Mxnet, Pytorch, MindSpore等近十種主流訓(xùn)練框架,用戶可以將訓(xùn)練代碼平滑的遷移上云。

  多樣算力 用戶選擇更加靈活

  AI容器的能提供昇騰、鯤鵬、x86和GPU等類型的算力資源,用戶可以實現(xiàn)一套平臺運行不同類型的應(yīng)用,根據(jù)應(yīng)用特點靈活選擇算力資源,達(dá)到資源的最優(yōu)配置。

  華為云AI容器服務(wù)現(xiàn)已全面開放,歡迎體驗。

編 輯:T01
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張云明:大部分國家新劃分了中頻段6G頻譜資源
精彩專題
專題丨“汛”速出動 共筑信息保障堤壩
2023MWC上海世界移動通信大會
中國5G商用四周年
2023年中國國際信息通信展覽會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像