飛象網(wǎng)訊 9月21日,在華為全聯(lián)接大會(huì)2023上,華為常務(wù)董事、華為云CEO張平安宣布昇騰AI云服務(wù)已正式上線,企業(yè)一鍵接入即可獲取澎湃的AI算力,讓千行萬(wàn)業(yè)實(shí)現(xiàn)大模型普惠。同時(shí)昇騰AI云服務(wù)“百模千態(tài)”專區(qū)亦已正式上線,支撐企業(yè)和開(kāi)發(fā)者更加快速地創(chuàng)建自己的大模型應(yīng)用,在大模型時(shí)代快人一步。 張平安指出,全智能時(shí)代,AI算力的需求急劇增長(zhǎng)。但AI服務(wù)器的功率密度遠(yuǎn)超通用服務(wù)器,單機(jī)柜功耗是過(guò)去的6-8倍,且需要專用的液冷系統(tǒng)散熱;同時(shí)大模型訓(xùn)練需要百卡、千卡甚至萬(wàn)卡支撐,服務(wù)器之間的互聯(lián)、時(shí)延、可靠性、運(yùn)維極為復(fù)雜,自建AI數(shù)據(jù)中心面臨諸多挑戰(zhàn)。
為了更好地支撐“百模千態(tài)”,華為云在貴安、烏蘭察布、蕪湖部署三大AI算力中心,為企業(yè)提供澎湃AI算力。企業(yè)只需一鍵接入,即可隨取隨用AI云服務(wù),不用再費(fèi)時(shí)費(fèi)力自建或改造傳統(tǒng)數(shù)據(jù)中心。
為保護(hù)用戶數(shù)據(jù),華為云昇騰AI云服務(wù)采用數(shù)據(jù)傳輸加密、數(shù)據(jù)存儲(chǔ)加密、數(shù)據(jù)安全清除、數(shù)據(jù)訪問(wèn)控制、數(shù)據(jù)水印防泄露等多重技術(shù),保障云上訓(xùn)練的數(shù)據(jù)全生命周期安全。
同時(shí),華為云昇騰AI云服務(wù)“百模千態(tài)”專區(qū)也已經(jīng)上線。除了支持盤古大模型,還將適配業(yè)界主流的上百個(gè)開(kāi)源大模型,如LLAMA,GLM等。企業(yè)既可以基于盤古L0層和L1層能力,建設(shè)自己的大模型應(yīng)用,也可以基于業(yè)界開(kāi)源的大模型技術(shù),打造自己的專屬大模型。
此外,華為云昇騰AI云服務(wù)還提供高效長(zhǎng)穩(wěn)的大模型訓(xùn)練環(huán)境和完備的工具鏈,實(shí)現(xiàn)千卡訓(xùn)練連續(xù)30天不中斷,任務(wù)恢復(fù)時(shí)長(zhǎng)小于30分鐘;并可通過(guò)30多個(gè)可視化調(diào)優(yōu)和部署工具,幫助企業(yè)更高效進(jìn)行數(shù)據(jù)處理、模型微調(diào)、Prompt工程等,完成一個(gè)千億參數(shù)行業(yè)模型的端到端開(kāi)發(fā),可從過(guò)去的5個(gè)月縮短到現(xiàn)在的1個(gè)月,整體速度提升5倍。