推理計(jì)算成為突破口,性價(jià)比優(yōu)勢是關(guān)鍵。
英偉達(dá)在AI芯片市場的壟斷地位,正面臨前所未有的挑戰(zhàn)。
AMD、亞馬遜等科技巨頭,以及SambaNova Systems、Groq等初創(chuàng)公司紛紛瞄準(zhǔn)大模型推理側(cè)發(fā)力,推出各類定制芯片,在可靠性和成本端不斷進(jìn)步。
這些新玩家不僅帶來了更具性價(jià)比的選擇,更贏得了重要客戶的認(rèn)可。
例如,Meta已開始使用AMD的MI300芯片支持其新AI模型Llama 3.1 405B的推理計(jì)算;亞馬遜的Trainium 2芯片,得到了包括蘋果在內(nèi)的潛在用戶的好評(píng)。
市場研究機(jī)構(gòu)Omdia預(yù)計(jì),2024年數(shù)據(jù)中心在非英偉達(dá)芯片上的支出將增長49%,達(dá)到1260億美元。
似乎,市場格局的變化已經(jīng)開始,AI芯片領(lǐng)域的競爭正在進(jìn)入一個(gè)更加多元化的競爭新階段。
科技巨頭紛紛入局,推理計(jì)算成為突破口
AMD的MI300芯片在發(fā)布首年,就預(yù)計(jì)創(chuàng)造超50億美元的銷售額。與此同時(shí),亞馬遜在奧斯汀北部研發(fā)了新一代AI芯片Trainium。
除了傳統(tǒng)科技巨頭,SambaNova Systems、Groq和Cerebras Systems等初創(chuàng)公司也在積極布局。這些公司聲稱在推理方面能夠提供比英偉達(dá)更快的速度、更低的工行和更便宜的價(jià)格。
而“推理”階段,正成為競爭對(duì)手突破英偉達(dá)壟斷的關(guān)鍵。
“真正的商業(yè)價(jià)值來自于推理,而推理正在開始規(guī);,”高通 CEO Cristiano Amon表示。Amon稱,高通計(jì)劃使用亞馬遜的新芯片執(zhí)行 AI 任務(wù),“我們開始看到變革的開始”。
在成本方面,英偉達(dá)現(xiàn)有芯片售價(jià)高達(dá)1.5萬美元,其新款Blackwell芯片預(yù)計(jì)將達(dá)到數(shù)萬美元。
相比之下,競爭對(duì)手提供了更具性價(jià)比的選擇。德克薩斯高級(jí)計(jì)算中心執(zhí)行主任Dan Stanzione表示,由于功耗和價(jià)格優(yōu)勢,該中心計(jì)劃在使用英偉達(dá)Blackwell超級(jí)計(jì)算機(jī)的同時(shí),采用SambaNova的芯片進(jìn)行推理任務(wù),因?yàn)樗鼈兊墓暮蛢r(jià)格較低。
亞馬遜展現(xiàn)雄心
亞馬遜在AI芯片領(lǐng)域表現(xiàn)出強(qiáng)烈的進(jìn)取心,今年已投入750億美元用于AI芯片等計(jì)算硬件。其新款Trainium 2芯片的性能是前代產(chǎn)品的4倍,并已宣布更強(qiáng)大的Trainium 3芯片計(jì)劃。
舊金山AI初創(chuàng)公司Poolside的CTO Eiso Kant估計(jì),相比英偉達(dá)的硬件,Trainium 2在每美元計(jì)算性能上提升了40%。更重要的是,亞馬遜計(jì)劃在全球數(shù)據(jù)中心提供基于Trainium的服務(wù),這對(duì)推理任務(wù)尤為重要。
值得注意的是,亞馬遜還與AI初創(chuàng)公司Anthropic達(dá)成合作,將建造一個(gè)包含數(shù)十萬枚新Trainium芯片的巨型AI工廠,其計(jì)算能力將是Anthropic此前使用過的任何系統(tǒng)的5倍。
盡管如此,競爭加劇并不意味著 Nvidia 短期就會(huì)失去領(lǐng)先地位。英偉達(dá)CEO黃仁勛仍然強(qiáng)調(diào),公司在AI軟件和推理能力方面具有重大優(yōu)勢,新款Blackwell芯片的需求依然強(qiáng)勁。
在斯坦福大學(xué)的一次演講中,黃仁勛表示:
“我們產(chǎn)品的總擁有成本非常劃算,即使競爭對(duì)手的芯片是免費(fèi)的,它們也不夠便宜!