初創(chuàng)公司Untether推出了一款人工智能(AI)芯片,旨在為汽車、農(nóng)業(yè)設(shè)備和其他極端情況下的AI應(yīng)用提供支持。
英偉達(dá)和AMD生產(chǎn)的旗艦AI芯片旨在與數(shù)千或數(shù)萬(wàn)個(gè)其他芯片連接在一起的數(shù)據(jù)中心內(nèi)運(yùn)行。此類安裝需要大量能源和額外設(shè)備,通常用于構(gòu)建或訓(xùn)練為ChatGPT等應(yīng)用程序提供支持的大型語(yǔ)言模型。
總部位于加拿大多倫多的Untether表示,其芯片旨在在模型構(gòu)建后運(yùn)行AI應(yīng)用程序,并且可以以更高的效率運(yùn)行。
Untether產(chǎn)品副總裁Bob Beachler表示,到2027年,僅運(yùn)行AI應(yīng)用程序(也稱為“推理”)的芯片市場(chǎng)將遠(yuǎn)遠(yuǎn)超過(guò)訓(xùn)練市場(chǎng)。該公司預(yù)計(jì),到2027年,推理市場(chǎng)規(guī)模將增長(zhǎng)至1020億美元。
“推理技術(shù)的應(yīng)用范圍非常廣泛,”Bob Beachler說(shuō)道。
Untether的芯片名為240 Slim,性能出色,但能耗卻低得多,適合在自動(dòng)駕駛汽車、自動(dòng)農(nóng)業(yè)設(shè)備和一些數(shù)據(jù)中心內(nèi)使用。
梅賽德斯-奔馳表示,正在與Untether合作開發(fā)其下一代自動(dòng)駕駛汽車。
Untether生產(chǎn)的芯片是圍繞開源RISC-V技術(shù)開發(fā)的。RISC-V技術(shù)與Arm的設(shè)計(jì)相競(jìng)爭(zhēng)。
在非營(yíng)利組織MLCommons最近進(jìn)行的同行評(píng)審基準(zhǔn)測(cè)試中,Untether的芯片在針對(duì)硬件設(shè)計(jì)的應(yīng)用程序的測(cè)試中表現(xiàn)良好。