據(jù)報(bào)道,不久前,Alphabet在演示聊天機(jī)器人時(shí)出現(xiàn)的失誤剛剛導(dǎo)致其市值蒸發(fā)1000億美元,現(xiàn)在,在谷歌搜索中整合生成式人工智能的計(jì)劃又要面臨新的挑戰(zhàn):成本!
當(dāng)整個(gè)科技行業(yè)的高管都在討論如何運(yùn)營ChatGPT這樣的人工智能服務(wù)時(shí),高昂的費(fèi)用卻成為他們不得不面對(duì)的一個(gè)難題。這款由OpenAI開發(fā)的熱門聊天機(jī)器人可以針對(duì)用戶提出的問題直接給出答案,但該公司CEO山姆·阿爾特曼(Sam Altman)卻在Twitter上透露,這項(xiàng)服務(wù)的成本高得讓人難以接受——每次對(duì)話的計(jì)算成本達(dá)到2美分甚至更多。
Alphabet董事長約翰·漢尼斯(John Hennessy)表示,與大語言模型這樣的人工智能對(duì)話,其成本是傳統(tǒng)搜索的10倍,但通過一些調(diào)整措施有助于迅速降低成本。
分析師認(rèn)為,即便可以通過基于聊天的搜索廣告創(chuàng)造收入,但由于這項(xiàng)技術(shù)會(huì)額外帶來數(shù)十億美元的成本,因而還是會(huì)對(duì)Alphabet的凈利潤產(chǎn)生不利影響。該公司2022年的凈利潤接近600億美元。
摩根士丹利估計(jì),谷歌去年總計(jì)3.3萬億次的搜索量單次平均成本約為0.2美分。這一成本今后將會(huì)上漲,具體取決于人工智能貢獻(xiàn)的內(nèi)容比例。例如,分析師測(cè)算,如果類ChatGPT人工智能能用50字的答案處理其收到的半數(shù)請(qǐng)求,谷歌的費(fèi)用到2024年可能會(huì)增加60億美元。谷歌不太可能用聊天機(jī)器人來為維基百科等網(wǎng)站處理導(dǎo)航搜索。
其他分析師也得出了類似的結(jié)論。例如,專注于芯片技術(shù)的搜索和咨詢公司SemiAnalysis就表示,將類ChatGPT人工智能技術(shù)整合到搜索中可能花費(fèi)Alphabet 30億美元,由于谷歌使用了自主研發(fā)的TPU芯片及其他優(yōu)化措施,可以在一定程度上降低這項(xiàng)成本。
AIGC的成本之所以高于傳統(tǒng)搜索,主要原因在于算例消耗。分析師表示,這種人工智能技術(shù)需要依靠數(shù)十億美元的芯片,即使將這項(xiàng)成本平攤到幾年的使用周期中,仍會(huì)顯著增加單次使用成本。電力消耗也會(huì)增加成本,同時(shí)對(duì)企業(yè)的碳足跡目標(biāo)構(gòu)成壓力。
處理人工智能搜索請(qǐng)求的過程被稱作“推理”(inference),它通過神經(jīng)網(wǎng)絡(luò)來大致模擬人腦的生物結(jié)構(gòu),借助之前的訓(xùn)練數(shù)據(jù)推理出問題答案。
而在傳統(tǒng)搜索中,谷歌的網(wǎng)絡(luò)爬蟲會(huì)掃描互聯(lián)網(wǎng),并匯總一個(gè)信息索引。當(dāng)用戶輸入搜索請(qǐng)求時(shí),谷歌就會(huì)提供存儲(chǔ)在索引中最相關(guān)的答案。
盡管面臨成本壓力,但Alphabet的漢尼斯依然要接受這一項(xiàng)挑戰(zhàn)。本月早些時(shí)候,谷歌的老對(duì)手微軟在其雷蒙德總部舉行了高調(diào)的發(fā)布會(huì),展示了嵌入在必應(yīng)搜索引擎中的人工智能聊天技術(shù)。據(jù)估計(jì),微軟的高管瞄準(zhǔn)了谷歌91%的搜索市場(chǎng)份額。
一天后,Alphabet也在發(fā)布會(huì)上探討了如何改善其搜索引擎,但一段關(guān)于人工智能聊天機(jī)器人Bard的推廣視頻卻顯示,系統(tǒng)給出了錯(cuò)誤的答案。受此影響,谷歌股價(jià)暴跌,市值蒸發(fā)1000億美元。
隨后有報(bào)道稱,微軟的人工智能威脅用戶,甚至向測(cè)試者示愛,這使得外界也加大了對(duì)微軟的關(guān)注。由于擔(dān)心“誘發(fā)”意想不到的答案,微軟也開始限制用戶的聊天次數(shù)。
微軟CFO艾米·胡德(Amy Hood)曾經(jīng)對(duì)分析師表示,獲取用戶和廣告收入帶來的好處超過了將新必應(yīng)提供給數(shù)百萬用戶產(chǎn)生的成本!凹幢阋黾映杀,但這對(duì)我們來說仍是增量毛利潤!彼f。
作為谷歌的另外一個(gè)競(jìng)爭(zhēng)對(duì)手,搜索引擎You.com的CEO理查德·索赫爾(Richard Socher)表示,為圖片、視頻和其他生成式技術(shù)引入人工智能聊天體驗(yàn)和應(yīng)用會(huì)將成本提高30%至50%!半S著規(guī)模擴(kuò)大和時(shí)間推移,技術(shù)成本會(huì)降低。”他說。
接近谷歌的知情人士警告稱,現(xiàn)在就對(duì)聊天機(jī)器人的具體成本下判斷還為時(shí)尚早,因?yàn)樾屎褪褂昧繒?huì)隨著其中涉及的技術(shù)而存在很大差異,而且人工智能也已經(jīng)為搜索等產(chǎn)品提供支持。
不過,埃森哲CTO保羅·多爾蒂(Paul Daugherty)認(rèn)為,擁有數(shù)十億用戶的搜索引擎和社交媒體巨頭之所以沒有在一夜之間推出人工智能聊天機(jī)器人,成本確實(shí)是兩大主要原因之一。
“一是準(zhǔn)確性,二是必須以合適的方式擴(kuò)大規(guī)模!彼f。
權(quán)衡成本
多年以來,Alphabet等公司的研究人員一直都在研究如何以更低的成本訓(xùn)練和運(yùn)行大語言模型。
更大的模型需要更多的芯片來完成推理,自然會(huì)推高成本。人工智能在達(dá)到以假亂真的效果的同時(shí),其規(guī)模也在快速膨脹。例如,OpenAI在ChatGPT的新模型中使用了1750億個(gè)參數(shù),即算法需要考慮的不同值。成本也會(huì)因?yàn)橛脩粽?qǐng)求的長短而存在差異,具體長度以“令牌”或文字?jǐn)?shù)來衡量。
一位資深技術(shù)高管透露,要讓數(shù)百萬用戶使用這樣的人工智能技術(shù),目前仍需承擔(dān)極高的成本。
這位要求匿名的高管說:“這些模型的成本很高,所以下一階段的目標(biāo)是降低模型的訓(xùn)練和推理成本,以便將其應(yīng)用到每一個(gè)應(yīng)用中!
知情人士透露,OpenAI的計(jì)算機(jī)科學(xué)家已經(jīng)找到了通過復(fù)雜的代碼來優(yōu)化成本的方法,從而提高芯片的效率。但OpenAI發(fā)言人尚未對(duì)此置評(píng)。
如果把眼光放得更長遠(yuǎn)一些,如何在不犧牲準(zhǔn)確性的情況下,將人工智能模型的參數(shù)數(shù)量縮減到目前的十分之一甚至百分之一,也是一個(gè)重要問題。
“怎樣才能以最有效的方式減少參數(shù),這個(gè)問題仍然有待解答!奔{維尼·拉奧(Naveen Rao)說。他曾經(jīng)負(fù)責(zé)英特爾的人工智能芯片業(yè)務(wù),目前通過他的創(chuàng)業(yè)公司MosaicML來降低人工智能計(jì)算成本。
與此同時(shí),一些企業(yè)已經(jīng)開始嘗試收費(fèi)模式,比如OpenAI就為每月支付20美元費(fèi)用的用戶提供更好的使用體驗(yàn)。技術(shù)專家還表示,可以使用規(guī)模較小的人工智能模型來執(zhí)行較為簡(jiǎn)單的任務(wù),谷歌目前就在探索這種變通模式。
該公司本月表示,他們將會(huì)采用LaMDA大型人工智能技術(shù)的小規(guī)模版本來為Bard聊天機(jī)器人提供支持,“大幅減少算例需求,使我們能夠服務(wù)更多用戶!
在上周的TechSurge大會(huì)上被問及相關(guān)問題時(shí),漢尼斯表示,開發(fā)更加專注的模型,而不是無所不能的服務(wù),將有助于“控制成本”。