馬斯克已經(jīng)宣布其人工智能初創(chuàng)公司 xAI 的大語言模型 Grok-2 將于 8 月推出,將帶來更先進的 AI 功能。雖然 Grok-2 還沒亮相,但馬斯克已經(jīng)開始為其 Grok-3 進行造勢。
馬斯克表示,訓練 AI 聊天機器人需要數(shù)據(jù)集,而且從現(xiàn)有數(shù)據(jù)中清除大型語言模型 (LMM) 的工作量很大。他還談到了 OpenAI 模型輸出訓練的幾個問題。
他透露 xAI 的 Grok-3 用了 10 萬塊英偉達 H100 芯片進行訓練,預計將于年底發(fā)布,相信它會“非常特別”。
H100 是英偉達開發(fā)的專門用于處理大語言模型(LLMs)數(shù)據(jù)的 AI 芯片。每塊英偉達 H100 人工智能芯片的價格估計在 3-4 萬美元(當前約 21.9 - 29.2 萬元人民幣)左右,批量購買的話可能會有折扣。
我們簡單計算可知,xAI 這里的 10 萬塊英偉達 H100 價值 30-40 億美元(IT之家備注:當前約 218.68 - 291.57 億元人民幣)。馬斯克之前曾提到特斯拉今年從英偉達的采購額估計將在 30-40 億美元之間,合理推測 xAI 這里用的是特斯拉購買的英偉達芯片進行訓練。