導(dǎo)讀:在OpenAI著力攻克下一代模型的挑戰(zhàn)的當(dāng)下,核心人員離職或長期休假,或也反映出OpenAI內(nèi)部仍存在分歧。
北京時間8月6日上午消息,OpenAI再迎高層人事變動。
OpenAI創(chuàng)始團(tuán)隊成員約翰·舒爾曼(John Schulman)在社交平臺上宣布,他將離開OpenAI,并加入另一家人工智能創(chuàng)業(yè)企業(yè)Anthropic。OpenAI總裁、聯(lián)合創(chuàng)始人格雷格·布羅克曼(Greg Brockman)在社交媒體上宣布,他將休假到年底,未提及可能離職的消息。另有消息稱,OpenAI的產(chǎn)品負(fù)責(zé)人彼得·鄧(Peter Deng)也將離職。
此前OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家伊利亞·蘇茨克沃(Ilya Sutskever)離職后,OpenAI人事仍然不穩(wěn)。值得注意的是,此次宣布離職的約翰·舒爾曼與伊利亞·蘇茨克沃此前都負(fù)責(zé)OpenAI的人工智能對齊工作。而OpenAI此前已解散“超級智能對齊”團(tuán)隊,約翰·舒爾曼此次離職或意味著OpenAI更不愿重押人工智能對齊。
此外,雖然格雷格·布羅克曼并未透露離職,但在OpenAI著力攻克下一代模型的挑戰(zhàn)的當(dāng)下,核心人員長期休假,或也反映出OpenAI內(nèi)部仍存在分歧。
再迎人事變動
約翰·舒爾曼表示,作出離開OpenAI并加入Anthropic這一決定是因為他希望進(jìn)一步關(guān)注人工智能對齊,并重返實際技術(shù)工作!拔译x開并不是因為OpenAI缺乏對對齊研究的支持,相反,公司一直致力于投資這一領(lǐng)域,我的決定是個人決定,我希望在職業(yè)生涯下一階段集中精力! 約翰·舒爾曼表示。
約翰·舒爾曼表示,到目前為止,除了實習(xí),OpenAI還是他工作過的唯一一家公司,他非常感謝OpenAI CEO薩姆·奧爾特曼 (Sam Altman)和聯(lián)合創(chuàng)始人格雷格·布羅克曼一開始就招募了他,“相信沒有我,OpenAI和我所在的團(tuán)隊也會繼續(xù)蓬勃發(fā)展。”
薩姆·奧爾特曼則在社交平臺上回復(fù)約翰·舒爾曼,稱”感謝你為OpenAI所做的一切,你是一位才華橫溢的研究員,一位對產(chǎn)品和社會有深刻思考的人,你是我們所有人的好朋友“。
記者留意到,今年早些時候,OpenAI解散了“超級智能對齊”團(tuán)隊,并于當(dāng)?shù)貢r間5月28日成立了一個新的安全委員會,約翰·舒爾曼是該安全委員會的成員之一。彼時OpenAI對他的職位描述為對齊科學(xué)主管。
聯(lián)合創(chuàng)始人格雷格·布羅克曼雖然長期休假,但并未透露離職意向,他僅在社交媒體上表示,這是9年前共同創(chuàng)立OpenAI以來他第一次可以放松!叭蝿(wù)還遠(yuǎn)未完成,我們?nèi)匀恍枰獦?gòu)建安全的AGI(通用人工智能)!备窭赘瘛げ剂_克曼表示。
彼得·鄧則還未在社交媒體上提及他離職的消息。彼得·鄧是硅谷知名產(chǎn)品經(jīng)理,曾任谷歌(160.54, -0.10, -0.06%)、Instagram、Facebook、Uber等公司的產(chǎn)品經(jīng)理,去年加入OpenAI任消費產(chǎn)品副總裁,負(fù)責(zé)ChatGPT背后的產(chǎn)品、設(shè)計和工程團(tuán)隊。在今年早些時候的播客對談中,他提及AI安全和ChatGPT的價值觀時表示,理想(18.94, 0.08, 0.42%)的情況是人工智能能契合每個使用者個人的價值觀,這不應(yīng)該是規(guī)范性的,并不是我們想要為ChatGPT灌輸什么價值觀,而是希望能以某種方式將世界各地的價值觀融入到人工智能中。
自去年薩姆·奧爾特曼被OpenAI董事會解雇又重新聘用后,OpenAI人事動蕩未止。有傳聞稱薩姆·奧爾特曼罷免事件與內(nèi)部對AI安全問題的分歧有關(guān),薩姆·奧爾特曼與伊利亞·蘇茨克沃在AI安全和商業(yè)化問題上存在分歧。作為內(nèi)斗風(fēng)波關(guān)鍵人物,伊利亞·蘇茨克沃已于今年5月宣布離開工作了近10年的OpenAI。
此外,OpenAI另一名創(chuàng)始團(tuán)隊成員Andrej Karpathy今年2月已離開OpenAI,并于7月宣布創(chuàng)辦了一家AI+教育公司。OpenAI仍在職的創(chuàng)始團(tuán)隊成員越來越少。
是否影響GPT開發(fā)進(jìn)展?
OpenAI再迎人事變動,或意味著OpenAI對AI安全的關(guān)注點變化,下一代GPT是否會受人事變動的影響還需繼續(xù)觀察。
記者留意到,據(jù)OpenAI描述,此前成立的安全委員會的首要任務(wù)是在接下來90天評估和進(jìn)一步開發(fā)OpenAI的流程和保障措施,并在90天結(jié)束時與全體董事會成員分享建議,在董事會審查后公開已采納的建議。按照時間規(guī)劃,這些建議將在8月底之后公開,而約翰·舒爾曼在此之前就決定離開OpenAI。
在AI安全方面,從OpenAI對新成立的安全委員會的介紹看,該團(tuán)隊的職責(zé)與已解散的“超級智能對齊”團(tuán)隊不完全一致。而隨著對齊科學(xué)主管約翰·舒爾曼離開,這或意味著OpenAI對人工智能對齊方面關(guān)注變得更少。
“對齊”的意思是要求AI系統(tǒng)的目標(biāo)與人類價值觀與利益相一致,原本“超級智能對齊”團(tuán)隊的職責(zé)包括研究防止AI系統(tǒng)異常的技術(shù)解決方案。伊利亞·蘇茨克沃曾在采訪中提到ChatGPT可能有意識,世界需要清醒認(rèn)識到他的公司和其他公司正在創(chuàng)造的技術(shù)的真正力量。奧爾特曼的看法與之不完全相同,他近期回應(yīng)稱“(前董事會)他們對我和我們所做的事有一些看法,盡管我非常強烈地反對他們的想法。人工智能對齊問題還不能說完全解決,但目前讓人工智能系統(tǒng)學(xué)會如何按一套價值觀行事,效果比我想象的更好!
約翰·舒爾曼將加入的Anthropic則被認(rèn)為是OpenAI的頭號競爭對手。Anthropic是由前OpenAI研究高管和員工創(chuàng)建的公司,旗下?lián)碛蠧laude系列大模型。今年6月,Anthropic發(fā)布最新模型Claude 3.5 Sonnet,該模型在研究生水平推理 (GPQA)、編碼能力 (HumanEval) 、文本推理(DROP)等方面的成績均好于GPT-4o。
從下一代GPT研發(fā)進(jìn)展看,OpenAI似乎遇到了一些困難。今年7月,薩姆·奧爾特曼稱,開發(fā)GPT-5還需要一些時間,GPT-5相關(guān)的技術(shù)仍處于早期階段,存在數(shù)據(jù)和算法方面的問題。
隨著約翰·舒爾曼離職并加入競爭對手Anthropic、格雷格·布羅克曼休假,核心人物離場對OpenAI研發(fā)進(jìn)展是否有影響還需繼續(xù)觀察。
值得注意的是,OpenAI聯(lián)合創(chuàng)始人間還另有矛盾。撤訴不到兩個月后,曾聯(lián)合創(chuàng)辦了OpenAI的特斯拉(200.64, 1.76, 0.88%)CEO馬斯克近日又在美國法院起訴薩姆·奧爾特曼、格雷格·布羅克曼,指控相關(guān)人員將商業(yè)利益置于公共利益之上,違反了公司的創(chuàng)立合約。起訴書稱,薩姆·奧爾特曼等人故意討好和欺騙馬斯克,以共同創(chuàng)立非營利企業(yè)OpenAI,但隨后用各種手段使之成為營利實體。OpenAI數(shù)月前針對馬斯克的指控則曾發(fā)截圖回應(yīng),表示馬斯克曾同意該公司籌集更多資金、創(chuàng)建營利性組織并逐步放棄開源產(chǎn)品發(fā)布的計劃。