北京時間3月10日早間消息,據(jù)報(bào)道,面對埃隆·馬斯克對ChatGPT的抨擊,美國人工智能研究公司OpenAI聯(lián)合創(chuàng)始人兼總裁格雷格·布羅克曼(Greg Brockman)承認(rèn),這家初創(chuàng)公司“犯了一個錯誤”。
馬斯克曾是OpenAI的聯(lián)合創(chuàng)始人,但后來與該公司斷絕了關(guān)系。他經(jīng)常批評OpenAI實(shí)施保護(hù)措施以阻止聊天機(jī)器人(10.410, -0.01, -0.10%)回復(fù)一些可能被視為具有冒犯性的內(nèi)容。
“我們犯了一個錯誤:我們實(shí)施的系統(tǒng)并沒有反映出我們的價(jià)值觀,”O(jiān)penAI總裁布羅克曼表示,“我認(rèn)為我們解決這個問題的速度不夠快。所以我覺得對我們是合理的。”
用戶批評ChatGPT稱,它生成的回復(fù)內(nèi)容帶有政治偏見。
上個月,Twitter上流傳的一段ChatGPT聊天對話截圖顯示,該聊天機(jī)器人拒絕生成關(guān)于美國前總統(tǒng)唐納德·特朗普的正面的詩歌,并表示它所設(shè)置的程序不是用來生成關(guān)于“黨派、偏見或政治的”內(nèi)容。但當(dāng)同樣的提示內(nèi)容把喬·拜登換成特朗普時,這個聊天機(jī)器人卻輸出了一首熱情洋溢的詩。對此,馬斯克批評道,聊天機(jī)器人拒絕創(chuàng)作關(guān)于特朗普的詩是“一個嚴(yán)重的問題”。
馬斯克此前曾批評過這項(xiàng)技術(shù),稱“訓(xùn)練人工智能醒來——換句話說,訓(xùn)練人工智能撒謊——的危險(xiǎn)是致命的。”
現(xiàn)在,越來越多的用戶涌向人工智能聊天機(jī)器人,包括ChatGPT和必應(yīng)近期推出的由OpenAI提供技術(shù)支持聊天機(jī)器人,它們的局限性和缺陷逐漸暴露出來。為此,一些公司為這項(xiàng)技術(shù)增加了護(hù)欄防護(hù)。
在微軟發(fā)布了基于人工智能技術(shù)的必應(yīng)聊天機(jī)器人后的一個月時間里,微軟對聊天機(jī)器人設(shè)置了對話限制,用戶每天最多可以提出50個問題,每次最多可以問5個問題。此后,該公司放寬了這些限制。
ChatGPT也正在逐步改善中——從布羅克曼的評論來看,聊天機(jī)器人這個平臺似乎還會繼續(xù)發(fā)展。
“我們的目標(biāo)是讓人工智能不偏向任何特定的方向,”布羅克曼稱,“我們希望OpenAI的默認(rèn)特點(diǎn)是平等對待各方。這到底意味著什么很難具體操作,我認(rèn)為我們還沒有完全做到這一點(diǎn)!