當(dāng)前，全球各大企業(yè)均在以前所未有的熱情擁抱AI，但與AI伴生的安全問題，正引發(fā)更多擔(dān)憂。
近日，鄔江興告訴新浪財(cái)經(jīng)《WeTalk》欄目，“不是90%的大模型不可信，而是100%的大模型都不安全、不可信”。他建議人們不要只相信單一大模型，而是“要相同的問題，多問幾個模型”。
他指出，每一個模型都是相對可信，但都存在缺陷，“你要想它沒缺陷，這個是不科學(xué)的”。
以下為《WeTalk》與鄔江興對話部分內(nèi)容：
“100%大模型不可信，不要信任何一個大模型”
新浪財(cái)經(jīng)：你們之前測試表明，90%的大模型都不可信任，現(xiàn)在這個結(jié)果有沒有一些改進(jìn)了？可信度提升了嗎？
鄔江興：不是90%不可信，是100%都是不安全的，它沒有絕對的安全，100%都是不可信的。
它要通過必要多樣性去表達(dá)，通過相對可信，而不是去追求絕對可信，絕對可信是沒有的。所以每一個模型都是相對可信，都是存在缺陷，你要想它沒缺陷，這個是不科學(xué)的。但是我可以用這些帶有缺陷的模型，按照內(nèi)生安全構(gòu)造構(gòu)成一個相對可信的環(huán)境，他得到的結(jié)論，就要比大多數(shù)模型可信得多。
所以說以后人工智能應(yīng)用的時候，你們千萬不要說我只用一個文心一言，用一個豆包等。把問題多問幾個模型，然后你自己來處理。當(dāng)然，如果是內(nèi)生安全的系統(tǒng)，我們自動可以來給你處理。
一個人，兼聽則明，偏信則暗。道理是一樣，不要去信某一個模型，可以有多幾個模型，同一個問題向幾個模型一起問，然后他們里面共同的一部分是可信的，不同的部分你要判斷。
“用AI解決AI安全問題，這是個偽命題”
新浪財(cái)經(jīng)：您之前提過AI存在“三不可”問題，那該如何讓AI更可用呢？
鄔江興：AI運(yùn)行不能去靠某一個大模型，不能是必要的關(guān)系，應(yīng)該有多個大模型，然后讓他們按照內(nèi)生安全的構(gòu)造連接起來，有相對正確的工藝，有所謂的共識機(jī)制，讓我們可以來判斷。也就是當(dāng)一個數(shù)據(jù)輸入時，多個模型因?yàn)榇嬖诠沧R機(jī)制，所以肯定不會辦指鹿為馬的事，如果有個模型真的出來指鹿為馬了，其他模型也可以判斷出它是指鹿為馬，不會讓我們以為這就是馬。 控制論的第一性原理叫必要多樣性，沒有必要多樣性就沒有穩(wěn)定的控制，每一種單一的東西都可能是不完美的，哥德爾不完全性定理同樣指出，任意一個包含一階謂詞邏輯與初等數(shù)論的形式系統(tǒng)，既不能被證明為真也不能被證明為否，也就是說我們想用AI去解決AI的安全問題，都會是個偽命題。 我現(xiàn)在的解決方法是什么？我可以用多個AI模型，因?yàn)樗麄兇嬖趦r值對齊，所以他不能胡說八道，各個模型中間會有很多多樣性和特殊性，因?yàn)槔昧诉@些多樣性和特殊性，也就知道你攻擊了哪個模型，同時其他模型也不會受到影響。就是說你想一槍打多只鳥的可能性沒有了，這樣的話就極大地提高了應(yīng)用系統(tǒng)給出結(jié)論的安全性。
“閉源的單一模型，一定是不安全的”
新浪財(cái)經(jīng)：這是否也意味著，一些商業(yè)機(jī)構(gòu)說自己的模型是閉源的，所以更先進(jìn)，這其實(shí)是個偽命題呢？
鄔江興：這一定是有問題的，單一性一定是有問題的，閉源帶來不了安全性，因?yàn)樗绻獾狡茐�，單一的破壞就可能造成全部破壞，而�?dāng)我們說必要多樣性時，你能破壞A的時候，你不可能同時破壞B、C、D。
物理世界的統(tǒng)一性和物質(zhì)世界的多樣性是怎么表達(dá)的？他要求的是生物多樣性，也就是說某種生物可能會在某種災(zāi)難后消失掉，但由于生物的必要多樣性，能保證整個地球生物的生態(tài)不會因?yàn)槟硞�物種的消失而完蛋，但如果是一個同質(zhì)化的物種，很可能在未來的演化和進(jìn)化過程中，遭遇不測的時候就滅絕了。
新浪財(cái)經(jīng)：類似于群策群力、人多力量大？
鄔江興：開源不光是群策群力，他還有多種多樣性。我們現(xiàn)在搞AI的人，總是想辦法把一個AI搞得安全，在理論上這是不成立的，沒有絕對安全的東西，只有相對安全。
新浪財(cái)經(jīng)：您之前提出了一個多樣動態(tài)異構(gòu)冗余架構(gòu)，這是您理念的具體載體嗎？
鄔江興：這是一個設(shè)計(jì)結(jié)構(gòu)，就像我們的可靠性系統(tǒng)中，它要求你設(shè)計(jì)成主備或者是動態(tài)備份和靜態(tài)備份，這個動態(tài)異構(gòu)冗余是指你的一個信息系統(tǒng)或者一個大模型系統(tǒng)，你要把它設(shè)計(jì)成這樣的一個架構(gòu)，來按照這個架構(gòu)就能得到安全性，它現(xiàn)在是一個框架的形式。
