3月4日下午消息，今年兩會期間，全國政協(xié)委員、360集團創(chuàng)始人周鴻祎聚焦關注大模型安全和幻覺，他認為，以DeepSeek為代表的大模型取得了“國運級科技成果”，不僅促進了大模型技術自主創(chuàng)新，也帶動了上下游產業(yè)協(xié)同發(fā)展，讓大模型加速走進百行千業(yè)，成為推動中國科技進步、經濟增長和國家強盛的關鍵力量。但包括DeepSeek在內的大模型都存在“幻覺”，偶爾會生成看似不合理、與事實不符的情況�！盎糜X”是一把雙刃劍，是大模型與生俱來的特點，不可消除，也決定其創(chuàng)造力和想象力，對于實現AGI（通用人工智能）極其重要。如果大模型沒有“幻覺”，就失去了想象力和創(chuàng)造力。并且越是能力強的模型，一般幻覺也越多。
周鴻祎認為，在科研領域，大模型的“幻覺”能“想象”新藥分子結構、蛋白質的結構等，為新研究指引方向。在醫(yī)療、法律、金融等對準確性要求高的領域，“幻覺”雖然可能出錯，但可以利用技術手段，如RAG（檢索增強生成）技術，通過比對專業(yè)知識庫、網絡實時信息等方式予以矯正。
周鴻祎表示，回顧過去30年，我國法律法規(guī)吸納了“避風港原則”讓企業(yè)敢于投入創(chuàng)新，帶來了互聯網行業(yè)的繁榮，也為后來的“互聯網+”、如今的“人工智能+”提供了技術、產業(yè)和人才支撐。大模型發(fā)展關系國運，不能因為過度追求準確而限制其創(chuàng)造力。他建議，借鑒“避風港原則”成功經驗，對大模型以及相關的產品和服務實施柔性監(jiān)管，適度包容大模型的“幻覺”，對于“幻覺”導致的一般性失誤，避免直接關停下架，給予企業(yè)自我糾正的機會，促進企業(yè)大膽創(chuàng)新、放手競爭，爭取讓更多企業(yè)“復制”DeepSeek的成功。
