自2023年ChatGPT震撼發(fā)布，大模型技術(shù)成企業(yè)競爭關(guān)鍵，全球范圍內(nèi)大模型“百花齊放”，據(jù)國家數(shù)據(jù)局統(tǒng)計，當前中國10億參數(shù)規(guī)模以上大模型數(shù)量已超100個。運營商作為數(shù)字中國建設(shè)的關(guān)鍵參與者和行業(yè)數(shù)字化轉(zhuǎn)型的先鋒，正全面推進AI+戰(zhàn)略，構(gòu)建智慧運營體系，以適應(yīng)AI的快速發(fā)展和市場需求的變化，探索新的商業(yè)模式和服務(wù)創(chuàng)新。
2024 MWC上海，浩鯨科技重磅推出“鯨智大模型平臺”，以“底座+模型+引擎+應(yīng)用”的端到端模型工具及服務(wù)，助力運營商降低大模型應(yīng)用落地及使用門檻，憑借卓越的產(chǎn)品實力，該平臺榮獲《通信產(chǎn)業(yè)報》2024MWC上�！熬庉嬤x擇”獎。同時，浩鯨科技大模型創(chuàng)新中心總監(jiān)王玉木在MWC主題論壇，就“構(gòu)建人工智能就緒基礎(chǔ)設(shè)施”發(fā)表演講。
運營商“AI+”戰(zhàn)略進行時，大模型落地遠不止“最后一公里”
隨著大模型應(yīng)用的不斷涌現(xiàn)，進一步激發(fā)了對高價值數(shù)據(jù)、高性能算力、高精度算法的迫切需求，在運營商AI+落地過程中，從算力資源的優(yōu)化到大模型的精準應(yīng)用，每一環(huán)都考驗著運營商的智慧與創(chuàng)新能力，大模型落地之路挑戰(zhàn)重重，遠不止“最后一公里”。
(1) 算力資源的高效利用。智算需求的急速增長對算力資源提出了更高的要求，如何在現(xiàn)有異構(gòu)及資源分散基礎(chǔ)上提升資源效用，成為了亟待解決的難題。
(2) 大模型選型與管理。當前基座大模型種類繁多也各有所長，如何在眾多模型中兼顧性能、成本與適用性選擇最優(yōu)方案也成為一大挑戰(zhàn)。
(3) 應(yīng)用規(guī)劃與開發(fā)。全鏈路開發(fā)工具、集成化開發(fā)平臺的缺失，使得模型從開發(fā)、訓練、調(diào)優(yōu)到部署迭代的整個流程效率低。
(4) 業(yè)務(wù)認知與應(yīng)用。如何解決大模型普遍存在的幻覺問題，提升其業(yè)務(wù)認識精準度及業(yè)務(wù)流程的融合度，是運營商在大模型應(yīng)用中必須面對的挑戰(zhàn)。
鯨智大模型平臺，浩鯨科技致力于做大模型價值使能者
2024 MWC上海，浩鯨科技結(jié)合近20年在云網(wǎng)、大數(shù)據(jù)和AI等方面的探索和實踐，重磅推出“鯨智大模型平臺”，圍繞從異構(gòu)GPU集群管理、智能算力調(diào)度與并網(wǎng)優(yōu)化、模型服務(wù)與意圖識別、數(shù)據(jù)供給與模型納管、插件式的應(yīng)用集成5大方面實現(xiàn)技術(shù)革新，為運營商提供先進的生成式AI生產(chǎn)及應(yīng)用全流程工具鏈，致力于成為運營商大模型價值的賦能者。
(1)智算底座：Whale Power兼容國內(nèi)外主流GPU，支持跨越異構(gòu)GPU集群管理能力、跨越異構(gòu)智算集群一體化調(diào)度能力、跨越算力主體的一體化并網(wǎng)能力，幫助企業(yè)高效進行算力資源整合與高效利用。
(2) 認知增強引擎：Whale Agent依托多種智能體優(yōu)化技術(shù)，實現(xiàn)根據(jù)不同角色、不同業(yè)務(wù)環(huán)境優(yōu)化模型輸入，增強業(yè)務(wù)理解與處理能力，極大提升大模型應(yīng)用準確性。Whale Knowledge，以知識圖譜與RAG融合，支持對大模型輸出進行知識關(guān)系鏈接和召回自動擇優(yōu)，增強RAG檢索準確性，為業(yè)務(wù)決策提供更精準的支持。
(3) 應(yīng)用開發(fā)框架：開箱即用的插件式應(yīng)用開發(fā)框架，通過對前端交互、智能服務(wù)、智能體各類組件的標準沉淀，實現(xiàn)大模型應(yīng)用的快速組裝。通過Whale-Copilot統(tǒng)一交互入口，實現(xiàn)跨系統(tǒng)的鏈式集成，極大降低大模型應(yīng)用開發(fā)成本和落地難度，業(yè)務(wù)人員在原有的系統(tǒng)中可以隨處調(diào)用，0學習成本。
(4) “全鏈路”模型工具服務(wù)：涵蓋Whale DataShop數(shù)據(jù)供給、Whale Review模型評測、Whale AIFatory模型開發(fā)、訓練、微調(diào)及模型向量化等全流程，通過編排式生成、一鍵式向?qū)�、可見即可操作的模型工具服�?wù)，提升數(shù)據(jù)供給效率與質(zhì)量，大幅縮短模型接入時間，提升模型管理的透明度與效率，加速大模型應(yīng)用迭代周期從周到天，助力企業(yè)大幅提高大模型需求響應(yīng)速度、落地效率及靈活性。
在鯨智大模型平臺全面賦能下，不僅解決算力瓶頸，還提供全方位的模型工具服務(wù)與認知增強，輔以便捷的應(yīng)用開發(fā)框架，加速AI+落地的同時，推動運營商在5G、云計算、物聯(lián)網(wǎng)等領(lǐng)域的創(chuàng)新應(yīng)用，為運營商構(gòu)建了堅實的數(shù)智生產(chǎn)力。
深研技術(shù)，持續(xù)創(chuàng)新，賦能千行百業(yè)實現(xiàn)大模型端到端商用
浩鯨科技在深化大模型技術(shù)研發(fā)的同時，不斷深入應(yīng)用場景，落地成果豐富。當前，浩鯨科技基于鯨智大模型平臺圍繞AI+經(jīng)營、AI+服務(wù)、AI+運維、AI+行業(yè)等4個方面構(gòu)建了諸多創(chuàng)新應(yīng)用，覆蓋12大場景，為運營商及多行業(yè)提供全方位的智能化解決方案，取得顯著進展。全球運營商、垂直行業(yè)商用及預(yù)商用案例近60例。
(1) 國內(nèi)運營商：涵蓋B、O、M、大數(shù)據(jù)等多域，在專業(yè)問答、運維診斷、自主數(shù)據(jù)分析、方案魔方、數(shù)字人客服等場景中應(yīng)用，全力加速運營商AI+戰(zhàn)略，實現(xiàn)智能化轉(zhuǎn)型；
(2) 國際運營商：助力印尼等國家落地智慧客服交互，為“一帶一路”共建共贏極助力；
(3) 垂直行業(yè)：耕耘電力、政務(wù)等，展示大模型技術(shù)的廣泛應(yīng)用潛力。
此外，在MWC“構(gòu)建人工智能就緒基礎(chǔ)設(shè)施”主題論壇上，浩鯨科技大模型創(chuàng)新中心總監(jiān)王玉木也同時指出，未來，大模型將成為新基礎(chǔ)設(shè)施的重要組成部分，大模型驅(qū)動下將催生出豐富的智慧新場景，推動通信、醫(yī)療、教育等人類生產(chǎn)生活多方面的智能化升級，加速AI普惠開放，讓智慧泛在可及。
AI的未來是星辰大海，浩鯨科技正助力全球運營商及多行業(yè)客戶在大模型應(yīng)用領(lǐng)域取得突破，加速數(shù)字化轉(zhuǎn)型，實現(xiàn)業(yè)務(wù)增長與智能化升級。通過技術(shù)創(chuàng)新與市場開拓，浩鯨科技正逐步成長為大模型技術(shù)領(lǐng)域的領(lǐng)軍企業(yè)，為數(shù)字經(jīng)濟的蓬勃發(fā)展貢獻力量。
