眾多企業(yè)加速布局邊緣AI 加速大模型降本
【眾多企業(yè)加速布局邊緣AI】生成式人工智能的快速發(fā)展為諸多行業(yè)帶來新的機遇。當(dāng)下，眾多企業(yè)加速布局邊緣AI，加速大模型降本，也推進了具身機器人、數(shù)字人等智能終端的迭代發(fā)展。
在7月24日舉行的第十七屆英特爾網(wǎng)絡(luò)與邊緣計算行業(yè)大會上，機器人、深信服、數(shù)碼視訊、中科創(chuàng)達等上市公司企業(yè)代表現(xiàn)身，分享了其在邊緣AI領(lǐng)域布局的最新進展。英特爾方面表示，將與中國企業(yè)持續(xù)深度布局邊緣算力，以加速AI大模型在實際場景中的應(yīng)用落地。
“隨著大模型和算力的底層技術(shù)不斷完善，生成式AI帶動應(yīng)用端革命，大模型部署在邊緣側(cè)成為必然趨勢，邊緣AI將成為各科技巨頭搶占的下一塊高地。AI與邊緣計算的融合，也為產(chǎn)業(yè)鏈發(fā)展帶來新機遇。”中國聯(lián)合國采購促進會副秘書長宋嘉在接受《證券日報》記者采訪時表示。
搖晃著身體不斷與參觀者互動，在大會展區(qū)現(xiàn)場，一個名為“小英”的AI“3D”虛擬數(shù)智人引起參觀者關(guān)注。相關(guān)工作人員表示，“小英”是一個完全部署于邊緣端的數(shù)智人，基于英特爾酷睿處理器與獨立顯卡技術(shù)，集成了先進的大語言模型和RAG技術(shù)，可以擔(dān)任營業(yè)廳客服代表等多類職務(wù)。
隨著芯片算力、虛擬現(xiàn)實、大模型的飛速發(fā)展，數(shù)智人技術(shù)已經(jīng)從科幻走向現(xiàn)實，其不僅外觀高度逼真，更以強大的交互能力與智能算法，落地各行業(yè)應(yīng)用。上述工作人員告訴記者：“隨著生成式AI對算力需求及應(yīng)用要求的提升，眾多云端生成式AI正向邊緣側(cè)和端側(cè)遷移，釋放生成式AI的更多潛力。”
在大會的展覽區(qū)域，具身機器人、機械臂、AI數(shù)字人、智能網(wǎng)聯(lián)汽車路測設(shè)備以及低空預(yù)警和5G邊網(wǎng)融合場景紛紛得到展示。
科東(廣州)軟件科技有限公司AI研究員研發(fā)工程師張雷表示：“融入最新的語言大模型及多模態(tài)環(huán)境感知技術(shù)，基于英特爾最新一代計算平臺，科東智能機械臂控制系統(tǒng)可以通過自然語言驅(qū)動機械臂執(zhí)行任務(wù)，滿足工業(yè)場景中輕量化本地部署需求，同時做到數(shù)據(jù)不出廠，大幅提高效率。”
據(jù)了解，隨著生成式AI快速發(fā)展，云端算力面臨成本以及供給壓力，逐步無法承載AI需求，AI應(yīng)用的范圍與深度也漸漸被限制。為突破這一瓶頸，眾多廠商聯(lián)合搶先布局邊緣AI，從而解決延遲、隱私和成本等關(guān)鍵問題，讓AI技術(shù)在更多領(lǐng)域得到應(yīng)用。
“邊緣計算很好地解決了數(shù)據(jù)本地化需求，降低大模型部署成本，有力推動具身智能機器人、數(shù)字人等終端及應(yīng)用的迭代發(fā)展。”張雷說。
多家企業(yè)積極備戰(zhàn)邊緣AI，推進大模型在邊緣場景的部署。深信服工程師表示，公司實現(xiàn)在垂直領(lǐng)域安全大模型的高效能部署，極大提升了大語言模型的處理速度，進一步降低了運營成本。數(shù)碼視訊相關(guān)負責(zé)人稱，采用AI分辨率軟件，公司轉(zhuǎn)碼器實現(xiàn)了圖像重建等功能，并可以利用生成式AI算法自動產(chǎn)生超高清視頻內(nèi)容。
英特爾副總裁兼網(wǎng)絡(luò)與邊緣計算事業(yè)部中國區(qū)總經(jīng)理陳偉表示，基于對邊緣AI趨勢的洞察，公司推出了專為邊緣和網(wǎng)絡(luò)AI設(shè)計的模塊化平臺，從而推動企業(yè)加速AI在邊緣和網(wǎng)絡(luò)的開發(fā)應(yīng)用等，已經(jīng)落地制造、交通、醫(yī)療等多個領(lǐng)域。
邊緣AI市場不斷升溫，成為當(dāng)下企業(yè)競爭的熱門領(lǐng)域。除上述企業(yè)外，高通、英偉達均在進軍邊緣計算領(lǐng)域，國內(nèi)三大運營商、網(wǎng)宿科技等企業(yè)也均在從不同路徑布局邊緣AI市場。
生成式AI技術(shù)與邊緣計算的融合，也有望釋放巨大的產(chǎn)業(yè)空間。據(jù)調(diào)研機構(gòu)Gartner預(yù)測，到2026年，80%的全球企業(yè)將使用生成式AI，50%的全球邊緣部署將包含AI。
英特爾中國區(qū)總經(jīng)理王稚聰表示，AI正在成為經(jīng)濟重要的驅(qū)動力。英特爾將基于邊緣AI研發(fā)，進一步推動與中國本地大模型廠商進行適配優(yōu)化，提升各行業(yè)的生產(chǎn)效能和產(chǎn)品創(chuàng)新。
與此同時，芯片端巨頭、大模型玩家、制造企業(yè)加速邊緣AI相關(guān)布局，也在帶動邊緣計算規(guī)模提升以及產(chǎn)業(yè)鏈升級。
根據(jù)機構(gòu)STL Partners預(yù)測，到2030年，全球邊緣計算潛在市場規(guī)模將增長到4450億美元，行業(yè)復(fù)合年增長率高達48%。民生證券認(rèn)為，在邊緣側(cè)推理的輕量化大語言模型有望帶動邊緣AI計算成長，加速邊緣硬件市場更新迭代。邊緣側(cè)終端、算力、芯片等產(chǎn)業(yè)鏈環(huán)節(jié)均有望迎來規(guī)模性發(fā)展。
責(zé)任編輯：李海嘯