本報(bào)訊 （記者謝嵐）近日，網(wǎng)宿科技股份有限公司（以下簡稱“網(wǎng)宿科技”）正式升級邊緣AI平臺，推出邊緣AI網(wǎng)關(guān)、邊緣模型推理及邊緣AI應(yīng)用三大核心產(chǎn)品，依托覆蓋“模型接入—推理優(yōu)化—場景落地”的全鏈路能力，將助力企業(yè)低成本、高效率實(shí)現(xiàn)AIGC創(chuàng)新。

    當(dāng)前，隨著大模型和算力底層技術(shù)的不斷完善，AIGC帶動(dòng)應(yīng)用端革命，推動(dòng)大模型加速向邊緣側(cè)與移動(dòng)端遷移，邊緣AI已成為產(chǎn)業(yè)發(fā)展的共識。據(jù)Gartner預(yù)測，到2026年80%的全球企業(yè)將使用生成式AI，50%的全球邊緣部署將包含AI。

    網(wǎng)宿科技憑借在邊緣計(jì)算領(lǐng)域十余年的深厚技術(shù)積淀，以及對AI應(yīng)用的深刻洞察與理解，順勢落地網(wǎng)宿邊緣AI平臺，以“資源—模型—服務(wù)—應(yīng)用”四層架構(gòu)為核心，打造全球領(lǐng)先的邊緣AI服務(wù)能力。

    在AI資源中臺，平臺基于計(jì)算、網(wǎng)絡(luò)、存儲等硬件資源，搭載高性能處理器和GPU集群，通過智能調(diào)度網(wǎng)絡(luò)和分布式存儲架構(gòu)實(shí)現(xiàn)數(shù)據(jù)高效流轉(zhuǎn)，同時(shí)，基于邊緣云原生架構(gòu)的Serverless平臺，為上層服務(wù)提供秒級彈性伸縮與高可用環(huán)境。

    在AI模型層，平臺集成多家主流AI模型，并在邊緣節(jié)點(diǎn)預(yù)置了DeepSeek等熱門開源模型，幫助企業(yè)輕松落地文本創(chuàng)作、翻譯、問答、圖像識別、語音交互等AI應(yīng)用。同時(shí)，基于LLM技術(shù)棧提供模型推理加速和托管服務(wù)，賦能企業(yè)敏捷開發(fā)。

    在AI服務(wù)中臺，平臺支持第三方、開源、私有模型靈活接入和管理，通過負(fù)載均衡、語義緩存、安全審核等實(shí)現(xiàn)靈活配置。平臺應(yīng)用組件豐富，集成RAG、聯(lián)網(wǎng)搜索、MCP服務(wù)等能力，開發(fā)者可通過邊緣函數(shù)自定義編寫代碼，靈活組裝應(yīng)用組件，在邊緣側(cè)執(zhí)行AI程序。

    在AI應(yīng)用層，平臺通過“智能多模型協(xié)作+場景化工具鏈”賦能企業(yè)服務(wù)、智慧醫(yī)療、教育、文娛、廣告、電商等垂直領(lǐng)域的AI應(yīng)用落地，驅(qū)動(dòng)產(chǎn)業(yè)智能化躍遷。

    依托平臺強(qiáng)大的算力、豐富的模型、靈活的技術(shù)和便捷的接口，網(wǎng)宿科技推出三大核心產(chǎn)品，充分釋放邊緣AI的重要價(jià)值：

    邊緣AI網(wǎng)關(guān)，打造企業(yè)級“智能中樞”。邊緣AI網(wǎng)關(guān)通過一個(gè)API接口即可無縫對接DeepSeek、文心一言等100+主流模型，支持多模型并發(fā)調(diào)用與智能切換。其內(nèi)置語義緩存、安全審核、速率限制等功能，能夠顯著降低企業(yè)運(yùn)維成本。

    邊緣模型推理，幫助企業(yè)實(shí)現(xiàn)輕量化AI落地。依托全球GPU資源池與Serverless框架，平臺預(yù)置眾多開源模型，企業(yè)僅需少量代碼適配，即可實(shí)現(xiàn)毫秒級邊緣推理。智能流量調(diào)度算法分配算力資源，配合自動(dòng)彈性伸縮機(jī)制，保障高服務(wù)可用性的同時(shí)，降低基礎(chǔ)設(shè)施投入。

    邊緣AI應(yīng)用，為企業(yè)提供場景化創(chuàng)新“工具箱”?；诟黝I(lǐng)域不同的業(yè)務(wù)場景，平臺開放AI問答機(jī)器人、AI編程助手等垂直應(yīng)用，集成RAG、聯(lián)網(wǎng)搜索、動(dòng)態(tài)文件解析、MCP服務(wù)等十余項(xiàng)組件庫，助力企業(yè)AI應(yīng)用輕松落地。

    據(jù)悉，網(wǎng)宿邊緣AI平臺已經(jīng)接入醫(yī)療、家居、媒體、互聯(lián)網(wǎng)等行業(yè)客戶。以某省級廣電機(jī)構(gòu)為例，網(wǎng)宿科技以邊緣AI網(wǎng)關(guān)為核心，實(shí)現(xiàn)多模型服務(wù)商的負(fù)載均衡，保障業(yè)務(wù)高可用，該機(jī)構(gòu)接入網(wǎng)宿D(zhuǎn)eepSeek-R1滿血模型后，新聞評論生成性能提升80%以上。

    可以預(yù)見的是，隨著AI應(yīng)用的廣泛滲透，將會有更多、更復(fù)雜的AI工作負(fù)載在邊緣側(cè)進(jìn)行處理，邊緣AI的承載將愈發(fā)關(guān)鍵。與此同時(shí)，越來越多的企業(yè)將大模型解決方案深度嵌入到企業(yè)需求與業(yè)務(wù)流程當(dāng)中，定制化、產(chǎn)品化的AI解決方案將成為剛需。

    對此，網(wǎng)宿科技人士表示，未來將融合邊緣智算網(wǎng)絡(luò)，持續(xù)推出高效、智能的一體化解決方案，幫助企業(yè)高效創(chuàng)新，加速從AI中獲得商業(yè)價(jià)值。

（編輯 郭之宸）