本報(bào)訊 （記者李喬宇）“2024年，市場對于大模型安全的關(guān)注重點(diǎn)是大模型自身安全，2025年，大模型安全風(fēng)險(xiǎn)已經(jīng)升級至智能體自身安全以及大模型應(yīng)用環(huán)境的安全。”4月18日，啟明星辰信息技術(shù)集團(tuán)股份有限公司（以下簡稱“啟明星辰”）發(fā)布了投資者關(guān)系活動(dòng)記錄表，在此次投資者關(guān)系活動(dòng)中，啟明星辰副總經(jīng)理、首席戰(zhàn)略官潘柱廷公開表示。他強(qiáng)調(diào)，AI智能體賦能千行百業(yè)的同時(shí)，風(fēng)險(xiǎn)也隨之升級。

    在過去一年里，人工智能技術(shù)正以革命性的姿態(tài)推進(jìn)千行百業(yè)的智能化轉(zhuǎn)型。IDC預(yù)測，到2026年，將有50%的中國500強(qiáng)企業(yè)的數(shù)據(jù)團(tuán)隊(duì)通過使用AI智能體來實(shí)現(xiàn)數(shù)據(jù)準(zhǔn)備和分析。網(wǎng)絡(luò)安全公司Symantec此前公開表示，該公司研究人員發(fā)現(xiàn)AI智能體可以像人類黑客一樣掃描和鎖定系統(tǒng)漏洞，并且能夠通過自然語言交互騙取用戶信任，竊取敏感數(shù)據(jù)。

    如何讓AI智能體成為提高工作效率的助手，而不是淪為黑客的“幫兇”正在成為啟明星辰等頭部網(wǎng)安企業(yè)正在攻克的難題。記者了解到，目前，啟明星辰等網(wǎng)絡(luò)安全行業(yè)頭部企業(yè)正在積極應(yīng)對新的挑戰(zhàn)。

    網(wǎng)安攻防進(jìn)入“智能體對抗”新階段

    “我們正在面臨著日益復(fù)雜的網(wǎng)絡(luò)威脅。”在此前的2025中國移動(dòng)云智算大會(huì)上，啟明星辰相關(guān)工作人員告訴《證券日報(bào)》記者。

    啟明星辰日前披露的2024年年度報(bào)告顯示，生成式AI的規(guī)?；瘧?yīng)用推動(dòng)網(wǎng)絡(luò)安全攻防進(jìn)入“智能體對抗”新階段，網(wǎng)絡(luò)安全廠商正在加速構(gòu)建“以AI對抗AI”的動(dòng)態(tài)防御體系。2024年，啟明星辰先后發(fā)布了九天·泰合安全大模型以及安星智能體。

    “以AI安全+數(shù)據(jù)為例，啟明星辰深度融合九天、DeepSeek等大模型技術(shù)，推出數(shù)據(jù)安全智能體，通過數(shù)據(jù)庫以及大模型的邏輯推理能力實(shí)現(xiàn)風(fēng)險(xiǎn)的快速識(shí)別以及溯源。”上述啟明星辰工作人員表示，“我們現(xiàn)在可以對IP地址進(jìn)行風(fēng)險(xiǎn)識(shí)別，還能夠識(shí)別敏感數(shù)據(jù)并檢測敏感數(shù)據(jù)的流轉(zhuǎn)。”通過數(shù)據(jù)安全智能體，對數(shù)據(jù)風(fēng)險(xiǎn)的識(shí)別準(zhǔn)確率能夠從此前的70%提升至當(dāng)下的90%。

    該工作人員表示，未來，隨著數(shù)據(jù)安全智能體數(shù)據(jù)安全知識(shí)庫的持續(xù)迭代，其對數(shù)據(jù)風(fēng)險(xiǎn)的識(shí)別率能夠進(jìn)一步提升，推斷的結(jié)果會(huì)越來越準(zhǔn)確。未來，數(shù)據(jù)安全智能體對于風(fēng)險(xiǎn)的管控能力將逐步從事中干預(yù)提早至事前預(yù)防。

    此外，在上述大會(huì)的展臺(tái)上，工作人員向記者展示了啟明星辰基于九天·泰合安全大模型為核心驅(qū)動(dòng)引擎，深度整合各類安全工具構(gòu)建的智能體和智能體集群。“我們的智能體以集群化模式實(shí)現(xiàn)威脅狩獵、攻擊溯源和安全運(yùn)營前哨基地的協(xié)同聯(lián)動(dòng)，發(fā)揮安全智能體的群體智慧”。上述工作人員告訴記者，通過智能體的集群化運(yùn)營，各個(gè)智能體就能夠各司其職，并進(jìn)行統(tǒng)一整理及分析，用群體的智慧應(yīng)對復(fù)雜的網(wǎng)絡(luò)威脅，更加智能主動(dòng)防御，為用戶筑起較為全面的網(wǎng)絡(luò)安全防火墻。

    “同時(shí)智能體的集群化運(yùn)營至少能帶來兩類效率的提升。”該工作人員表示，“第一類是研判效率的提升，在日常工作中，運(yùn)維人員能夠在海量的數(shù)據(jù)中更高效地識(shí)別出風(fēng)險(xiǎn)數(shù)據(jù)；第二類是安全日志的降噪，集群化運(yùn)營能夠減少安全日志的誤報(bào)，提高告警質(zhì)量，同時(shí)優(yōu)化安全運(yùn)營效率。”

    據(jù)悉，啟明星辰打造的安星智能體已經(jīng)有了商業(yè)化落地。“目前中山市政務(wù)服務(wù)和數(shù)據(jù)管理局通過安星智能體的有效應(yīng)用實(shí)現(xiàn)了安全運(yùn)維效率的大幅度提升。”該工作人員表示。

    與中國移動(dòng)共建下一代防御體系

    潘柱廷將上述智能體集群稱為“MANUS化的智能體集群”。

    2025年3月初，號稱“全球首款全自主執(zhí)行復(fù)雜任務(wù)的數(shù)字代理人”的Manus一經(jīng)亮相即引起廣泛關(guān)注。這也引發(fā)了啟明星辰對于安全智能體集群的重新定義。

    據(jù)介紹，安全智能體集群的MANUS化路線，要求安全產(chǎn)業(yè)開展全面智能改造，一方面，讓基礎(chǔ)安全能力原子化、工具化、智能體化；另一方面，構(gòu)建一個(gè)多智能體、智能體集群的安全體系。安全智能體集群化運(yùn)營的核心則在于讓智能體具備獨(dú)立思考、規(guī)劃與執(zhí)行的能力，將安全運(yùn)營轉(zhuǎn)化為由智能體主導(dǎo)的自動(dòng)化、閉環(huán)化、持續(xù)優(yōu)化的業(yè)務(wù)進(jìn)程。

    為了實(shí)現(xiàn)這個(gè)目標(biāo)，啟明星辰通過構(gòu)建覆蓋資產(chǎn)梳理、脆弱性管理、威脅狩獵、事件響應(yīng)等9大核心場景的智能體集群，同時(shí)通過分布式?jīng)Q策架構(gòu)、動(dòng)態(tài)任務(wù)調(diào)度機(jī)制以及全局知識(shí)共享網(wǎng)絡(luò)形成分工明確且動(dòng)態(tài)聯(lián)動(dòng)的“智能體生態(tài)”。

    同時(shí)，為了提升AI的自主執(zhí)行能力，啟明星辰將每個(gè)智能體內(nèi)嵌可解釋的策略引擎，將企業(yè)安全基線、合規(guī)要求、業(yè)務(wù)優(yōu)先級等抽象規(guī)則轉(zhuǎn)化為具體動(dòng)作。此外，啟明星辰還促使智能體的決策模型通過持續(xù)吸收運(yùn)營數(shù)據(jù)、專家反饋、威脅情報(bào)進(jìn)行動(dòng)態(tài)調(diào)優(yōu)，從而實(shí)時(shí)反饋的進(jìn)化能力；借助DeepSeek大模型的多模態(tài)推理能力，提升智能體對零日攻擊、隱蔽APT等新型威脅進(jìn)行模式解構(gòu)的能力，從而實(shí)現(xiàn)面對未知威脅的自適應(yīng)。

    “自2025年2月6日起，啟明星辰以周為單位加速產(chǎn)品迭代，已完成多項(xiàng)技術(shù)升級，成功構(gòu)建完整的大模型應(yīng)用安全產(chǎn)品矩陣，形成了覆蓋全場景的大模型應(yīng)用安全防護(hù)體系。”潘柱廷表示。

    近期，中移（蘇州）軟件技術(shù)有限公司（即“中國移動(dòng)云能力中心”）運(yùn)行維護(hù)部總經(jīng)理王浩碩以《智能躍遷 安全升維-智算領(lǐng)域的下一代防御體系構(gòu)建》為主題發(fā)表演講。他表示，為了應(yīng)對大模型的廣泛應(yīng)用背景下，傳統(tǒng)安全體系難以應(yīng)對的技術(shù)暗面。移動(dòng)云提出了安全升維的理念，構(gòu)建智能免疫新型的防御范式。其中，防御體系的核心即為中國移動(dòng)有限公司（簡稱“中國移動(dòng)”）與啟明星辰聯(lián)合開發(fā)AI安全云腦。

    潘柱廷表示，作為中國移動(dòng)游戲?qū)Ｘ?zé)網(wǎng)信安全專業(yè)子公司，啟明星辰將與中國移動(dòng)持續(xù)深度協(xié)同，重點(diǎn)加大在AI安全治理、算網(wǎng)融合安全等領(lǐng)域的研發(fā)投入，共同構(gòu)建智能時(shí)代的安全基座，為數(shù)字中國建設(shè)提供堅(jiān)實(shí)的安全保障。

（編輯 張鈺鵬）