自年初以來(lái),，DeepSeek人工智能大模型在全球范圍內(nèi)掀起熱潮，引發(fā)廣泛關(guān)注與應(yīng)用,。DeepSeek的廣泛應(yīng)用為網(wǎng)絡(luò)安全帶來(lái)哪些挑戰(zhàn),？網(wǎng)絡(luò)安全行業(yè)如何利用好DeepSeek工具,，共贏發(fā)展新機(jī)遇？

2025年3月14日,，由《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)組織成員單位發(fā)起的技術(shù)沙龍活動(dòng)在北京舉行,，圍繞“網(wǎng)絡(luò)安全+DeepSeek”主題，與會(huì)的期刊理事會(huì)成員及行業(yè)內(nèi)相關(guān)專家,、學(xué)者,、科研市場(chǎng)人員40余人展開(kāi)熱烈討論。

北京交通大學(xué)教授盧云龍,、中央民族大學(xué)副教授于靜,、深圳云天勵(lì)飛技術(shù)股份有限公司技術(shù)負(fù)責(zé)人余曉填、深圳昂楷科技有限公司董事長(zhǎng)劉永波,、杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān)徐立松,、北京山石網(wǎng)科信息技術(shù)有限公司副總裁賈宇分別帶來(lái)精彩的主題報(bào)告。本次活動(dòng)由著名網(wǎng)絡(luò)安全專家郭守祥主持,。

活動(dòng)現(xiàn)場(chǎng)

北京交通大學(xué)盧云龍教授作了題為“AI Agent智能體：從云端智能到邊緣泛在”的主題報(bào)告,，從AI Agent智能體的發(fā)展背景,、核心框架與范式、關(guān)鍵技術(shù),、行業(yè)應(yīng)用,、挑戰(zhàn)與展望等方面詳細(xì)解讀了AI Agent技術(shù)。他指出,，在國(guó)家層面,，“十四五”規(guī)劃明確將人工智能作為核心驅(qū)動(dòng)力，推動(dòng)智能經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)的深度融合,，AI Agent作為新一代生產(chǎn)力工具被納入重點(diǎn)發(fā)展領(lǐng)域,。DeepSeek的廣泛應(yīng)用，將加速通用人工智能（AGI）時(shí)代到來(lái),，AI Agent將成為通往AGI的基石,。在強(qiáng)化學(xué)習(xí)的推動(dòng)下，DeepSeek展現(xiàn)出了此前未曾預(yù)見(jiàn)的推理能力,，同時(shí)通過(guò)工程與算法等深度耦合,，大幅降低成本。DeepSeek開(kāi)源其模型預(yù)示著開(kāi)源社區(qū)正以全新的方式推進(jìn)人工智能技術(shù)的發(fā)展,，加速通用人工智能時(shí)代到來(lái)并推動(dòng)AI Agent技術(shù)更加成熟,。

AI Agent在車聯(lián)網(wǎng)、移動(dòng)通信,、智慧交通,、智慧醫(yī)療、新興大模型,、通用Agent,、工作服務(wù)、安全服務(wù)等方面有廣泛應(yīng)用,。盧云龍表示,，目前大模型在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用，主要是以智能體為表現(xiàn)形式,，結(jié)合安全的場(chǎng)景,、數(shù)據(jù)、知識(shí),、工具,、流程等構(gòu)建完整的應(yīng)用服務(wù)。安全智能體的應(yīng)用場(chǎng)景包括供應(yīng)鏈安全,、流量檢測(cè),、郵件分析、數(shù)據(jù)安全,、樣本分析,、安全運(yùn)營(yíng)等,，全面賦能網(wǎng)絡(luò)安全。

北京交通大學(xué)教授 盧云龍

中央民族大學(xué)于靜副教授帶來(lái)“生成式人工智能大模型確權(quán)技術(shù)與挑戰(zhàn)”的主題報(bào)告,。當(dāng)前,，人工智能包括大模型技術(shù)得到突飛猛進(jìn)的發(fā)展，伴生而來(lái)的是,，如何發(fā)揮數(shù)據(jù)在其中的核心價(jià)值,。在數(shù)據(jù)流通共享的過(guò)程中，一個(gè)基礎(chǔ)的問(wèn)題就是如何確定數(shù)據(jù)的所有權(quán),。如果沒(méi)有確權(quán)作為基礎(chǔ)保障,，整個(gè)流通交易包括權(quán)益分配很難進(jìn)行。

于靜指出,，生成式模型面臨的確權(quán)問(wèn)題可總結(jié)為兩個(gè)方面：第一,，模型確權(quán)，涉及到模型盜用,，包括模型微調(diào),、壓縮等；模型濫用,，即用戶使用模型生成惡意內(nèi)容。第二,，數(shù)據(jù)確權(quán),，包括模型訓(xùn)練階段，訓(xùn)練數(shù)據(jù)未授權(quán)使用,，以及模型使用階段,，提示數(shù)據(jù)未授權(quán)使用。

在模型確權(quán)關(guān)鍵技術(shù)方面,，對(duì)于模型身份,，可使用白盒水印、黑盒水印,、灰盒水印,、無(wú)盒水印等方法，直接在模型中嵌入水印,，當(dāng)模型被盜取時(shí),，通過(guò)驗(yàn)證水印來(lái)驗(yàn)證模型身份。對(duì)于模型用戶身份,，可使用模型水印和模型指紋方法,，在已知分發(fā)用戶的情況下，在分發(fā)前向模型中嵌入用戶水?。ㄖ讣y）,，通過(guò)身份驗(yàn)證判斷模型的使用者/操作者,。

在數(shù)據(jù)確權(quán)方面，關(guān)鍵技術(shù)包括數(shù)據(jù)水印,、數(shù)據(jù)歸因和對(duì)抗攻擊,，分別對(duì)應(yīng)任務(wù)數(shù)據(jù)身份認(rèn)證、訓(xùn)練數(shù)據(jù)溯源和數(shù)據(jù)訪問(wèn)控制,。

于靜表示,，在生成式人工智能模型面臨知識(shí)產(chǎn)權(quán)保護(hù)或惡意信息溯源時(shí)，模型水印可以被視為一種重要監(jiān)管手段,。生成式模型水印技術(shù)方興未艾,，相關(guān)技術(shù)仍面臨嚴(yán)峻挑戰(zhàn)，如模型水印面對(duì)多維度攻擊的魯棒性,，模型水印分配,、存儲(chǔ)、驗(yàn)證的安全性,，開(kāi)放環(huán)境下的訓(xùn)練數(shù)據(jù)歸因,，提示圖像的有效歸因等。這些有待行業(yè)內(nèi)專家學(xué)者的進(jìn)一步探索,。

中央民族大學(xué)副教授 于靜

深圳云天勵(lì)飛技術(shù)股份有限公司技術(shù)負(fù)責(zé)人余曉填作了題為“DeepSeek大模型訓(xùn)練策略和算法優(yōu)化技術(shù)演進(jìn)”的主題報(bào)告,。報(bào)告詳細(xì)介紹了DeepSeek的發(fā)展路徑以及核心技術(shù)，結(jié)合云天勵(lì)飛的落地場(chǎng)景,，分享了DeepSeek在政務(wù)場(chǎng)景中的賦能應(yīng)用,。余曉填指出，DeepSeek的能力仍存在局限性,，AI是助手而非對(duì)手,。因?yàn)镈eepSeek大模型落地應(yīng)用面臨諸多挑戰(zhàn)，這包括性能挑戰(zhàn)：國(guó)產(chǎn)化的性能仍有瓶頸,，表現(xiàn)為顯存與帶寬不足,，并發(fā)效率待提升，長(zhǎng)文本處理能力有限,；性價(jià)比挑戰(zhàn)：最佳硬件成本需要優(yōu)化,，R1-671B雖是目前最好的大模型，但具體場(chǎng)景可能通過(guò)多尺寸模型協(xié)同才經(jīng)濟(jì),；安全挑戰(zhàn)：部署應(yīng)用安全系統(tǒng)缺失,，場(chǎng)景大模型應(yīng)用目前模型層與應(yīng)用層之間存在架構(gòu)脫節(jié)，需要基于統(tǒng)一系統(tǒng)接口,，實(shí)現(xiàn)內(nèi)容安全審核,、分級(jí)權(quán)限管理和接口對(duì)接等；數(shù)據(jù)安全治理挑戰(zhàn)：閉環(huán)數(shù)據(jù)治理難度大,，DeepSeek通用能力無(wú)法直接落地應(yīng)用,，需要大量的現(xiàn)有業(yè)務(wù)流程梳理,、本地知識(shí)庫(kù)治理等工作。所以在應(yīng)用場(chǎng)景落地中,，即使是領(lǐng)先的DeepSeek-R1也會(huì)犯常識(shí)性錯(cuò)誤,，未來(lái)一段時(shí)間AI仍是輔助角色，并非取代人的對(duì)手,。

活動(dòng)現(xiàn)場(chǎng)

深圳昂楷科技有限公司董事長(zhǎng)劉永波作了題為“大模型數(shù)據(jù)安全防護(hù)方案探討”的主題報(bào)告,。他指出，大模型系統(tǒng)更容易存在嚴(yán)重的數(shù)據(jù)安全問(wèn)題,。不管是公有模型還是私域模型,，都面臨數(shù)據(jù)泄露、竊取,、篡改等諸多風(fēng)險(xiǎn),，數(shù)據(jù)安全治理迫在眉睫。

劉永波指出,，為應(yīng)對(duì)大模型系統(tǒng)數(shù)據(jù)安全挑戰(zhàn),，必須采用數(shù)據(jù)安全運(yùn)營(yíng)理念進(jìn)行數(shù)據(jù)安全建設(shè)。大模型系統(tǒng)數(shù)據(jù)安全保護(hù)對(duì)象,、參與主體,、訪問(wèn)方式等眾多，在數(shù)據(jù)安全防護(hù)過(guò)程中,，需要從頂層規(guī)劃開(kāi)始,，明確安全策略方案、規(guī)范流程等,；再利用安全防護(hù)技術(shù)對(duì)安全風(fēng)險(xiǎn)進(jìn)行有效控制；同時(shí),，還需要持續(xù)運(yùn)營(yíng),，以保證持續(xù)防護(hù)效果。

另一方面,，大模型也可賦能數(shù)據(jù)安全,。利用大模型的內(nèi)容生成、自然語(yǔ)言處理,、上下文理解,、特征深度挖掘等能力，在數(shù)據(jù)安全產(chǎn)品研發(fā),、產(chǎn)品能力,、產(chǎn)品交付等方面進(jìn)行賦能，可顯著提升研發(fā)效率,、優(yōu)化用戶體驗(yàn),、推動(dòng)產(chǎn)品創(chuàng)新,。在進(jìn)行敏感數(shù)據(jù)識(shí)別過(guò)程中調(diào)用大模型能力，可大幅提升識(shí)別準(zhǔn)確率,。利用大模型強(qiáng)大的分析與決策能力,，基于數(shù)據(jù)、身份,、權(quán)限,、行為、策略五要素,，可對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)行智能識(shí)別,、智能挖掘，以及預(yù)判深層次未知風(fēng)險(xiǎn),。

深圳昂楷科技有限公司董事長(zhǎng) 劉永波

杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān)徐立松介紹了DeepSeek安全垂域解決方案——恒腦智能體,。安全垂域大模型與滿血R1協(xié)同工作，實(shí)現(xiàn)安全與擴(kuò)展性的兼顧,。恒腦智能體框架在安全性方面,，借助容器隔離技術(shù)達(dá)成代碼執(zhí)行隔離，針對(duì)租戶的知識(shí)庫(kù)訪問(wèn)及服務(wù)調(diào)用實(shí)施嚴(yán)格的權(quán)限管控,，結(jié)合內(nèi)容安全過(guò)濾,、熔斷回復(fù)機(jī)制以及價(jià)值觀對(duì)齊機(jī)制，全方位保障系統(tǒng)安全,。在功能性方面,，通過(guò)深度應(yīng)用推理加速、KV壓縮及上下文緩存等技術(shù),，借助任務(wù)調(diào)度機(jī)制,，實(shí)現(xiàn)復(fù)雜邏輯編排、多邊并發(fā)執(zhí)行及長(zhǎng)期記憶管理和使用,；基于泛節(jié)點(diǎn)架構(gòu),，提供高度自定義體驗(yàn)。在靈活性方面,，支持接入不同廠商,、遵循不同規(guī)則的大模型，借助網(wǎng)關(guān)實(shí)現(xiàn)靈活調(diào)度,，同時(shí)能夠?qū)崿F(xiàn)結(jié)構(gòu)化,、非結(jié)構(gòu)化、半結(jié)構(gòu)化知識(shí)的靈活接入,。在適配性方面,，具備廣泛的兼容性，可與英偉達(dá) A、H,、L及 4090D全系列算力無(wú)縫適配,，同時(shí)兼容華為昇騰、海光K100_AI系列,，并能夠在麒麟,、飛騰等國(guó)產(chǎn)化操作系統(tǒng)環(huán)境下完成部署與應(yīng)用。

杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān) 徐立松

北京山石網(wǎng)科信息技術(shù)有限公司副總裁賈宇分享了“智領(lǐng)未來(lái),，山石網(wǎng)科DeepSeek之路”的主題報(bào)告,。他指出，大模型雖然具有強(qiáng)大的功能,，但也存在巨大的安全風(fēng)險(xiǎn),，包括提示詞攻擊、供應(yīng)鏈安全,、模型無(wú)界濫用,、數(shù)據(jù)泄露、模型攻擊,、內(nèi)容合規(guī)等,。山石網(wǎng)科秉承“開(kāi)放融合、AI賦能,、智慧運(yùn)維”理念,，踐行可持續(xù)安全，實(shí)現(xiàn)多產(chǎn)品,，多業(yè)務(wù),，多伙伴之間的深度、智能協(xié)同防護(hù),，其自主研發(fā)的大模型應(yīng)用防火墻輕松開(kāi)啟大模型安全防護(hù),，讓AI更安全。

經(jīng)過(guò)十多年AI能力積累,，山石網(wǎng)科已將AI全面賦能產(chǎn)品和公司發(fā)展,，其DeepSeek大模型一體化安全解決方案具有開(kāi)箱即用、多部署形態(tài),、安全加固、算力開(kāi)放的特點(diǎn),，實(shí)現(xiàn)了提升業(yè)務(wù)安全性,，優(yōu)化安全運(yùn)營(yíng)效率，滿足數(shù)據(jù)隱私與合規(guī),，助力業(yè)務(wù)創(chuàng)新,，全面開(kāi)啟網(wǎng)安新紀(jì)元。

北京山石網(wǎng)科信息技術(shù)有限公司副總裁 賈宇

此次沙龍活動(dòng)為網(wǎng)絡(luò)安全發(fā)展與DeepSeek大模型搭建了一個(gè)融合互通的平臺(tái),，與會(huì)者普遍認(rèn)為,，在大模型時(shí)代下,，攻擊形式和網(wǎng)安需求的改變將刺激網(wǎng)絡(luò)安全市場(chǎng)，對(duì)行業(yè)發(fā)展有一定積極作用,。在自由交流環(huán)節(jié),，大家暢所欲言、熱烈討論,，紛紛表示收獲頗多,。

未來(lái)，《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)將組織更多主題的沙龍活動(dòng),，服務(wù)于網(wǎng)絡(luò)安全與數(shù)據(jù)治理領(lǐng)域的技術(shù)交流,、科技創(chuàng)新、產(chǎn)業(yè)發(fā)展,。

《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)于2023年底正式成立,，旨在服務(wù)于網(wǎng)絡(luò)強(qiáng)國(guó)和數(shù)字中國(guó)建設(shè)，匯聚“政,、產(chǎn),、學(xué)、研,、用”各領(lǐng)域智庫(kù)資源,，開(kāi)展網(wǎng)絡(luò)安全和數(shù)據(jù)治理領(lǐng)域重大問(wèn)題研究、學(xué)術(shù)交流,，促進(jìn)優(yōu)秀工程方案和解決方案的推廣應(yīng)用,。