重大升級 | SecGPT V2.0:打造真正“懂安全”的大模型

發(fā)布時(shí)間:2025-4-15 17:24    發(fā)布者:工程新聞

2025 年,AI不再只是內容生成工具,它正成為各行各業(yè)的“第二大腦”。

隨著(zhù)GPT-4.5、DeepSeek等新一代大模型的崛起,我們正進(jìn)入Agentic AI(智能體AI)的時(shí)代—— 它不僅能對話(huà),還能思考、執行和協(xié)作,正在重塑整個(gè)生產(chǎn)力范式:

AI Coding:開(kāi)發(fā)者從寫(xiě)代碼者,變?yōu)榧軜嫀熀椭笓]官

Deep Research:安全研究員配備“超級助手”,漏洞分析效率倍增

Security Copilot:SecGPT不再是提示詞工具,而是實(shí)戰中的“作戰參謀”



“模型即產(chǎn)品”正在成為現實(shí),Agentic AI 正走入你我身邊。

—— 引用自海外獨角獸發(fā)布材料

而這一次,云起無(wú)垠沒(méi)有止步于“能用”,我們在追求“好用”的同時(shí),更關(guān)注真正實(shí)戰可落地的AI安全能力。

從模型訓練、數據構建、能力評測,到安全Copilot應用,我們打造出更聰明、更安全、更懂安全的SecGPT 2.0。開(kāi)源模型可以去github下載使用。

Github開(kāi)源地址:Clouditera/SecGPT

模型下載地址:clouditera/secgpt

數據集下載地址:datasets/clouditera/security-paper-datasets

下一站,我們將共同邁入Agentic Security的未來(lái)。

歡迎加入這場(chǎng)由“安全智能體”引領(lǐng)的技術(shù)革新!

01什么是SecGPT?

在通用大模型席卷全球的今天,云起無(wú)垠選擇了一條不同的路:打造真正懂網(wǎng)絡(luò )安全的大模型。

這不是一次“技術(shù)熱潮”的追隨,而是一次面向實(shí)戰的系統性創(chuàng )新。

SecGPT,正是我們在2023年推出的開(kāi)源成果——全球首個(gè)聚焦網(wǎng)絡(luò )安全的大模型。

|我們希望它不只是“會(huì )說(shuō)安全”,而是真正能“做安全”的智能體。

自發(fā)布以來(lái),SecGPT持續受到全球安全技術(shù)社區的高度關(guān)注:

GitHub收獲Star數突破2,300+

HuggingFace下載量超過(guò)10,000+

被數十家安全團隊用于安全問(wèn)答、漏洞歸因、攻防演練等實(shí)戰任務(wù)

SecGPT 能做什么?

SecGPT融合了自然語(yǔ)言理解、代碼生成、安全知識推理等核心能力,已經(jīng)能夠勝任多種關(guān)鍵安全任務(wù):

漏洞分析:識別漏洞成因、評估影響范圍、提出修復建議

日志/流量溯源:輔助分析攻擊鏈、復原攻擊路徑

異常檢測:解析網(wǎng)絡(luò )行為,判斷是否存在潛在威脅

攻防推理:支持紅隊演練/藍隊研判,完成多輪策略分析

命令解析:識別腳本意圖,揭示潛在風(fēng)險操作

知識問(wèn)答:成為團隊“即問(wèn)即答”的安全知識庫

這些能力不再停留在“能回答”,而是可以被“調用”、“組合”、“協(xié)同”執行,支撐起復雜的安全智能任務(wù)流。



SecGPT 的定位:安全智能體的核心引擎

在“云起AI安全大腦”體系中,SecGPT是整個(gè)系統的統一語(yǔ)言理解與推理核心。

理解自然語(yǔ)言:大幅降低使用門(mén)檻,助力非安全專(zhuān)家也能上手

融合安全知識:具備上下文關(guān)聯(lián)與多步推理能力

持續學(xué)習反饋:具備智能體持續優(yōu)化、自我增強的能力

無(wú)論是作為單點(diǎn)智能助手,還是嵌入式任務(wù)引擎,SecGPT都已具備強大的適配性、擴展性與安全可控性。

02為什么我們要持續更新SecGPT?

自2023年SecGPT開(kāi)源以來(lái),大語(yǔ)言模型技術(shù)持續突飛猛進(jìn)。從語(yǔ)言理解到邏輯推理,再到工具調用與多任務(wù)協(xié)同,行業(yè)標準幾經(jīng)更替,邁入智能體(Agentic AI)時(shí)代。與此同時(shí),云起無(wú)垠也在持續推進(jìn)商業(yè)版安全大模型 SecGPT Pro 的多輪迭代,核心能力已實(shí)現代際躍升。

但開(kāi)源版本仍停留在早期階段,在語(yǔ)言表達、安全理解與接口兼容性方面逐漸顯現出技術(shù)邊界,難以應對當前復雜多變的安全任務(wù)需求。因此,我們決定對SecGPT開(kāi)源模型進(jìn)行全面升級,持續回饋全球安全社區,并助推安全智能體在更多場(chǎng)景中的落地與演化。

1)模型基礎設施演進(jìn),舊模型能力邊界逐漸暴露

大語(yǔ)言模型領(lǐng)域的基礎設施已經(jīng)發(fā)生底層變動(dòng)。相比早期模型,新一代模型具備更長(cháng)上下文處理能力、更高效的注意力機制、結構更清晰的工具調用接口,以及支持Agent工作流的任務(wù)控制能力。例如,支持MCP協(xié)議、ReAct思維鏈、Routing插件架構、Function Calling、工具上下文記憶、部署端的量化控制與微調架構等,都已成為安全智能體設計中的“新基礎”。

一旦開(kāi)源模型長(cháng)期不更新,將面臨以下技術(shù)脫節問(wèn)題:

無(wú)法適配新一代推理引擎(如 vLLM、TGI)

無(wú)法兼容結構化插件調用(Function/API 調度)

缺失任務(wù)鏈調度能力(Task-Aware Routing)

微調體系無(wú)法與最新安全數據對齊(SFT+RLHF+RAG混合)

隨著(zhù)智能體形態(tài)的普及,能力缺口將迅速放大,直接影響用戶(hù)體驗和模型落地價(jià)值。

2)安全任務(wù)結構升級,對模型能力提出多維要求

早期模型使用者多集中于問(wèn)答類(lèi)任務(wù),例如安全知識普及、命令解析、腳本理解等。這類(lèi)任務(wù)主要依賴(lài)語(yǔ)言理解能力,結構相對簡(jiǎn)單。然而,當安全模型真正進(jìn)入研發(fā)、攻防、運營(yíng)等實(shí)際場(chǎng)景后,任務(wù)呈現出明顯的結構化、多輪化、工具化趨勢:

漏洞鏈條重建→多日志輸入+多階段因果推理

多語(yǔ)言項目審計→代碼上下文建模+跨文件引用分析

安全知識圖譜構建→抽取實(shí)體/關(guān)系+圖結構生成

安全運營(yíng)協(xié)同→工具調度+狀態(tài)反饋+報告輸出

這類(lèi)任務(wù)要求模型不僅具備語(yǔ)義理解能力,還要具備:

推理路徑構建能力(Chain-of-Thought/Tree-of-Thought)

知識檢索與融合能力(用于語(yǔ)境增強與準確性提升)

任務(wù)規劃與階段控制能力(支持多輪次有狀態(tài)任務(wù)執行)

多工具協(xié)同使用能力(如模糊測試 + 漏洞掃描 + 資產(chǎn)識別)

原有SecGPT模型架構難以完成上述能力組合,僅靠 Prompt 注入或零樣本提示遠遠不夠。

3)現實(shí)挑戰:通用模型無(wú)法替代專(zhuān)業(yè)安全模型

盡管DeepSeek、Qwen、LLaMA等開(kāi)源大模型在通用語(yǔ)言理解、代碼生成等任務(wù)中取得顯著(zhù)進(jìn)展,但在安全場(chǎng)景下,它們面臨以下結構性瓶頸,尤其在企業(yè)級私有部署環(huán)境中更為突出:

(1)知識盲區廣泛,缺乏關(guān)鍵安全語(yǔ)料支撐

通用模型訓練語(yǔ)料以開(kāi)放領(lǐng)域為主,嚴重缺乏如下高價(jià)值安全語(yǔ)料:滲透測試日志、攻擊鏈行為樣本、系統調用軌跡、漏洞利用(PoC/Exp)、紅隊審計報告等。這直接限制了其對實(shí)戰攻防細節的掌握能力。

(2)語(yǔ)義建模能力薄弱,缺乏安全背景意識

在漏洞成因理解、系統語(yǔ)境建模、協(xié)議行為解析等任務(wù)中,通用模型的理解能力多停留在淺層表述,無(wú)法進(jìn)行因果鏈條建模與深層語(yǔ)義推理,缺乏“攻防語(yǔ)境”下的專(zhuān)業(yè)認知。

(3)工具接口調用不精準,缺失系統適配能力

通用模型未針對安全工具(如模糊測試框架、漏洞掃描器、靜態(tài)分析引擎等)進(jìn)行微調和適配,導致在調用第三方接口時(shí)經(jīng)常出現參數配置錯誤、上下文不匹配、調用邏輯混亂等問(wèn)題,嚴重影響任務(wù)可執行性和穩定性。

(4)任務(wù)鏈結構理解缺失,推理與執行脫節

安全任務(wù)往往涉及多步推理(理解→分析→調用工具→收集反饋→修復建議),通用模型缺乏對這類(lèi)“任務(wù)鏈”結構的建模能力,常常出現中途跳躍、邏輯斷裂、輸出不可收斂等現象,無(wú)法勝任復雜工作流調度任務(wù)。

當前通用大模型在安全場(chǎng)景中往往表現為“語(yǔ)言流暢但邏輯混亂,表達順暢但結果失真”。在真實(shí)系統環(huán)境下,其輸出容易出現答非所問(wèn)、指令不收斂、工具調用失敗、上下文錯亂等問(wèn)題,難以支撐企業(yè)對安全智能體高可信、高精度、高可控的實(shí)際需求。

03本次更新,SecGPT能力提升了哪些維度?

本輪升級,我們同步發(fā)布了1.5B / 7B / 14B三個(gè)模型規格,全面適配從低配CPU、本地4090 GPU到企業(yè)級多卡集群等多種運行環(huán)境,實(shí)現大模型能力的普適化落地。更大規模的32B、72B、671B旗艦版也將在后續分批開(kāi)放,進(jìn)一步支撐企業(yè)級復雜安全任務(wù)的多輪推理與智能決策。

本輪更新亮點(diǎn)

1. 更強的基座能力:通用+安全深度融合

我們基于Qwen2.5-Instruct系列與DeepSeek-R1系列基座模型,結合自建安全任務(wù)集與安全知識庫,在8臺A100 GPU集群上持續訓練一周以上,完成大規模預訓練 + 指令微調 + 強化學(xué)習,顯著(zhù)提升模型在安全場(chǎng)景中的理解、推理與響應能力。

下圖展示了一次訓練過(guò)程中各關(guān)鍵指標的演化軌跡:

訓練與驗證損失(train/loss 與 eval/loss):二者均呈現出平穩下降趨勢,說(shuō)明模型在訓練集與驗證集上均持續收斂,未出現過(guò)擬合跡象。

學(xué)習率曲線(xiàn)(train/learning_rate):采用典型的 Warmup + 衰減策略,有效提升了早期訓練的穩定性與收斂速度。

梯度范數(train/grad_norm):整體波動(dòng)平穩,僅在少數步數存在輕微尖峰,未出現梯度爆炸或消失,表明訓練過(guò)程健康穩定。

評估表現:eval/runtime與 eval/samples_per_second波動(dòng)范圍小,說(shuō)明在評估過(guò)程中系統資源使用高效,推理吞吐量穩定。

其他指標:如訓練輪數(train/epoch)、輸入token 數量(train/num_input_tokens_seen)等也表明訓練過(guò)程如期進(jìn)行,達成預期計劃。



模型訓練與評估過(guò)程示例圖

2. 更大的高質(zhì)量安全語(yǔ)料庫:私有 + 公共數據雙輪驅動(dòng)

我們已構建了一個(gè)超大規模、結構完備的網(wǎng)絡(luò )安全語(yǔ)料庫,總量超過(guò)5TB、共計106,721個(gè)原始文件,其中超過(guò) 40%內容為人工精選與結構化處理。私有數據部分系統整合了具備70+字段 / 14類(lèi)結構標簽體系的安全數據資源,經(jīng)過(guò)統一清洗、語(yǔ)義標注與重構,構建出數百億 Tokens 級的高質(zhì)量語(yǔ)料,為大模型深度推理能力提供堅實(shí)支撐。

下圖展示了該語(yǔ)料庫的構成維度,整體采集邏輯遵循“理論支撐 — 實(shí)戰對抗 — 應用落地”三層結構體系:

理論支撐:涵蓋法律法規、學(xué)術(shù)論文、行業(yè)報告等權威資料,為模型提供穩固的知識基座;

實(shí)戰對抗:包括漏洞詳情、CTF題庫、日志流量、惡意樣本與逆向分析等數據,提升模型對真實(shí)攻擊行為的識別與追蹤能力;

應用落地:涵蓋安全社區博客、教育培訓資料、安全知識圖譜與自動(dòng)化策略,增強模型在安全運營(yíng)、輔助決策等場(chǎng)景中的適配能力。

技術(shù)亮點(diǎn):

雙輪驅動(dòng)機制(私有 + 公共數據)保障語(yǔ)料在廣度與深度上的協(xié)同提升;

多維標簽體系使語(yǔ)料具備更強的結構化能力與上下文理解能力;

三層語(yǔ)料構建邏輯覆蓋從知識構建、威脅應對到實(shí)戰部署的完整安全任務(wù)鏈路。



3. 能力躍升:SecGPT正在蛻變?yōu)椤鞍踩帧?/p>

通過(guò)多輪數據優(yōu)化與任務(wù)精調,SecGPT已實(shí)現多個(gè)能力維度的跨越式進(jìn)展:

更懂攻擊鏈、攻防語(yǔ)言與行業(yè)術(shù)語(yǔ)

更擅長(cháng)處理復雜日志與漏洞描述

更適配私有化部署、邊緣推理等現實(shí)場(chǎng)景

核心能力提升詳解

1. 模型能力評測:全面指標躍升,實(shí)戰智能初現

為全面評估 SecGPT 的安全實(shí)戰能力,我們構建了一套覆蓋安全證書(shū)問(wèn)答、安全通識、編程能力、知識理解與推理能力的綜合評估體系,主要采用以下標準化數據集:CISSP、CS-EVAL、CEVAL、GSM8K、BBH。



在與原始模型 SecGPT-mini 的對比中,訓練后的模型在所有指標上均實(shí)現大幅躍升,具體如下:

1)模型橫向評測對比表



能力躍升解讀:

mini→1.5B:具備“能答對”的基礎問(wèn)答能力,適配中低復雜度任務(wù);

1.5B→7B:推理深度、泛化能力顯著(zhù)增強,能理解任務(wù)意圖并構建較為完整的解決路徑;

7B→14B:能力躍遷至“類(lèi)專(zhuān)家”級,能夠處理高復雜度推理、安全策略制定等高階任務(wù)。

模型橫向評測對比

相較于基礎模型 Qwen2.5-Instruct,SecGPT 在所有評測指標上均實(shí)現實(shí)質(zhì)性超越,反映出我們在數據構建、微調范式、安全任務(wù)精調機制上的整體優(yōu)化成效:


洞察亮點(diǎn):

在CISSP和CS-EVAL等安全類(lèi)數據集上,SecGPT 在所有參數規模下均表現優(yōu)于Qwen2.5同規格版本;

表明我們構建的安全任務(wù)指令集與精調策略已顯著(zhù)提升模型的實(shí)戰應用能力與專(zhuān)業(yè)問(wèn)答深度。

2. 安全能力提升:更全、更準、更專(zhuān)業(yè)

本輪升級中,SecGPT在安全知識問(wèn)答方面完成了從信息整合到邏輯輸出的能力躍遷,具體體現在:

知識覆蓋更全面:引入了涵蓋法律法規、攻擊戰術(shù)、逆向分析等14類(lèi)安全知識領(lǐng)域的結構化語(yǔ)料;

答案生成更精準:通過(guò)多輪對話(huà)控制與語(yǔ)義優(yōu)化技術(shù),提升了問(wèn)答對齊率與上下文記憶穩定性;

推理能力更突出:具備多段知識聯(lián)結與復合邏輯推演能力,能完成如攻擊鏈分析、威脅研判等復雜任務(wù)。

1)滲透測試場(chǎng)景能力

SecGPT 能夠模擬滲透攻擊流程,從信息收集、漏洞利用到提權橫向,具備關(guān)鍵工具命令分析、Payload 構造、利用鏈生成等能力。



2)日志分析和流量分析能力

在安全日志與網(wǎng)絡(luò )流量場(chǎng)景下,SecGPT 能自動(dòng)識別異常事件、構建攻擊鏈圖譜、抽取關(guān)鍵 IOC(Indicator of Compromise),輔助完成事件溯源與告警分類(lèi)。



3)逆向分析能力

基于對反匯編、API調用序列、加殼行為等低層數據的理解,SecGPT能輔助完成惡意樣本的靜態(tài)分析、特征提取與家族歸類(lèi),具備一定的逆向輔助解讀能力。



代碼





5)工具使用



04接下來(lái),我們要做的還有很多……

1. 發(fā)布首份網(wǎng)絡(luò )安全大模型基準評測報告

我們即將發(fā)布首份網(wǎng)絡(luò )安全大模型能力評測與選型報告,圍繞威脅情報問(wèn)答、代碼審計、日志分析等典型場(chǎng)景,構建一套系統化、透明且可復現的評測體系,全面對比當前主流模型的能力邊界。這份報告不僅為安全技術(shù)社區提供清晰的對比依據,也將成為合作伙伴制定Fine-tune策略 和智能體架構選型的關(guān)鍵參考材料。

2. 全面復盤(pán):如何訓練一個(gè)真正“懂安全”的大模型

盡管通用大模型在語(yǔ)言理解領(lǐng)域已取得顯著(zhù)進(jìn)展,但能夠真正理解攻擊鏈邏輯、漏洞細節、勝任安全推理與實(shí)戰輔助的大模型仍然稀缺。 我們將以全棧視角,全面復盤(pán)“如何訓練一個(gè)好用的安全大模型”,包括高質(zhì)量安全訓練數據構建、模型架構調優(yōu)、多任務(wù)對齊訓練、能力評測體系設計等關(guān)鍵環(huán)節,打通數據→算法→評測的閉環(huán)路徑,推動(dòng)安全智能體的實(shí)用化落地。

3. 自動(dòng)化 CTF 解題能力建設:邁向安全智能體的第一步

我們正在持續推進(jìn)SecGPT在CTF解題任務(wù)中的自動(dòng)化能力,目標是實(shí)現“理解題意 → 推理思路 → 構造Payload → 完成解題”的閉環(huán)流程。

目前模型已在大量真實(shí)題目中完成微調,具備初步能力:理解題意與還原考點(diǎn),自動(dòng)構造注入、命令執行、ROP等攻擊鏈,解釋與變換攻擊命令含義,同類(lèi)題型的遷移泛化表現良好。

下一步,我們將聚焦標準化數據構建、解題評分指標、自動(dòng)解題Agent原型開(kāi)發(fā),以及聯(lián)合社區開(kāi)展實(shí)戰挑戰驗證。CTF場(chǎng)景將成為安全大模型邁向Agent化的典型突破口。

4. 安全訓練數據集逐步開(kāi)放,共建數據基座

我們正在建設并逐步開(kāi)放一批具備混合結構、場(chǎng)景標簽的高質(zhì)量安全數據集,覆蓋知識問(wèn)答、代碼審計、漏洞挖掘、威脅情報解析、流量分析等關(guān)鍵任務(wù)場(chǎng)景。 未來(lái)將支持多語(yǔ)言、多模態(tài)、多任務(wù)協(xié)同訓練,進(jìn)一步增強安全大模型的泛化能力和實(shí)戰適應性。我們誠邀社區、企業(yè)、高校共同參與數據共建,共同筑牢安全模型的數據底座。

05最后,邀請你一起參與SecGPT的共建

SecGPT的成長(cháng)離不開(kāi)安全社區的反饋與參與。我們歡迎:

安全研究員提供數據、使用場(chǎng)景與測試建議

企業(yè)用戶(hù)參與內測,共同打造實(shí)用、可靠、安全的行業(yè)模型

歡迎關(guān)注我們,即將開(kāi)放下一輪模型內測與插件測試通道!

你最希望SecGPT能替你解決哪些安全難題?歡迎留言討論????




本文地址:http://selenalain.com/thread-885759-1-1.html     【打印本頁(yè)】

本站部分文章為轉載或網(wǎng)友發(fā)布,目的在于傳遞和分享信息,并不代表本網(wǎng)贊同其觀(guān)點(diǎn)和對其真實(shí)性負責;文章版權歸原作者及原出處所有,如涉及作品內容、版權和其它問(wèn)題,我們將根據著(zhù)作權人的要求,第一時(shí)間更正或刪除。
您需要登錄后才可以發(fā)表評論 登錄 | 立即注冊

關(guān)于我們  -  服務(wù)條款  -  使用指南  -  站點(diǎn)地圖  -  友情鏈接  -  聯(lián)系我們
電子工程網(wǎng) © 版權所有   京ICP備16069177號 | 京公網(wǎng)安備11010502021702
快速回復 返回頂部 返回列表
午夜高清国产拍精品福利|亚洲色精品88色婷婷七月丁香|91久久精品无码一区|99久久国语露脸精品|动漫卡通亚洲综合专区48页