2025 年,AI不再只是內容生成工具,它正成為各行各業(yè)的“第二大腦”。 隨著(zhù)GPT-4.5、DeepSeek等新一代大模型的崛起,我們正進(jìn)入Agentic AI(智能體AI)的時(shí)代—— 它不僅能對話(huà),還能思考、執行和協(xié)作,正在重塑整個(gè)生產(chǎn)力范式: AI Coding:開(kāi)發(fā)者從寫(xiě)代碼者,變?yōu)榧軜嫀熀椭笓]官 Deep Research:安全研究員配備“超級助手”,漏洞分析效率倍增 Security Copilot:SecGPT不再是提示詞工具,而是實(shí)戰中的“作戰參謀” “模型即產(chǎn)品”正在成為現實(shí),Agentic AI 正走入你我身邊。 —— 引用自海外獨角獸發(fā)布材料 而這一次,云起無(wú)垠沒(méi)有止步于“能用”,我們在追求“好用”的同時(shí),更關(guān)注真正實(shí)戰可落地的AI安全能力。 從模型訓練、數據構建、能力評測,到安全Copilot應用,我們打造出更聰明、更安全、更懂安全的SecGPT 2.0。開(kāi)源模型可以去github下載使用。 Github開(kāi)源地址:Clouditera/SecGPT 模型下載地址:clouditera/secgpt 數據集下載地址:datasets/clouditera/security-paper-datasets 下一站,我們將共同邁入Agentic Security的未來(lái)。 歡迎加入這場(chǎng)由“安全智能體”引領(lǐng)的技術(shù)革新! 01什么是SecGPT? 在通用大模型席卷全球的今天,云起無(wú)垠選擇了一條不同的路:打造真正懂網(wǎng)絡(luò )安全的大模型。 這不是一次“技術(shù)熱潮”的追隨,而是一次面向實(shí)戰的系統性創(chuàng )新。 SecGPT,正是我們在2023年推出的開(kāi)源成果——全球首個(gè)聚焦網(wǎng)絡(luò )安全的大模型。 |我們希望它不只是“會(huì )說(shuō)安全”,而是真正能“做安全”的智能體。 自發(fā)布以來(lái),SecGPT持續受到全球安全技術(shù)社區的高度關(guān)注: GitHub收獲Star數突破2,300+ HuggingFace下載量超過(guò)10,000+ 被數十家安全團隊用于安全問(wèn)答、漏洞歸因、攻防演練等實(shí)戰任務(wù) SecGPT 能做什么? SecGPT融合了自然語(yǔ)言理解、代碼生成、安全知識推理等核心能力,已經(jīng)能夠勝任多種關(guān)鍵安全任務(wù): 漏洞分析:識別漏洞成因、評估影響范圍、提出修復建議 日志/流量溯源:輔助分析攻擊鏈、復原攻擊路徑 異常檢測:解析網(wǎng)絡(luò )行為,判斷是否存在潛在威脅 攻防推理:支持紅隊演練/藍隊研判,完成多輪策略分析 命令解析:識別腳本意圖,揭示潛在風(fēng)險操作 知識問(wèn)答:成為團隊“即問(wèn)即答”的安全知識庫 這些能力不再停留在“能回答”,而是可以被“調用”、“組合”、“協(xié)同”執行,支撐起復雜的安全智能任務(wù)流。 SecGPT 的定位:安全智能體的核心引擎 在“云起AI安全大腦”體系中,SecGPT是整個(gè)系統的統一語(yǔ)言理解與推理核心。 理解自然語(yǔ)言:大幅降低使用門(mén)檻,助力非安全專(zhuān)家也能上手 融合安全知識:具備上下文關(guān)聯(lián)與多步推理能力 持續學(xué)習反饋:具備智能體持續優(yōu)化、自我增強的能力 無(wú)論是作為單點(diǎn)智能助手,還是嵌入式任務(wù)引擎,SecGPT都已具備強大的適配性、擴展性與安全可控性。 02為什么我們要持續更新SecGPT? 自2023年SecGPT開(kāi)源以來(lái),大語(yǔ)言模型技術(shù)持續突飛猛進(jìn)。從語(yǔ)言理解到邏輯推理,再到工具調用與多任務(wù)協(xié)同,行業(yè)標準幾經(jīng)更替,邁入智能體(Agentic AI)時(shí)代。與此同時(shí),云起無(wú)垠也在持續推進(jìn)商業(yè)版安全大模型 SecGPT Pro 的多輪迭代,核心能力已實(shí)現代際躍升。 但開(kāi)源版本仍停留在早期階段,在語(yǔ)言表達、安全理解與接口兼容性方面逐漸顯現出技術(shù)邊界,難以應對當前復雜多變的安全任務(wù)需求。因此,我們決定對SecGPT開(kāi)源模型進(jìn)行全面升級,持續回饋全球安全社區,并助推安全智能體在更多場(chǎng)景中的落地與演化。 1)模型基礎設施演進(jìn),舊模型能力邊界逐漸暴露 大語(yǔ)言模型領(lǐng)域的基礎設施已經(jīng)發(fā)生底層變動(dòng)。相比早期模型,新一代模型具備更長(cháng)上下文處理能力、更高效的注意力機制、結構更清晰的工具調用接口,以及支持Agent工作流的任務(wù)控制能力。例如,支持MCP協(xié)議、ReAct思維鏈、Routing插件架構、Function Calling、工具上下文記憶、部署端的量化控制與微調架構等,都已成為安全智能體設計中的“新基礎”。 一旦開(kāi)源模型長(cháng)期不更新,將面臨以下技術(shù)脫節問(wèn)題: 無(wú)法適配新一代推理引擎(如 vLLM、TGI) 無(wú)法兼容結構化插件調用(Function/API 調度) 缺失任務(wù)鏈調度能力(Task-Aware Routing) 微調體系無(wú)法與最新安全數據對齊(SFT+RLHF+RAG混合) 隨著(zhù)智能體形態(tài)的普及,能力缺口將迅速放大,直接影響用戶(hù)體驗和模型落地價(jià)值。 2)安全任務(wù)結構升級,對模型能力提出多維要求 早期模型使用者多集中于問(wèn)答類(lèi)任務(wù),例如安全知識普及、命令解析、腳本理解等。這類(lèi)任務(wù)主要依賴(lài)語(yǔ)言理解能力,結構相對簡(jiǎn)單。然而,當安全模型真正進(jìn)入研發(fā)、攻防、運營(yíng)等實(shí)際場(chǎng)景后,任務(wù)呈現出明顯的結構化、多輪化、工具化趨勢: 漏洞鏈條重建→多日志輸入+多階段因果推理 多語(yǔ)言項目審計→代碼上下文建模+跨文件引用分析 安全知識圖譜構建→抽取實(shí)體/關(guān)系+圖結構生成 安全運營(yíng)協(xié)同→工具調度+狀態(tài)反饋+報告輸出 這類(lèi)任務(wù)要求模型不僅具備語(yǔ)義理解能力,還要具備: 推理路徑構建能力(Chain-of-Thought/Tree-of-Thought) 知識檢索與融合能力(用于語(yǔ)境增強與準確性提升) 任務(wù)規劃與階段控制能力(支持多輪次有狀態(tài)任務(wù)執行) 多工具協(xié)同使用能力(如模糊測試 + 漏洞掃描 + 資產(chǎn)識別) 原有SecGPT模型架構難以完成上述能力組合,僅靠 Prompt 注入或零樣本提示遠遠不夠。 3)現實(shí)挑戰:通用模型無(wú)法替代專(zhuān)業(yè)安全模型 盡管DeepSeek、Qwen、LLaMA等開(kāi)源大模型在通用語(yǔ)言理解、代碼生成等任務(wù)中取得顯著(zhù)進(jìn)展,但在安全場(chǎng)景下,它們面臨以下結構性瓶頸,尤其在企業(yè)級私有部署環(huán)境中更為突出: (1)知識盲區廣泛,缺乏關(guān)鍵安全語(yǔ)料支撐 通用模型訓練語(yǔ)料以開(kāi)放領(lǐng)域為主,嚴重缺乏如下高價(jià)值安全語(yǔ)料:滲透測試日志、攻擊鏈行為樣本、系統調用軌跡、漏洞利用(PoC/Exp)、紅隊審計報告等。這直接限制了其對實(shí)戰攻防細節的掌握能力。 (2)語(yǔ)義建模能力薄弱,缺乏安全背景意識 在漏洞成因理解、系統語(yǔ)境建模、協(xié)議行為解析等任務(wù)中,通用模型的理解能力多停留在淺層表述,無(wú)法進(jìn)行因果鏈條建模與深層語(yǔ)義推理,缺乏“攻防語(yǔ)境”下的專(zhuān)業(yè)認知。 (3)工具接口調用不精準,缺失系統適配能力 通用模型未針對安全工具(如模糊測試框架、漏洞掃描器、靜態(tài)分析引擎等)進(jìn)行微調和適配,導致在調用第三方接口時(shí)經(jīng)常出現參數配置錯誤、上下文不匹配、調用邏輯混亂等問(wèn)題,嚴重影響任務(wù)可執行性和穩定性。 (4)任務(wù)鏈結構理解缺失,推理與執行脫節 安全任務(wù)往往涉及多步推理(理解→分析→調用工具→收集反饋→修復建議),通用模型缺乏對這類(lèi)“任務(wù)鏈”結構的建模能力,常常出現中途跳躍、邏輯斷裂、輸出不可收斂等現象,無(wú)法勝任復雜工作流調度任務(wù)。 當前通用大模型在安全場(chǎng)景中往往表現為“語(yǔ)言流暢但邏輯混亂,表達順暢但結果失真”。在真實(shí)系統環(huán)境下,其輸出容易出現答非所問(wèn)、指令不收斂、工具調用失敗、上下文錯亂等問(wèn)題,難以支撐企業(yè)對安全智能體高可信、高精度、高可控的實(shí)際需求。 03本次更新,SecGPT能力提升了哪些維度? 本輪升級,我們同步發(fā)布了1.5B / 7B / 14B三個(gè)模型規格,全面適配從低配CPU、本地4090 GPU到企業(yè)級多卡集群等多種運行環(huán)境,實(shí)現大模型能力的普適化落地。更大規模的32B、72B、671B旗艦版也將在后續分批開(kāi)放,進(jìn)一步支撐企業(yè)級復雜安全任務(wù)的多輪推理與智能決策。 本輪更新亮點(diǎn) 1. 更強的基座能力:通用+安全深度融合 我們基于Qwen2.5-Instruct系列與DeepSeek-R1系列基座模型,結合自建安全任務(wù)集與安全知識庫,在8臺A100 GPU集群上持續訓練一周以上,完成大規模預訓練 + 指令微調 + 強化學(xué)習,顯著(zhù)提升模型在安全場(chǎng)景中的理解、推理與響應能力。 下圖展示了一次訓練過(guò)程中各關(guān)鍵指標的演化軌跡: 訓練與驗證損失(train/loss 與 eval/loss):二者均呈現出平穩下降趨勢,說(shuō)明模型在訓練集與驗證集上均持續收斂,未出現過(guò)擬合跡象。 學(xué)習率曲線(xiàn)(train/learning_rate):采用典型的 Warmup + 衰減策略,有效提升了早期訓練的穩定性與收斂速度。 梯度范數(train/grad_norm):整體波動(dòng)平穩,僅在少數步數存在輕微尖峰,未出現梯度爆炸或消失,表明訓練過(guò)程健康穩定。 評估表現:eval/runtime與 eval/samples_per_second波動(dòng)范圍小,說(shuō)明在評估過(guò)程中系統資源使用高效,推理吞吐量穩定。 其他指標:如訓練輪數(train/epoch)、輸入token 數量(train/num_input_tokens_seen)等也表明訓練過(guò)程如期進(jìn)行,達成預期計劃。 模型訓練與評估過(guò)程示例圖 2. 更大的高質(zhì)量安全語(yǔ)料庫:私有 + 公共數據雙輪驅動(dòng) 我們已構建了一個(gè)超大規模、結構完備的網(wǎng)絡(luò )安全語(yǔ)料庫,總量超過(guò)5TB、共計106,721個(gè)原始文件,其中超過(guò) 40%內容為人工精選與結構化處理。私有數據部分系統整合了具備70+字段 / 14類(lèi)結構標簽體系的安全數據資源,經(jīng)過(guò)統一清洗、語(yǔ)義標注與重構,構建出數百億 Tokens 級的高質(zhì)量語(yǔ)料,為大模型深度推理能力提供堅實(shí)支撐。 下圖展示了該語(yǔ)料庫的構成維度,整體采集邏輯遵循“理論支撐 — 實(shí)戰對抗 — 應用落地”三層結構體系: 理論支撐:涵蓋法律法規、學(xué)術(shù)論文、行業(yè)報告等權威資料,為模型提供穩固的知識基座; 實(shí)戰對抗:包括漏洞詳情、CTF題庫、日志流量、惡意樣本與逆向分析等數據,提升模型對真實(shí)攻擊行為的識別與追蹤能力; 應用落地:涵蓋安全社區博客、教育培訓資料、安全知識圖譜與自動(dòng)化策略,增強模型在安全運營(yíng)、輔助決策等場(chǎng)景中的適配能力。 技術(shù)亮點(diǎn): 雙輪驅動(dòng)機制(私有 + 公共數據)保障語(yǔ)料在廣度與深度上的協(xié)同提升; 多維標簽體系使語(yǔ)料具備更強的結構化能力與上下文理解能力; 三層語(yǔ)料構建邏輯覆蓋從知識構建、威脅應對到實(shí)戰部署的完整安全任務(wù)鏈路。 3. 能力躍升:SecGPT正在蛻變?yōu)椤鞍踩帧?/p> 通過(guò)多輪數據優(yōu)化與任務(wù)精調,SecGPT已實(shí)現多個(gè)能力維度的跨越式進(jìn)展: 更懂攻擊鏈、攻防語(yǔ)言與行業(yè)術(shù)語(yǔ) 更擅長(cháng)處理復雜日志與漏洞描述 更適配私有化部署、邊緣推理等現實(shí)場(chǎng)景 核心能力提升詳解 1. 模型能力評測:全面指標躍升,實(shí)戰智能初現 為全面評估 SecGPT 的安全實(shí)戰能力,我們構建了一套覆蓋安全證書(shū)問(wèn)答、安全通識、編程能力、知識理解與推理能力的綜合評估體系,主要采用以下標準化數據集:CISSP、CS-EVAL、CEVAL、GSM8K、BBH。 在與原始模型 SecGPT-mini 的對比中,訓練后的模型在所有指標上均實(shí)現大幅躍升,具體如下: 1)模型橫向評測對比表 能力躍升解讀: mini→1.5B:具備“能答對”的基礎問(wèn)答能力,適配中低復雜度任務(wù); 1.5B→7B:推理深度、泛化能力顯著(zhù)增強,能理解任務(wù)意圖并構建較為完整的解決路徑; 7B→14B:能力躍遷至“類(lèi)專(zhuān)家”級,能夠處理高復雜度推理、安全策略制定等高階任務(wù)。 模型橫向評測對比 相較于基礎模型 Qwen2.5-Instruct,SecGPT 在所有評測指標上均實(shí)現實(shí)質(zhì)性超越,反映出我們在數據構建、微調范式、安全任務(wù)精調機制上的整體優(yōu)化成效: 洞察亮點(diǎn): 在CISSP和CS-EVAL等安全類(lèi)數據集上,SecGPT 在所有參數規模下均表現優(yōu)于Qwen2.5同規格版本; 表明我們構建的安全任務(wù)指令集與精調策略已顯著(zhù)提升模型的實(shí)戰應用能力與專(zhuān)業(yè)問(wèn)答深度。 2. 安全能力提升:更全、更準、更專(zhuān)業(yè) 本輪升級中,SecGPT在安全知識問(wèn)答方面完成了從信息整合到邏輯輸出的能力躍遷,具體體現在: 知識覆蓋更全面:引入了涵蓋法律法規、攻擊戰術(shù)、逆向分析等14類(lèi)安全知識領(lǐng)域的結構化語(yǔ)料; 答案生成更精準:通過(guò)多輪對話(huà)控制與語(yǔ)義優(yōu)化技術(shù),提升了問(wèn)答對齊率與上下文記憶穩定性; 推理能力更突出:具備多段知識聯(lián)結與復合邏輯推演能力,能完成如攻擊鏈分析、威脅研判等復雜任務(wù)。 1)滲透測試場(chǎng)景能力 SecGPT 能夠模擬滲透攻擊流程,從信息收集、漏洞利用到提權橫向,具備關(guān)鍵工具命令分析、Payload 構造、利用鏈生成等能力。 2)日志分析和流量分析能力 在安全日志與網(wǎng)絡(luò )流量場(chǎng)景下,SecGPT 能自動(dòng)識別異常事件、構建攻擊鏈圖譜、抽取關(guān)鍵 IOC(Indicator of Compromise),輔助完成事件溯源與告警分類(lèi)。 3)逆向分析能力 基于對反匯編、API調用序列、加殼行為等低層數據的理解,SecGPT能輔助完成惡意樣本的靜態(tài)分析、特征提取與家族歸類(lèi),具備一定的逆向輔助解讀能力。 代碼 5)工具使用 04接下來(lái),我們要做的還有很多…… 1. 發(fā)布首份網(wǎng)絡(luò )安全大模型基準評測報告 我們即將發(fā)布首份網(wǎng)絡(luò )安全大模型能力評測與選型報告,圍繞威脅情報問(wèn)答、代碼審計、日志分析等典型場(chǎng)景,構建一套系統化、透明且可復現的評測體系,全面對比當前主流模型的能力邊界。這份報告不僅為安全技術(shù)社區提供清晰的對比依據,也將成為合作伙伴制定Fine-tune策略 和智能體架構選型的關(guān)鍵參考材料。 2. 全面復盤(pán):如何訓練一個(gè)真正“懂安全”的大模型 盡管通用大模型在語(yǔ)言理解領(lǐng)域已取得顯著(zhù)進(jìn)展,但能夠真正理解攻擊鏈邏輯、漏洞細節、勝任安全推理與實(shí)戰輔助的大模型仍然稀缺。 我們將以全棧視角,全面復盤(pán)“如何訓練一個(gè)好用的安全大模型”,包括高質(zhì)量安全訓練數據構建、模型架構調優(yōu)、多任務(wù)對齊訓練、能力評測體系設計等關(guān)鍵環(huán)節,打通數據→算法→評測的閉環(huán)路徑,推動(dòng)安全智能體的實(shí)用化落地。 3. 自動(dòng)化 CTF 解題能力建設:邁向安全智能體的第一步 我們正在持續推進(jìn)SecGPT在CTF解題任務(wù)中的自動(dòng)化能力,目標是實(shí)現“理解題意 → 推理思路 → 構造Payload → 完成解題”的閉環(huán)流程。 目前模型已在大量真實(shí)題目中完成微調,具備初步能力:理解題意與還原考點(diǎn),自動(dòng)構造注入、命令執行、ROP等攻擊鏈,解釋與變換攻擊命令含義,同類(lèi)題型的遷移泛化表現良好。 下一步,我們將聚焦標準化數據構建、解題評分指標、自動(dòng)解題Agent原型開(kāi)發(fā),以及聯(lián)合社區開(kāi)展實(shí)戰挑戰驗證。CTF場(chǎng)景將成為安全大模型邁向Agent化的典型突破口。 4. 安全訓練數據集逐步開(kāi)放,共建數據基座 我們正在建設并逐步開(kāi)放一批具備混合結構、場(chǎng)景標簽的高質(zhì)量安全數據集,覆蓋知識問(wèn)答、代碼審計、漏洞挖掘、威脅情報解析、流量分析等關(guān)鍵任務(wù)場(chǎng)景。 未來(lái)將支持多語(yǔ)言、多模態(tài)、多任務(wù)協(xié)同訓練,進(jìn)一步增強安全大模型的泛化能力和實(shí)戰適應性。我們誠邀社區、企業(yè)、高校共同參與數據共建,共同筑牢安全模型的數據底座。 05最后,邀請你一起參與SecGPT的共建 SecGPT的成長(cháng)離不開(kāi)安全社區的反饋與參與。我們歡迎: 安全研究員提供數據、使用場(chǎng)景與測試建議 企業(yè)用戶(hù)參與內測,共同打造實(shí)用、可靠、安全的行業(yè)模型 歡迎關(guān)注我們,即將開(kāi)放下一輪模型內測與插件測試通道! 你最希望SecGPT能替你解決哪些安全難題?歡迎留言討論???? |