近年來(lái)，人工智能(AI)技術(shù)快速發(fā)展，相關(guān)安全問(wèn)題也引發(fā)各界關(guān)注。接受中國(guó)證券報(bào)記者采訪的網(wǎng)絡(luò)安全專家和企業(yè)高層表示，傳統(tǒng)網(wǎng)絡(luò)安全工作應(yīng)融入AI能力，從被動(dòng)防御升級(jí)為主動(dòng)防護(hù)。此外，企業(yè)在融入AI能力的過(guò)程中，應(yīng)確立安全先行、自主可控的建設(shè)原則，掌握數(shù)據(jù)安全與業(yè)務(wù)發(fā)展的主動(dòng)權(quán)。

關(guān)注安全漏洞

近日，OpenAI在官網(wǎng)發(fā)布安全事件調(diào)查報(bào)告，披露其內(nèi)部模型在評(píng)測(cè)期間發(fā)生的一起自主突破隔離環(huán)境的安全事件。

報(bào)告顯示，這項(xiàng)測(cè)試的核心目的是檢驗(yàn)?zāi)Ｐ湍芊褡R(shí)別安全漏洞，并將漏洞轉(zhuǎn)化為可執(zhí)行的攻擊手段。測(cè)試過(guò)程中，盡管模型被部署在與外網(wǎng)物理隔離的沙箱測(cè)試環(huán)境中，但它通過(guò)投入大量推理算力，持續(xù)尋找訪問(wèn)開(kāi)放互聯(lián)網(wǎng)的路徑，隨后在程序包注冊(cè)表緩存代理中發(fā)現(xiàn)了零日漏洞，并逐步抵達(dá)訪問(wèn)互聯(lián)網(wǎng)的節(jié)點(diǎn)，最終嘗試從人工智能開(kāi)源平臺(tái)Hugging Face生產(chǎn)數(shù)據(jù)庫(kù)中直接獲取測(cè)試答案。這一活動(dòng)被Hugging Face的安全團(tuán)隊(duì)與智能體檢測(cè)并阻止。

OpenAI在該事件中得出結(jié)論——“AI正在加速漏洞的發(fā)現(xiàn)和利用”。

中國(guó)信息通信研究院人工智能研究所安全治理部主任石霖對(duì)記者表示，過(guò)去行業(yè)談?wù)揂I安全，大多聚焦于模型生成虛假信息、違規(guī)內(nèi)容等層面；而本次事件中，模型僅為達(dá)成測(cè)試高分的單一目標(biāo)，在無(wú)任何人工額外指令干預(yù)的前提下，自主挖掘零日漏洞、串聯(lián)完整攻擊鏈路、突破物理隔離環(huán)境、入侵第三方生產(chǎn)系統(tǒng)。這意味著具備自主決策、工具調(diào)用能力的AI智能體，已經(jīng)擁有對(duì)現(xiàn)實(shí)數(shù)字世界造成實(shí)質(zhì)破壞的能力，AI安全風(fēng)險(xiǎn)從“說(shuō)錯(cuò)話”演變?yōu)椤白鲥e(cuò)事”。

與此同時(shí)，事件也暴露了當(dāng)前信息基礎(chǔ)設(shè)施存在的安全短板與脆弱性。石霖認(rèn)為，當(dāng)前安全防護(hù)體系高度依賴已知的攻擊方式，對(duì)AI可能帶來(lái)的未知攻擊方法和漏洞暴露風(fēng)險(xiǎn)認(rèn)知存在明顯局限，導(dǎo)致網(wǎng)絡(luò)安全攻防兩端的能力出現(xiàn)失衡。

OpenAI也在報(bào)告中表示，模型安全舉措必須跟上模型發(fā)展進(jìn)程。高級(jí)網(wǎng)絡(luò)能力的開(kāi)發(fā)必須與更強(qiáng)的保障措施和防御工具同步推進(jìn)。

改變工作模式

在網(wǎng)絡(luò)安全領(lǐng)域，滲透測(cè)試是一種常用的防護(hù)手段：通過(guò)主動(dòng)對(duì)系統(tǒng)進(jìn)行安全檢測(cè)，模擬黑客攻擊思路與手段，提前發(fā)現(xiàn)漏洞。如今，這一安全防護(hù)手段正在被AI技術(shù)改寫(xiě)。

綠盟科技集團(tuán)CTO、高級(jí)副總裁葉曉虎對(duì)記者表示，從行業(yè)看，近年來(lái)利用AI技術(shù)進(jìn)行網(wǎng)絡(luò)攻擊的事件在增加。同時(shí)，AI工具使得網(wǎng)絡(luò)攻擊的成本降低、速度提升。由于攻擊鏈條變得復(fù)雜，傳統(tǒng)依靠人工來(lái)進(jìn)行網(wǎng)絡(luò)防守、滲透測(cè)試已經(jīng)無(wú)法達(dá)到防護(hù)要求，需要借助AI工具。

葉曉虎說(shuō)：“網(wǎng)絡(luò)安全是一項(xiàng)對(duì)抗性的工作，新的技術(shù)會(huì)帶來(lái)新的應(yīng)對(duì)手段。”他表示，結(jié)合AI基座模型，融入網(wǎng)絡(luò)安全行業(yè)的專業(yè)知識(shí)庫(kù)，加上Harness框架(智能體約束框架)，形成的網(wǎng)絡(luò)安全智能體工具可以投入實(shí)際應(yīng)用。而在實(shí)際應(yīng)用上，借助AI工具，還可以積累滲透測(cè)試數(shù)據(jù)，形成可復(fù)用的經(jīng)驗(yàn)，將滲透測(cè)試變成一項(xiàng)常態(tài)化、持續(xù)性的工作。

同時(shí)，AI大模型還增加了滲透測(cè)試的主動(dòng)性。綠盟科技集團(tuán)技術(shù)專家劉紅濤表示，過(guò)去基于靜態(tài)檢測(cè)規(guī)則，滲透測(cè)試過(guò)程中如遇到系統(tǒng)防護(hù)措施，會(huì)因阻斷而無(wú)法達(dá)成滲透目標(biāo)；而結(jié)合大模型推理能力，在滲透測(cè)試當(dāng)中也會(huì)分析防護(hù)機(jī)制的薄弱性，嘗試?yán)@過(guò)以發(fā)現(xiàn)更深層的安全風(fēng)險(xiǎn)隱患。

AI技術(shù)應(yīng)用將降低傳統(tǒng)網(wǎng)絡(luò)安全工作的成本。劉紅濤表示，傳統(tǒng)模式下開(kāi)展一次滲透測(cè)試通常需要數(shù)天時(shí)間，針對(duì)復(fù)雜系統(tǒng)的測(cè)試周期更是長(zhǎng)達(dá)十余天，單次投入成本高達(dá)數(shù)萬(wàn)元。而依托AI技術(shù)，當(dāng)前單系統(tǒng)滲透測(cè)試的Token(詞元)消耗量約為3000萬(wàn)至8000萬(wàn)，測(cè)試成本大幅壓縮為數(shù)百元至數(shù)千元，讓高頻次、常態(tài)化的主動(dòng)安全防御成為可行方案，也緩解了專業(yè)工程師人才供給不足的痛點(diǎn)。

劉紅濤認(rèn)為，AI賦能滲透測(cè)試的落地應(yīng)用，將徹底顛覆傳統(tǒng)網(wǎng)絡(luò)安全服務(wù)模式。奇安信安全專家表示，用AI應(yīng)對(duì)AI，已經(jīng)成為安全行業(yè)的共識(shí)，通過(guò)代碼安全智能體、AI安全網(wǎng)關(guān)等工具，行業(yè)正通過(guò)AI技術(shù)賦能傳統(tǒng)網(wǎng)絡(luò)安全。

設(shè)置護(hù)欄至關(guān)重要

在這次OpenAI模型導(dǎo)致的安全事件中，Hugging Face在官方復(fù)盤(pán)中表示，其最初嘗試使用商業(yè)模型API進(jìn)行事件分析，但請(qǐng)求受到安全策略限制，未能完成相關(guān)分析。隨后，團(tuán)隊(duì)轉(zhuǎn)而在本地基礎(chǔ)設(shè)施部署由中國(guó)公司智譜開(kāi)發(fā)的開(kāi)源模型GLM-5.2，完成了整個(gè)取證分析流程。

Hugging Face在復(fù)盤(pán)中建議，企業(yè)應(yīng)提前準(zhǔn)備能夠在本地基礎(chǔ)設(shè)施運(yùn)行的模型，以便在安全事件等關(guān)鍵場(chǎng)景下開(kāi)展分析工作，同時(shí)保障敏感數(shù)據(jù)留存在企業(yè)環(huán)境內(nèi)。

業(yè)內(nèi)人士認(rèn)為，這一案例反映出，隨著AI逐步進(jìn)入企業(yè)核心業(yè)務(wù)流程，企業(yè)越來(lái)越關(guān)注模型在真實(shí)生產(chǎn)環(huán)境中的部署能力、工程可用性以及完成復(fù)雜任務(wù)的能力。

奇安信安全專家認(rèn)為，企業(yè)落地AI應(yīng)用，需摒棄“先上線、后補(bǔ)漏洞”的傳統(tǒng)思維，而應(yīng)確立安全先行、自主可控的建設(shè)原則。AI并非普通應(yīng)用軟件，而是具備自主決策、獨(dú)立執(zhí)行能力的數(shù)字化主體，相當(dāng)于企業(yè)的“數(shù)字員工”。對(duì)此，企業(yè)需參照人員管理標(biāo)準(zhǔn)，為AI工具建立專屬身份認(rèn)證、細(xì)化權(quán)限分級(jí)、明確行為規(guī)范，清晰劃定AI可執(zhí)行操作與禁止操作的安全紅線。

同時(shí)，企業(yè)應(yīng)摒棄單一防護(hù)模式，構(gòu)建“人防+技防”協(xié)同的縱深防御體系，搭建從云端到終端、從網(wǎng)絡(luò)到數(shù)據(jù)的立體防御網(wǎng)。在數(shù)據(jù)安全層面，企業(yè)應(yīng)堅(jiān)持核心數(shù)據(jù)本地化原則，針對(duì)核心數(shù)據(jù)與敏感業(yè)務(wù)，優(yōu)先采用本地化AI部署方案，實(shí)現(xiàn)核心數(shù)據(jù)本地留存、不外泄，掌握數(shù)據(jù)安全與業(yè)務(wù)發(fā)展的主動(dòng)權(quán)。