《法治日?qǐng)?bào)》記者 辛紅 《法人》見習(xí)記者 惠寧寧

“當(dāng)前，AI技術(shù)發(fā)展日新月異，不論是大模型、智能體還是具身智能，安全問題都如影隨形。”今年全國兩會(huì)期間，全國政協(xié)委員、奇安信集團(tuán)董事長齊向東接受《法人》記者采訪時(shí)表示，亟需以“AI+安全”雙輪驅(qū)動(dòng)，形成“安全筑基-智能應(yīng)用-綠色融合”的現(xiàn)代化產(chǎn)業(yè)體系良性發(fā)展循環(huán)。

▲全國政協(xié)委員、奇安信集團(tuán)董事長齊向東 受訪者供圖

齊向東指出，當(dāng)前，網(wǎng)絡(luò)安全行業(yè)正經(jīng)歷三大根本性變革：一是人工智能的變革，正定義下一代安全；二是威脅格局的變革，讓“零事故”成為必須達(dá)成的目標(biāo)；三是產(chǎn)業(yè)需求的變革，呼喚實(shí)戰(zhàn)化防護(hù)效果。

在安全升級(jí)改造方面，齊向東建議，從AI應(yīng)用全鏈條安全與監(jiān)管能力、數(shù)字資產(chǎn)安全能力、身份授權(quán)安全能力、威脅對(duì)抗能力入手，改變現(xiàn)有防護(hù)手段與時(shí)代需求的不適配，筑牢中國式現(xiàn)代化的網(wǎng)絡(luò)安全防線。

談到當(dāng)前AI安全帶來的新機(jī)遇與挑戰(zhàn)，齊向東表示，AI已經(jīng)成為網(wǎng)絡(luò)安全質(zhì)效雙提升的最強(qiáng)引擎，大幅提升了威脅檢測(cè)、漏洞挖掘和自動(dòng)化響應(yīng)的效率，也催生出“AI+安全”新產(chǎn)品、新場(chǎng)景。有了AI，網(wǎng)絡(luò)安全產(chǎn)業(yè)就能更好地幫助千行百業(yè)從被動(dòng)防護(hù)轉(zhuǎn)向主動(dòng)防護(hù)，構(gòu)建更智能、更高效的安全防護(hù)體系。

同時(shí)AI向“超人化”演進(jìn)也帶來了新的風(fēng)險(xiǎn)?！癆I超人”有超級(jí)權(quán)限、超級(jí)能力，很可能脫離控制，安全隱患巨大：

一是加劇了數(shù)據(jù)安全危機(jī)。AI要代替多少人工作，就要被賦予多少人的數(shù)據(jù)權(quán)限，徹底突破了原有的權(quán)限管理和安全措施。加上現(xiàn)在越來越多企業(yè)，為了讓AI作用最大化，把積累多年、分散各處的關(guān)鍵數(shù)據(jù)“去粗取精”形成“精華小數(shù)據(jù)”。一旦AI被攻破，企業(yè)多年積累的核心競(jìng)爭(zhēng)力可能瞬間化為烏有。

二是加劇了安全“易攻難守”的危機(jī)。AI“超人”無所不能，大幅降低了網(wǎng)絡(luò)攻擊成本和攻擊門檻，安全防護(hù)難度陡增。

三是加劇了網(wǎng)絡(luò)安全“鏈?zhǔn)健蔽C(jī)。一些AI應(yīng)用安全防護(hù)跟不上，不少AI“裸奔”上線，攻擊者可以通過漏洞利用、外部滲透、提權(quán)、投毒等方式間接干擾和控制大模型或智能體，影響業(yè)務(wù)和系統(tǒng)的正常運(yùn)行。 

針對(duì)如何實(shí)現(xiàn)“創(chuàng)新與安全的動(dòng)態(tài)平衡”的問題，齊向東認(rèn)為，沒有安全的創(chuàng)新走不遠(yuǎn)，也走不穩(wěn)。從這兩年大模型、智能體、具身智能等各種AI形態(tài)遭受的網(wǎng)絡(luò)攻擊來看，為AI預(yù)設(shè)“安全護(hù)欄”十分必要。安全與創(chuàng)新并非對(duì)立，而是一體兩翼。要實(shí)現(xiàn)二者動(dòng)態(tài)平衡關(guān)鍵有三點(diǎn)：一是把安全能力嵌入AI應(yīng)用的全生命周期，做到縱深防御；二是明確合規(guī)紅線，夯實(shí)安全主體責(zé)任，強(qiáng)化權(quán)限與內(nèi)容管控；三是用AI對(duì)抗AI，讓安全能力始終比安全風(fēng)險(xiǎn)快一步。

他介紹，今年，奇安信專門成立AI公司，在“十五五”期間，幫助千行百業(yè)開展網(wǎng)絡(luò)安全升級(jí)改造，聚焦新場(chǎng)景、新需求，對(duì)邊界、身份、終端、云等領(lǐng)域進(jìn)行網(wǎng)絡(luò)安全的能力大升級(jí)。在網(wǎng)絡(luò)安全領(lǐng)域，AI不僅幫助網(wǎng)絡(luò)安全專家從海量的告警研判、重復(fù)的日常巡檢等基礎(chǔ)工作中解放出來，讓其有精力去鉆研更高價(jià)值的方向，還催生了AI紅隊(duì)、安全大模型工程師等新崗位。例如，以AI為核心樞紐的奇安信安全機(jī)器人，重構(gòu)了人機(jī)協(xié)作方式，機(jī)器人負(fù)責(zé)自動(dòng)化處置，人聚焦高級(jí)威脅對(duì)抗與策略制定，實(shí)現(xiàn)了安全防護(hù)的質(zhì)效雙提升。

責(zé)編：白馗