隨著ChatGPT等各類AI產(chǎn)品逐漸融入大眾的工作,，甚至日常生活,，AI似乎以極大的便利性和廣泛的運(yùn)用掩蓋了自身的危險(xiǎn)性,。AI正在以不道德的方式協(xié)助網(wǎng)絡(luò)攻擊者加速并升級(jí)其攻擊方式。與之相伴的還有當(dāng)前環(huán)境下的其他威脅,，包括網(wǎng)絡(luò)犯罪分子與高級(jí)持續(xù)威脅 (APT) 團(tuán)伙之間的界限正在變得模糊,，事故對(duì)目標(biāo)企業(yè)產(chǎn)生的影響更廣泛,，檢測(cè)和緩解攻擊需要多種防御途徑,。AI時(shí)代下，企業(yè)正在面臨著更加嚴(yán)峻的網(wǎng)絡(luò)安全環(huán)境,。

AI催生新威脅

對(duì)于網(wǎng)絡(luò)攻擊者而言,，AI的利用可以分成三大類，第一類是用AI寫木馬程序,，并利用木馬程序進(jìn)入被攻擊者的環(huán)境中,；第二是利用AI寫釣魚郵件；第三,，攻擊者會(huì)利用AI使原本的攻擊更快速,、簡(jiǎn)單。

以生成式AI為例，網(wǎng)絡(luò)攻擊者已經(jīng)研發(fā)出了像是WormGTP,、FraudGPT這樣的AI程序,，作為ChatGPT的一個(gè)衍生，它可以讓攻擊者很容易地寫出木馬程序或釣魚郵件,。此前,，當(dāng)人們收到釣魚郵件時(shí)，由于詞匯不通順,，或者用錯(cuò)詞語(yǔ),，會(huì)很快被識(shí)破。但運(yùn)用AI去驅(qū)動(dòng)這一類型的工具時(shí),，寫出來(lái)的文字就會(huì)變得更加準(zhǔn)確,，釣魚郵件的辨認(rèn)也就變得更加困難。

當(dāng)企業(yè)運(yùn)用像Copilot這樣的ChatGPT類AI工具時(shí),，相當(dāng)于為攻擊者開辟了端口,。所以任何企業(yè)使用AI時(shí)都要慎之又慎。并且,，生成式AI后端是語(yǔ)言模型,，而此類語(yǔ)言模型背后有很多開源程序會(huì)在例如GitHub一類的平臺(tái)上分享。攻擊者可以利用這一類型的開源訓(xùn)練自己的AI模型,。開放的網(wǎng)絡(luò)環(huán)境也會(huì)讓不同攻擊者更輕易地分享自己的成功經(jīng)驗(yàn)和故事,。

與此同時(shí)，勒索軟件會(huì)變得更加泛濫,。在AI的助力下,，勒索變得更加難以辨認(rèn)，且危害性更高,。比如,，勒索者會(huì)利用AI換臉軟件制作勒索視頻。個(gè)人在社交媒體分享的照片和視頻都有可能變成犯罪分子的勒索素材,。而現(xiàn)在越來(lái)越普遍的人臉識(shí)別登錄和付款也可能蘊(yùn)藏著被利用的風(fēng)險(xiǎn),。

AI構(gòu)筑新防御

面對(duì)AI環(huán)境中“道高一尺，魔高一丈”的網(wǎng)絡(luò)攻擊,，用AI對(duì)抗AI是唯一的途徑,。Palo Alto Networks（派拓網(wǎng)絡(luò)）Unit 42咨詢總監(jiān)Terence Lau 認(rèn)為： “我們無(wú)法僅憑人力去阻擋AI攻擊，而是應(yīng)該用AI去對(duì)抗AI,。我們之前所熟知的一些防御模式和方法需要改變,，因?yàn)锳I讓我們看到了更快、更強(qiáng),、更精準(zhǔn)的攻擊模式,?！?/p>

作為全球網(wǎng)絡(luò)安全領(lǐng)導(dǎo)者之一，派拓網(wǎng)絡(luò)會(huì)一直跟蹤AI演進(jìn)的過(guò)程,、利用方式和攻擊者的新手段,。派拓網(wǎng)絡(luò)Unit 42 是世界一流的威脅研究機(jī)構(gòu)和事件響應(yīng)團(tuán)隊(duì)之一，對(duì)于精準(zhǔn)AI頗有經(jīng)驗(yàn),，會(huì)利用各種數(shù)據(jù)和機(jī)器學(xué)習(xí),，并通過(guò)一些模式來(lái)研究目前威脅信息方面的整體現(xiàn)狀。同時(shí),，信息和研究成果會(huì)以開放,、免費(fèi)的形式公布在網(wǎng)站和論壇與大眾共享。派拓網(wǎng)絡(luò)始終希望能夠?qū)σ粋€(gè)企業(yè)所運(yùn)營(yíng)的網(wǎng)絡(luò)生態(tài)系統(tǒng)實(shí)現(xiàn)整體保護(hù),，并最終保護(hù)整個(gè)生態(tài)系統(tǒng),。

除了針對(duì)AI的持續(xù)跟蹤，對(duì)于企業(yè),，派拓網(wǎng)絡(luò)還有一些重點(diǎn)建議：首先是要改變對(duì)成功防御的看法,，企業(yè)不僅要預(yù)防，更要懂得響應(yīng),。其次是優(yōu)先考慮限制攻擊者,，并為防御者提供回旋的空間和時(shí)間，做到精簡(jiǎn)防御,，實(shí)現(xiàn)可重復(fù)性和自動(dòng)化,。企業(yè)還需要注意24/7全天候監(jiān)控，以增加攻擊者的時(shí)間壓力,。除此之外,，努力過(guò)渡到零信任企業(yè)、增強(qiáng)安全措施,、測(cè)量并減少外部攻擊面也是面對(duì)AI時(shí)代網(wǎng)絡(luò)攻擊的必要防御手段之一,。