以ChatGPT與Sora為代表的AIGC技術(shù)，正在以令人驚嘆的自動(dòng)化、智能化能力席卷文字創(chuàng)作、軟件開發(fā)、影視后期等領(lǐng)域。打工人的“技能樹”上若缺少了AI方向的技能，都可能會(huì)讓自己在AI時(shí)代的競(jìng)爭(zhēng)力大幅降低。那么不妨猜猜看，一向會(huì)第一時(shí)間利用各類新技術(shù)的黑客，會(huì)不會(huì)把AI技術(shù)融入到自己的攻擊流程中？

那是必然的！

攻防兩端，AI應(yīng)用并非對(duì)稱發(fā)展

雙刃劍一般的生成式AI一方面能幫助企業(yè)員工釋放生產(chǎn)力；但到了黑客手中，也會(huì)成為一種發(fā)起狂轟濫炸飽和式攻擊的智能化武器。近期，文生視頻大模型Sora高逼真度的人物形象塑造，就在驚艷業(yè)界的同時(shí)，讓人不禁擔(dān)心同類技術(shù)是否會(huì)被黑客濫用于深度偽造的“換臉”社會(huì)工程攻擊上。而很快就出現(xiàn)了一個(gè)實(shí)例：有網(wǎng)絡(luò)犯罪分子通過AI換臉技術(shù)巧設(shè)圈套，詐騙香港職員2億港幣。

除了來自外部的威脅會(huì)用到AI，隨著企業(yè)內(nèi)部對(duì)AI的應(yīng)用逐漸深入，這也會(huì)導(dǎo)致出現(xiàn)一些新的挑戰(zhàn)。AI高度普及的大趨勢(shì)下，AI工具正在納入多行業(yè)的工作流程中。Forrester研究咨詢公司預(yù)測(cè)，2024年有60%員工會(huì)在工作中使用自己的AI工具，但這會(huì)帶來監(jiān)管和合規(guī)性挑戰(zhàn)。因?yàn)檫@是一種員工自知、公司層面未知的影子AI。譬如，這種員工可能會(huì)使用AI掃描數(shù)百個(gè)PPT內(nèi)容，一旦掃描內(nèi)容涉及企業(yè)機(jī)密，便有可能存在數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

很多企業(yè)已經(jīng)注意到這種情況，并開始采取一定的措施。IBM GenAI安全報(bào)告數(shù)據(jù)顯示，51%高管們表示，去年自己在AI網(wǎng)絡(luò)安全方面的預(yù)算相比2021年增加了51%。預(yù)計(jì)到2025年，預(yù)算將進(jìn)一步增加43%。

那么有了想法和目標(biāo)，具體又該如何應(yīng)對(duì)？既然是AI造成的威脅，能否用AI技術(shù)來防范？答案是肯定的！

AI已成為影響云安全的新“變量”

攻擊多樣化

黑客對(duì)AI的武器化濫用，正在催化與激化出多種多樣的安全風(fēng)險(xiǎn)，包括由于ML模型缺陷導(dǎo)致的敏感數(shù)據(jù)泄露，以及惡意行為者濫用AI實(shí)施的網(wǎng)絡(luò)釣魚或社會(huì)工程攻擊。此外，AI生成的文本、圖像、視頻等內(nèi)容作品，也存在潛在的版權(quán)風(fēng)險(xiǎn)。

攻擊界面增加

AI大模型在企業(yè)間的普及應(yīng)用，得益于云服務(wù)提供的巨量算力。為實(shí)現(xiàn)低延遲、高可靠的響應(yīng)速度，企業(yè)更需要使用云端的計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)資源。從集中式的云端，到分布式的邊緣區(qū)域，當(dāng)下的攻擊界面已延展至邊緣數(shù)據(jù)中心，以及更多的邊緣設(shè)備和應(yīng)用系統(tǒng)（如物聯(lián)網(wǎng)），這讓安全的防護(hù)邏輯也更趨向于邊緣側(cè)，中心化的安全架構(gòu)將很難實(shí)現(xiàn)AI架構(gòu)的安全需求。

攻擊巨量高頻

基于AI武器化工具的自動(dòng)化能力，黑客發(fā)起攻擊的體量與頻次持續(xù)飆升。威脅情報(bào)公司SlashNext報(bào)告顯示，從2022年底到2023年第三季度，惡意網(wǎng)絡(luò)釣魚郵件出現(xiàn)了1265%的增幅。應(yīng)對(duì)海量高頻的攻擊體量，僅依靠企業(yè)IT團(tuán)隊(duì)的人工運(yùn)維，將不足以構(gòu)筑強(qiáng)有力的安全防線。

AI時(shí)代，Akamai給出四大云安全對(duì)策

鑒于“黑客 + AI”所進(jìn)化出的高頻、多樣、大面積攻擊形態(tài)，2024年將成為企業(yè)夯實(shí)AI云安全基礎(chǔ)的關(guān)鍵一年。在多種攻擊樣式中，上文提及的社會(huì)工程攻擊已成為網(wǎng)絡(luò)犯罪分子的首選武器。黑客通過精心巧設(shè)的騙局手法，從財(cái)務(wù)、人事等非IT部門雇員入手，撕開企業(yè)的安全缺口。

針對(duì)AI的安全防御缺口有多大呢？相關(guān)數(shù)據(jù)顯示，有94%的高管已意識(shí)到部署AI解決方案之前確保安全非常重要；但在未來六個(gè)月內(nèi)，僅有24%創(chuàng)新型AI項(xiàng)目，將包含網(wǎng)絡(luò)安全組件。

為什么層出不窮的網(wǎng)絡(luò)犯罪分子總是能策劃出“令人信服”的高仿釣魚郵件、仿冒網(wǎng)站、假面會(huì)議等騙局？這是由于借助AI更容易查到受害者的個(gè)人隱私信息、生物信息、社會(huì)關(guān)系信息，并通過生成式AI技術(shù)進(jìn)行深度模擬與偽造。面對(duì)從種種維度滲透入侵的攻擊“誘餌”，整個(gè)數(shù)字化社會(huì)與企業(yè)組織全員，都需要提升云安全素養(yǎng)，展開針對(duì)惡意AI的“全員反詐”。

為了幫助企業(yè)構(gòu)筑安全防線，善用AI提升安全識(shí)別力，Akamai提出了下列四條對(duì)策：

定期展開云安全培訓(xùn)，培養(yǎng)全員AI應(yīng)用素養(yǎng)：泛濫于視頻宣傳等領(lǐng)域的AI深度偽造，對(duì)輿論的影響力和破壞力驚人。全社會(huì)與企業(yè)組織成員，均需展開相關(guān)培養(yǎng)，培養(yǎng)全員AI素養(yǎng)來提升識(shí)別欺詐的意識(shí)，以及安全應(yīng)用AI的標(biāo)準(zhǔn)操作。

不僅僅依賴IT部門，全員協(xié)同共構(gòu)安全防線：多云與邊緣創(chuàng)新趨勢(shì)下，攻擊界面持續(xù)擴(kuò)張，API與供應(yīng)鏈攻擊無孔不入。由于AI架構(gòu)的變化以及AI工具使用范圍的擴(kuò)大，整個(gè)的安全體系更需要下沉，組織不僅要借助IT部門預(yù)測(cè)不斷變化的威脅，還要定期評(píng)估組織的整體安全和風(fēng)險(xiǎn)態(tài)勢(shì)，全員共構(gòu)安全防線。

真正做好安全基礎(chǔ)工作，仍然是第一防御要?jiǎng)?wù)：從AI基礎(chǔ)架構(gòu)、核心組件、通信協(xié)議、基礎(chǔ)算法等方面，依舊存在傳統(tǒng)的安全威脅。要做好AI的安全防護(hù)，更需要在威脅的識(shí)別、可視化、零信任、微隔離、API安全等方面，夯實(shí)安全基礎(chǔ)防護(hù)。防控AI大模型的數(shù)據(jù)泄露風(fēng)險(xiǎn)，即可采用零信任架構(gòu)與API可視化和行為分析。

用AI點(diǎn)亮安全視野，提升全域威脅可見性：以AI對(duì)抗AI是當(dāng)下的一大云安全策略。利用AI的深度學(xué)習(xí)能力，建立攻擊識(shí)別模型，提升攻擊識(shí)別度、降低誤報(bào)率。Akamai云安全產(chǎn)品中便融合有深度學(xué)習(xí)算法，可助力企業(yè)客戶對(duì)惡意爬蟲與釣魚攻擊的識(shí)別；借助AI大模型能力，還能夠收集到更多威脅情報(bào)，通過深度分析得到更精準(zhǔn)的威脅感知和預(yù)警。

應(yīng)對(duì)黑客在濫用AI上所取得不對(duì)稱優(yōu)勢(shì)，Akamai現(xiàn)有傳統(tǒng)人工智能類產(chǎn)品能力，可以幫助客戶檢測(cè)到“異常情況、攻擊情況、碰撞攻擊、帳號(hào)盜用”等風(fēng)險(xiǎn)，在安全事件發(fā)生前提升對(duì)威脅的可見性。

基于ML算法構(gòu)建的三大優(yōu)勢(shì)

1、可擴(kuò)展性

對(duì)于Akamai全球智能云平臺(tái)捕獲的大量數(shù)據(jù)，可由機(jī)器學(xué)習(xí)算法來完成分析，以此來應(yīng)對(duì)黑客的規(guī)?；柡凸舻木薮篌w量。

2、動(dòng)態(tài)識(shí)別

機(jī)器學(xué)習(xí)算法對(duì)于攻擊的識(shí)別，并非靜態(tài)的簽名模式，而是可以動(dòng)態(tài)提取字段，多角度進(jìn)行賦分、判別攻擊的類別和等級(jí)。

3、自動(dòng)運(yùn)維

機(jī)器學(xué)習(xí)算法獲得新數(shù)據(jù)時(shí)，會(huì)更新規(guī)則、動(dòng)態(tài)調(diào)整策略，采用Deny模式，進(jìn)而解放安全運(yùn)維的人力操作，智能實(shí)現(xiàn)安全策略的部署、檢測(cè)、優(yōu)化等功能。

同時(shí)，面對(duì)層出不窮的網(wǎng)絡(luò)釣魚、勒索軟件攻擊、DDoS高峰惡意流量沖擊等AI助攻下的巨量威脅，Akamai也有針對(duì)性地積淀與構(gòu)建了一系列云安全產(chǎn)品線，緩解AI所帶來的潛在安全威脅。

注入AI能力的云安全產(chǎn)品矩陣

Akamai App & API Protector

提供給自適應(yīng)安全保護(hù)引擎，自動(dòng)為企業(yè)的應(yīng)用程序和API推送更新的保護(hù)措施；借助Akamai管理的更新和機(jī)器學(xué)習(xí)賦能的自主調(diào)優(yōu)，可盡可能減少工作量，無需進(jìn)行耗時(shí)的手動(dòng)維護(hù)。

Akamai Bot Manager

使用AI模型檢測(cè)高級(jí)爬蟲程序，進(jìn)行用戶行為分析、瀏覽器指紋識(shí)別等主動(dòng)安全防御；基于每天數(shù)十億的爬蟲程序請(qǐng)求和登錄，從更真實(shí)、更具價(jià)值的數(shù)據(jù)中獲取情報(bào)。

Akamai Guardicore Segmentation

輸出全域IT基礎(chǔ)架構(gòu)的動(dòng)態(tài)安全圖譜，查看用戶實(shí)時(shí)和過往的進(jìn)程級(jí)顆粒度活動(dòng)，借助AI建議、用于修復(fù)勒索軟件和常見案例的模板以及精確工作負(fù)載屬性，跨混合云、本地和傳統(tǒng)系統(tǒng)保護(hù)關(guān)鍵資產(chǎn)，實(shí)現(xiàn)更具精細(xì)粒度的AI微分段模式。

Akamai Hunt

Akamai Hunt托管威脅搜尋服務(wù)，在收集到分段部署的本地?cái)?shù)據(jù)和DNS傳感器中全局?jǐn)?shù)據(jù)等信號(hào)源后，可以將AI/ML分析應(yīng)用于多個(gè)遙測(cè)源和收集的信號(hào)，快速檢測(cè)威脅；隨后，通過詳細(xì)的實(shí)時(shí)告警提供相關(guān)見解和抵御威脅的安全信息。

云邊一體，AI向未來

回顧Akamai云安全創(chuàng)新歷程，自2016年以來，Akamai一直在利用深度學(xué)習(xí)AI幫助客戶部署安全解決方案。借助AI工具支持分析和分類Akamai每天觀察到的超過450TB新攻擊數(shù)據(jù)和11萬億次DNS查詢，構(gòu)建有全球范圍內(nèi)的云安全可見性。

伴隨著企業(yè)愈發(fā)需在邊緣獲取高性價(jià)比、高穩(wěn)定性、超低延遲的算力資源與安全防護(hù)，Akamai也在持續(xù)研究如何更好地使用大語言模型和生成式AI, 未來將進(jìn)一步增強(qiáng)Akamai Connected Cloud等云計(jì)算、云安全、云分發(fā)產(chǎn)品矩陣效能，助力客戶貼近終端用戶的計(jì)算、安全與內(nèi)容交付需求，煥新智能開發(fā)與安全運(yùn)維體驗(yàn)，全方位釋放生產(chǎn)力，加速全球化市場(chǎng)布局。