長期以來，網(wǎng)絡攻擊一直是勞動密集型的，需要經(jīng)過精心策劃并投入大量的人工研究。然而，隨著人工智能技術的出現(xiàn)，威脅行為者已經(jīng)成功利用它們的能力，以非凡的效率策劃攻擊。這種技術轉變使他們能夠大規(guī)模地執(zhí)行更復雜、更難以檢測的攻擊，甚至可以操縱機器學習算法來破壞操作或敏感數(shù)據(jù)，從而擴大其犯罪活動的影響。

惡意行為者越來越多地轉向人工智能來分析和完善其攻擊策略，這大大提升了攻擊活動的成功率。這些人工智能驅動的攻擊具有隱蔽性和不可預測性的特點，使它們能夠熟練地繞過依賴于固定規(guī)則和歷史攻擊數(shù)據(jù)的傳統(tǒng)安全措施。

在獵頭公司海德思哲（Heidrick & Struggles）進行的《2023年全球首席信息安全官（CISO）調查報告》中，人工智能已成為未來五年最常見的重大威脅。因此，組織必須優(yōu)先提高對這些人工智能網(wǎng)絡威脅的認知，并相應地加強防御。

人工智能驅動的網(wǎng)絡攻擊特征

人工智能驅動的網(wǎng)絡攻擊通常表現(xiàn)出以下特征：

自動目標分析：人工智能簡化了攻擊研究，利用數(shù)據(jù)分析和機器學習，通過從公共記錄、社交媒體和公司網(wǎng)站上收集信息，有效地分析目標。

高效的信息收集：通過在各種在線平臺上自動搜索目標，人工智能加速了偵察階段，提高了效率。

個性化攻擊：人工智能分析數(shù)據(jù)，以高精度創(chuàng)建個性化的網(wǎng)絡釣魚消息，增加欺詐成功的可能性。

針對性的目標：人工智能會識別組織內有權訪問敏感信息的關鍵人員。

強化學習：人工智能利用強化學習（Reinforcement Learning）對攻擊進行實時適應和持續(xù)改進，根據(jù)之前的交互調整策略，以保持敏捷性，提高成功率，同時保持領先于安全防御。

人工智能支持的網(wǎng)絡攻擊類型

1.高級網(wǎng)絡釣魚攻擊

網(wǎng)絡安全公司SlashNext最近的一份報告顯示了令人震驚的統(tǒng)計數(shù)據(jù)：自2022年第四季度以來，惡意網(wǎng)絡釣魚郵件激增了1265%，憑據(jù)網(wǎng)絡釣魚飆升了967%。網(wǎng)絡犯罪分子正在利用ChatGPT等生成式人工智能工具來制作高度針對性和復雜的商業(yè)電子郵件欺詐（BEC）和網(wǎng)絡釣魚信息。

用蹩腳的英語編寫“尼日利亞王子”（Prince of Nigeria）電子郵件的日子已經(jīng)成為過去。如今的網(wǎng)絡釣魚郵件高度逼真，甚至能夠成功模仿來自可信來源的官方通信的語氣和格式。威脅行為者利用人工智能來制作極具說服力的電子郵件，這對區(qū)分其真實性構成了挑戰(zhàn)。

人工智能網(wǎng)絡釣魚攻擊防御策略

實施先進的電子郵件過濾和反網(wǎng)絡釣魚軟件，以檢測和阻止可疑電子郵件。

教育員工如何識別網(wǎng)絡釣魚指標，并定期進行網(wǎng)絡釣魚意識培訓。

實施多因素身份驗證并定期更新軟件以減少已知漏洞。

2.高級社會工程攻擊

人工智能生成的社會工程攻擊涉及通過人工智能算法編造令人信服的人物角色、信息或場景，來操縱和欺騙個人。這些方法利用心理學原理來影響目標，使其透露敏感信息或采取某些行動。

人工智能生成的社會工程攻擊示例包括以下幾種：

人工智能生成的聊天機器人或虛擬助手能夠與人類進行類似的互動，并在此過程中收集敏感信息或操縱他們的行為。

人工智能驅動的深度造假（Deepfake）技術通過為虛假信息活動生成真實的音頻和視頻內容，構成了重大威脅。惡意攻擊者可以利用人工智能語音合成工具，收集和分析音頻數(shù)據(jù)，以準確模仿目標的聲音，便于在各種場景中實施欺詐活動。

通過人工智能生成的個人資料或自動機器人來操縱社交媒體，傳播虛假新聞或惡意鏈接。

人工智能社會工程攻擊防御策略

高級威脅檢測：實施人工智能驅動的威脅檢測系統(tǒng)，能夠識別表明社會工程攻擊的模式。

電子郵件過濾和反網(wǎng)絡釣魚工具：利用人工智能解決方案在惡意電子郵件到達用戶收件箱之前阻止它們。

多因素身份驗證（MFA）：實現(xiàn)MFA以增加額外的安全層，防止未經(jīng)授權的訪問。

員工培訓和安全意識計劃：通過持續(xù)的意識活動和培訓課程，教育員工識別和報告社會工程策略，包括人工智能驅動的技術。

3.勒索軟件攻擊

NCSC評估報告指出，包括勒索軟件組織在內的威脅行為者已經(jīng)在偵察、網(wǎng)絡釣魚和編碼等各種網(wǎng)絡操作中利用人工智能技術，來提升攻擊速度和成功率。而且，預計這些趨勢將持續(xù)到2025年以后。

人工智能勒索軟件攻擊防御策略

高級威脅檢測：使用人工智能驅動的系統(tǒng)來發(fā)現(xiàn)網(wǎng)絡活動中的勒索軟件模式和異常。

網(wǎng)絡分段：劃分網(wǎng)絡以限制勒索軟件的橫向移動能力。

備份與恢復：定期對關鍵數(shù)據(jù)進行備份，并驗證恢復過程。

補丁管理：保持系統(tǒng)更新，以修復被勒索軟件利用的漏洞。

4.對抗性人工智能

逃逸攻擊（Evasion Attack）和投毒攻擊（Poisoning Attack）是人工智能和機器學習模型背景下的兩種對抗性攻擊。

投毒攻擊：這些攻擊涉及將惡意數(shù)據(jù)插入AI或ML模型的訓練數(shù)據(jù)集中。目標是通過微妙地改變訓練數(shù)據(jù)來操縱模型的行為，從而導致有偏差的預測或性能受損。通過在訓練過程中注入有毒數(shù)據(jù)，攻擊者可以破壞模型的完整性和可靠性。

逃逸攻擊：這些攻擊的目的是通過偽造輸入數(shù)據(jù)來欺騙機器學習模型。目標是通過對輸入的細微修改來改變模型的預測，使其對數(shù)據(jù)進行錯誤分類。這些調整經(jīng)過精心設計，使人類在視覺上無法察覺。逃逸攻擊在不同的人工智能應用中很普遍，比如圖像識別、自然語言處理和語音識別。

對抗性人工智能防御策略

對抗性訓練：使用可用的自動發(fā)現(xiàn)工具訓練模型識別對抗性示例。

切換模型：在系統(tǒng)中使用多個隨機模型進行預測，增加攻擊者實施惡意操作的困難度，因為他們無法確定正在使用的當前模型是哪一種。

一般化模型：將多個模型組合起來創(chuàng)建一般化模型（Generalized Model），使威脅參與者難以欺騙所有模型。

負責任的AI：利用負責任的AI框架來解決機器學習中獨特的安全漏洞，因為傳統(tǒng)的安全框架可能遠遠不夠。

5.惡意GPT

惡意GPT涉及操縱生成式預訓練模型（GPT）以達到攻擊目的。利用大量數(shù)據(jù)集的定制GPT可以潛在地繞過現(xiàn)有的安全系統(tǒng)，從而加劇人工智能威脅。

知名的惡意GPT包括（但不僅限于）以下幾種：

WormGPT：用于生成欺詐性電子郵件、仇恨言論和分發(fā)惡意軟件，為網(wǎng)絡犯罪分子執(zhí)行商業(yè)電子郵件欺詐（BEC）攻擊提供服務。

FraudGPT：能夠生成無法檢測的惡意軟件、網(wǎng)絡釣魚頁面、未公開的黑客工具、識別泄漏和漏洞，并執(zhí)行附加功能。

PoisonGPT：PoisonGPT通過在歷史事件中注入虛假細節(jié)來傳播錯誤信息。這一工具使惡意行為者能夠捏造新聞，歪曲事實，并影響公眾認知。

結語

人工智能引發(fā)的攻擊構成了嚴重威脅，能夠造成廣泛的傷害和破壞。為了應對這些威脅，組織應該投資防御性人工智能技術，培養(yǎng)安全意識文化，并不斷更新其防御策略。通過保持警惕和積極主動，組織可以更好地保護自身免受這種新的和不斷發(fā)展的威脅影響。