數(shù)據(jù)集是人工智能的基礎(chǔ)。數(shù)據(jù)允許人工智能做出決策和分析趨勢(shì)，因?yàn)樗鼈冇写罅繑?shù)據(jù)點(diǎn)可供演繹推理參考。然而，數(shù)據(jù)中毒已經(jīng)進(jìn)入網(wǎng)絡(luò)安全領(lǐng)域，破壞人工智能算法，試圖破壞人類(lèi)為完善其準(zhǔn)確性所做的工作。

數(shù)據(jù)中毒是一個(gè)相對(duì)較新的現(xiàn)象，是否有人發(fā)明了解決方案來(lái)對(duì)抗它?傳統(tǒng)的網(wǎng)絡(luò)安全方法能否在分析師適應(yīng)時(shí)用于創(chuàng)建防御?

什么是數(shù)據(jù)中毒?

數(shù)據(jù)中毒是指黑客成功地向人工智能提供數(shù)據(jù)以制造漏洞。AI 無(wú)法準(zhǔn)確預(yù)測(cè)數(shù)據(jù)集是否已損壞——這就是垃圾郵件被標(biāo)記為值得閱讀的方式，并且在您允許朋友使用您的帳戶(hù)后，您的 Netflix 推薦提要會(huì)變得混亂。

有時(shí)這是因?yàn)槿斯ぶ悄芎蜋C(jī)器學(xué)習(xí)還沒(méi)有足夠的時(shí)間來(lái)發(fā)展。有時(shí)，在數(shù)據(jù)中毒的情況下，這是因?yàn)楹诳拖?AI 模型提供了精心策劃的信息，這些信息有利于他們的事業(yè)，并扭曲了經(jīng)過(guò)訓(xùn)練的 AI 的邏輯。

公司的人工智能模型可以完成從分析報(bào)告到自動(dòng)響應(yīng)實(shí)時(shí)客戶(hù)的所有工作。大多數(shù)人工智能從事主動(dòng)學(xué)習(xí)以獲取更多數(shù)據(jù)，而人類(lèi)工作者則執(zhí)行常規(guī)任務(wù)。在這個(gè)階段，利用尚缺乏信息的萌芽系統(tǒng)并不具有挑戰(zhàn)性。

數(shù)據(jù)中毒有多有效?

如果包含網(wǎng)絡(luò)釣魚(yú)詐騙的危險(xiǎn)電子郵件以可靠的語(yǔ)言和令人信服的簽名出現(xiàn)在您的收件箱中，則很容易意外泄露您的信息。

一些人認(rèn)為，數(shù)據(jù)中毒可能是受到黑客傳統(tǒng)上利用缺乏網(wǎng)絡(luò)安全實(shí)踐培訓(xùn)的方式所激發(fā)的。如果一家公司的人工智能處于起步階段或未經(jīng)培訓(xùn)，那么它就像員工在不知不覺(jué)中回復(fù)網(wǎng)絡(luò)釣魚(yú)電子郵件一樣容易被利用。

數(shù)據(jù)中毒之所以有效，是因?yàn)樗昧诉@種缺乏意識(shí)。它通過(guò)以下方式在外觀和執(zhí)行上變得多才多藝：

• 重寫(xiě)聊天機(jī)器人的語(yǔ)言?xún)A向，使其說(shuō)話不同或使用攻擊性語(yǔ)言
• 說(shuō)服算法相信某些公司表現(xiàn)不佳
• 針對(duì)惡意軟件和抗病毒防御進(jìn)行病毒采樣，以使其確信安全文件是惡意的

這些只是人工智能使用的幾個(gè)例子，以及中毒如何破壞操作。由于 AI 模型為不同類(lèi)型的實(shí)現(xiàn)學(xué)習(xí)了不同的技能集，因此黑客 AI 毒害它們的方式與它們的用途一樣廣泛。這意味著治愈它們的解決方案可能同樣廣泛。

有多大的威脅?

從 Fortnite 到 WhatsApp 的企業(yè)由于安全系統(tǒng)乏善可陳而導(dǎo)致用戶(hù)信息泄露。人工智能可能是增強(qiáng)安全性所需的缺失成分，但它也可能會(huì)在它學(xué)習(xí)的同時(shí)邀請(qǐng)黑客毒害數(shù)據(jù)，從而導(dǎo)致進(jìn)一步和更嚴(yán)重的違規(guī)行為。

中毒 AI 的影響是嚴(yán)重的。想象一下，通過(guò)簡(jiǎn)單的輸入感染網(wǎng)絡(luò)，就能繞過(guò)網(wǎng)絡(luò)的安全措施。中毒的 AI 顛覆了公司的 AI 防御，給黑客留下了攻擊的機(jī)會(huì)。一旦黑客的人工智能控制了足夠多的防御，進(jìn)行攻擊就像走進(jìn)前門(mén)一樣容易。

由于這在網(wǎng)絡(luò)安全領(lǐng)域是一個(gè)相對(duì)較新的威脅，隨著威脅的加劇，分析師正在創(chuàng)建更多的解決方案。

防止數(shù)據(jù)中毒的最關(guān)鍵屏障是堅(jiān)實(shí)的網(wǎng)絡(luò)安全基礎(chǔ)設(shè)施。教育自己，無(wú)論您是公司的員工還是作為企業(yè)家經(jīng)營(yíng)自己的企業(yè)，都是我們最好的防御。

當(dāng)新的解決方案不斷出現(xiàn)時(shí)，有多種選擇可以保護(hù)您的 AI免受中毒攻擊：

• 跟上定期維護(hù)：對(duì)您使用的模型中的數(shù)據(jù)進(jìn)行檢查。確保故意提供給 AI 的信息仍然存在，不受隨機(jī)插入的干擾，否則會(huì)使其中毒。
• 謹(jǐn)慎選擇數(shù)據(jù)：從創(chuàng)建 AI 模型的那一刻起就小心謹(jǐn)慎。確保存儲(chǔ)在其中的所有內(nèi)容都是相關(guān)的，并且不會(huì)妥協(xié)，以至于黑客的工作很容易將您的文件連根拔起。
• 執(zhí)行積極的測(cè)試：對(duì) AI 模型的滲透測(cè)試——執(zhí)行模擬的網(wǎng)絡(luò)攻擊——可能會(huì)發(fā)現(xiàn)你的網(wǎng)絡(luò)防御中的漏洞。

盡管似乎每周都會(huì)出現(xiàn)新的威脅，但重要的是不要忘記在新出現(xiàn)的威脅出現(xiàn)時(shí)保護(hù)資產(chǎn)的安全措施(例如良好的加密和零信任框架)。即使新的威脅進(jìn)入網(wǎng)絡(luò)，實(shí)施這些策略仍然會(huì)有所幫助。

有數(shù)據(jù)中毒的解決方案嗎?

每一種新的網(wǎng)絡(luò)犯罪活動(dòng)都為分析師、雇主和愛(ài)好者提供了推測(cè)趨勢(shì)的機(jī)會(huì)。盡管現(xiàn)在可能沒(méi)有一種萬(wàn)能的解決方案來(lái)應(yīng)對(duì)不斷上升的數(shù)據(jù)中毒威脅，但最近的每次攻擊都是對(duì)網(wǎng)絡(luò)犯罪分子策略的洞察，為防御者提供了優(yōu)勢(shì)。

利用這些時(shí)刻進(jìn)行準(zhǔn)備而不是擔(dān)心將使我們能夠創(chuàng)建更有效的解決方案并有效地利用資源來(lái)保護(hù)盡可能多的數(shù)據(jù)。