網(wǎng)絡(luò)安全專業(yè)人員在確保人工智能工具安全方面責(zé)無旁貸，確保這些技術(shù)僅用于社會公益，這是 RSA 2024 大會發(fā)出的強(qiáng)烈信息。

人工智能在現(xiàn)實世界中大有可為，例如可以更快、更準(zhǔn)確地診斷健康狀況。然而，隨著人工智能的創(chuàng)新和應(yīng)用步伐以前所未有的速度加快，許多人呼吁必須及早建立安全防護(hù)措施，以確保人工智能發(fā)揮其巨大潛力。

在這一過程中，必須考慮到隱私和公平等概念。

微軟負(fù)責(zé)安全、合規(guī)、身份和管理的副總裁 Vasu Jakkal 強(qiáng)調(diào)說：”我們有責(zé)任在人工智能快速發(fā)展的時代探索創(chuàng)造一個安全可靠的空間。“

另外，人工智能安全中心創(chuàng)始人 Dan Hendrycks 表示，人工智能存在著巨大的風(fēng)險，鑒于其在物理世界中日益增長的影響力和潛力，這些風(fēng)險既是社會性的，也是技術(shù)性的。也就是說，人工智能的安全保護(hù)是一個更廣泛的社會技術(shù)問題，而不僅僅是技術(shù)問題。

哈佛大學(xué)肯尼迪學(xué)院安全技術(shù)專家、研究員兼講師 Bruce Schneier 指出，現(xiàn)在，人工智能安全和我們的安全緊密相連，因此我們必須更廣泛地思考這些問題。

對人工智能完整性的威脅

員工正在利用 ChatGPT 等公開可用的生成式人工智能工具開展工作，Presidio 公司的 CISO Dan Lohrmann 將這種現(xiàn)象稱為 “自帶人工智能”。

Secureworks 的首席技術(shù)官 Mike Aiello 認(rèn)為，這與 SASE 服務(wù)剛出現(xiàn)時的情況類似，當(dāng)時企業(yè)中的許多員工都訂閱了這些服務(wù)?，F(xiàn)在，企業(yè)在使用人工智能方面也面臨同樣的情況，比如注冊 ChatGPT，對于企業(yè)來說已經(jīng)有點不受控制。

這種趨勢給企業(yè)帶來了許多安全和隱私方面的問題，比如敏感的公司數(shù)據(jù)被輸入到這些模型中，可能會導(dǎo)致信息公開。

其他問題也威脅著人工智能工具輸出結(jié)果的完整性。這些問題包括數(shù)據(jù)中毒，即通過改變模型所訓(xùn)練的數(shù)據(jù)無意或有意地改變模型的行為；以及提示注入攻擊，即操縱人工智能模型執(zhí)行非預(yù)期的操作。

這些問題有可能破壞人們對人工智能技術(shù)的信任，造成模糊、偏見和歧視等問題。反過來看，這將限制人工智能技術(shù)的應(yīng)用和解決重大社會問題的潛力。

人工智能是一項治理問題

在 RSA 大會上發(fā)言的專家們主張，企業(yè)應(yīng)像對待其他需要確保安全的應(yīng)用程序一樣對待人工智能工具。

谷歌安全工程副總裁 Heather Adkins 指出，從本質(zhì)上講，人工智能系統(tǒng)和其他應(yīng)用程序一樣，都有輸入和輸出，過去 30 年里開發(fā)的很多技術(shù)在這里也同樣適用。

Jakkal 認(rèn)為，確保人工智能系統(tǒng)安全的核心是建立一個強(qiáng)大的風(fēng)險管理治理體系。她闡述了微軟在這方面的三大支柱：

發(fā)現(xiàn)：了解環(huán)境中使用了哪些人工智能工具，以及員工是如何使用它們的

保護(hù)：降低整個系統(tǒng)的風(fēng)險，并加以實施

治理：遵守監(jiān)管和行為準(zhǔn)則政策，培訓(xùn)員工安全使用人工智能工具

Lohrmann 強(qiáng)調(diào)，企業(yè)要采取的第一步是讓員工了解人工智能的使用情況，在采取行動之前，必須知道發(fā)生了什么。

Secureworks 的 Aiello 還主張，在將工作委托給人工智能模型時，員工應(yīng)該保持高度參與。他解釋說，公司使用工具進(jìn)行數(shù)據(jù)分析，析師也要檢查這些數(shù)據(jù)，并在出現(xiàn)模糊等問題時提供反饋。

結(jié)論

目前，我們還處于了解人工智能對社會真正影響的早期階段。要發(fā)掘人工智能的巨大潛力，這些保護(hù)系統(tǒng)必須具備強(qiáng)大的安全性，否則可能面臨跨組織和跨國家的限制甚至禁令。

如今，企業(yè)仍在努力應(yīng)對工作場所生成式人工智能工具的激增，必須迅速制定能夠安全可靠地管理這種使用的政策和工具，而網(wǎng)絡(luò)安全行業(yè)對這一問題的處理方式很可能會對人工智能未來的角色產(chǎn)生重大影響。