兩位信息科學(xué)教授最近在The Conversation上發(fā)表了一篇文章，認(rèn)為人工智能可以幫助保護人們的隱私，糾正它造成的一些問題。

陳志遠(yuǎn)和Aryya Gangopadhyay認(rèn)為，人工智能算法可以用來保護人們的隱私，從而抵消人工智能的其他用途造成的許多隱私問題。Chen和Gangopadhyay承認(rèn)，我們?yōu)榱朔奖愣褂玫脑S多AI驅(qū)動產(chǎn)品如果不訪問大量數(shù)據(jù)就無法工作，乍一看，這似乎與保護隱私的嘗試不一致。此外，隨著人工智能擴展到越來越多的行業(yè)和應(yīng)用程序，更多的數(shù)據(jù)將被收集并存儲在數(shù)據(jù)庫中，這使得對這些數(shù)據(jù)庫的破壞變得很誘人。然而，Chen和Gangopadhyay認(rèn)為，如果使用得當(dāng)，人工智能可以幫助緩解這些問題。

Chen和Gangopadhyay在他們的帖子中解釋說，與AI相關(guān)的隱私風(fēng)險至少來自兩個不同的來源。第一個來源是為訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型而收集的大型數(shù)據(jù)集，而第二個隱私威脅是模型本身。數(shù)據(jù)可能會從這些模型中“泄漏”，模型的行為會泄露有關(guān)用于訓(xùn)練它們的數(shù)據(jù)的詳細(xì)信息。

深度神經(jīng)網(wǎng)絡(luò)由多層神經(jīng)元組成，每一層都連接到它們周圍的層。單個神經(jīng)元以及神經(jīng)元之間的鏈接對訓(xùn)練數(shù)據(jù)的不同位進行編碼。即使模型沒有過度擬合，該模型也可能被證明可以很好地記住訓(xùn)練數(shù)據(jù)的模式。正如康奈爾大學(xué)在他們的一項研究中發(fā)現(xiàn)的那樣，網(wǎng)絡(luò)中存在訓(xùn)練數(shù)據(jù)的痕跡，惡意行為者可能能夠確定訓(xùn)練數(shù)據(jù)的各個方面?？的螤柎髮W(xué)的研究人員發(fā)現(xiàn)，攻擊者可以利用面部識別算法來揭示哪些圖像以及哪些人被用來訓(xùn)練人臉識別模型。康奈爾大學(xué)的研究人員發(fā)現(xiàn)，即使攻擊者無法訪問用于訓(xùn)練應(yīng)用程序的原始模型，攻擊者仍然可以通過使用模型來探測網(wǎng)絡(luò)并確定訓(xùn)練數(shù)據(jù)中是否包含特定的人是在高度相似的數(shù)據(jù)上訓(xùn)練的。

目前正在使用一些人工智能模型來防止數(shù)據(jù)泄露并試圖確保人們的隱私。人工智能模型經(jīng)常用于通過識別黑客用來滲透安全方法的行為模式來檢測黑客攻擊。然而，黑客經(jīng)常改變他們的行為來試圖欺騙模式檢測人工智能。

人工智能培訓(xùn)和開發(fā)的新方法旨在使人工智能模型和應(yīng)用程序不易受到黑客攻擊和安全規(guī)避策略的影響。對抗性學(xué)習(xí)致力于在模擬惡意或有害輸入的情況下訓(xùn)練 AI 模型，從而使模型對利用更加魯棒，因此得名“對抗性”。根據(jù)Chen和Gangopadhyay的說法，他們的研究發(fā)現(xiàn)了對抗旨在竊取人們私人信息的惡意軟件的方法。兩位研究人員解釋說，他們發(fā)現(xiàn)抵御惡意軟件最有效的方法之一是在模型中引入不確定性。目標(biāo)是讓不良行為者更難預(yù)測模型對任何給定輸入的反應(yīng)。

利用AI保護隱私的其他方法包括在創(chuàng)建和訓(xùn)練模型時最大限度地減少數(shù)據(jù)暴露，以及探索發(fā)現(xiàn)網(wǎng)絡(luò)的漏洞。在保護數(shù)據(jù)隱私方面，聯(lián)邦學(xué)習(xí)可以幫助保護敏感數(shù)據(jù)的隱私，因為它允許在訓(xùn)練模型時無需離開包含數(shù)據(jù)的本地設(shè)備、隔離數(shù)據(jù)以及大部分?jǐn)?shù)據(jù)。來自間諜的模型參數(shù)。

最終，Chen和Gangopadhyay認(rèn)為，雖然人工智能的擴散對人們的隱私造成了新的威脅，但在精心設(shè)計時，人工智能也可以幫助保護隱私。