2021年2月，房地產(chǎn)公司Zillow開始使用其AI生成的“Zestimate”來預(yù)測房屋的價(jià)值，然后利用這些信息提出收購要約。Zillow Offers背后的想法是收購房屋進(jìn)行轉(zhuǎn)售。但這項(xiàng)業(yè)務(wù)倒閉了，因?yàn)樗鼰o法出售足夠的這些房產(chǎn)。罪魁禍?zhǔn)字皇菍ξ磥砣搅鶄€(gè)月的價(jià)格預(yù)測不準(zhǔn)確。

但這不與人工智能的承諾相沖突——自動(dòng)預(yù)測能力可以使業(yè)務(wù)決策無懈可擊嗎?現(xiàn)實(shí)情況是，預(yù)測性AI模型，即使是由善意的專家開發(fā)的，也容易受到從嚴(yán)重誤判和誤用到其他不可預(yù)見后果的一切影響。

Zillow可能已經(jīng)通過基于可解釋AI的平臺阻止了事故——或者更好的是，取得了巨大的成功。這是關(guān)于AI透明度如何讓用戶更好地解釋他們的數(shù)據(jù)模型所說的內(nèi)容的入門讀物，以及它如何成為負(fù)責(zé)任實(shí)踐的關(guān)鍵組成部分，尤其是在“無代碼AI”的使用爆炸并迅速改變社會(huì)各個(gè)方面的情況下。

無代碼人工智能旨在將數(shù)據(jù)科學(xué)家的力量融入日常的喬和吉爾。工具正在興起，人們可以在不知道如何編寫代碼的情況下構(gòu)建自己的預(yù)測系統(tǒng)。因此，無代碼人工智能有望加速采用和依賴該技術(shù)。

但隨著這種擴(kuò)散而來的是負(fù)責(zé)任地使用人工智能?？山忉尩娜斯ぶ悄苁菍?shí)現(xiàn)這一目標(biāo)的方式。

為什么可解釋的人工智能很重要

你會(huì)相信一個(gè)推薦治療但不能說出原因的醫(yī)生嗎?如果她試圖解釋，如果她使用醫(yī)學(xué)術(shù)語，你會(huì)有什么感覺?如果她不能指出臨床試驗(yàn)或治療有效的例子怎么辦?信任人工智能系統(tǒng)并對其建議感到滿意的工作方式相同。

可解釋的AI是一組流程和方法，可讓人類用戶理解和質(zhì)疑機(jī)器學(xué)習(xí)算法的結(jié)果。最終，它使人類能夠信任人工智能所做的所有數(shù)據(jù)處理，因?yàn)槿藗兛梢岳斫馑鼈兊幕A(chǔ)。

考慮一家銀行對客戶拖欠信用卡的可能性進(jìn)行預(yù)測。如果違約的可能性太高，可能會(huì)提醒客戶管理團(tuán)隊(duì)更仔細(xì)地審查案件或嘗試聯(lián)系客戶。

理想情況下，人工智能平臺會(huì)提供對這些預(yù)測的解釋，因?yàn)榭蛻魰?huì)想知道他或她被標(biāo)記的原因。公司還應(yīng)根據(jù)數(shù)據(jù)和計(jì)算采取行動(dòng)，以便采取正確的行動(dòng)。(可以肯定的是，有時(shí)讓人類專家進(jìn)行判斷甚至推翻模型是有空間的。)

重要的是要知道為什么要做出預(yù)測，以及場景是否在AI模型的預(yù)期使用范圍內(nèi)。這些是在您采取行動(dòng)之前需要評估的關(guān)鍵項(xiàng)目。忽略這些類型的檢查并盲目地接受結(jié)果是不負(fù)責(zé)任的-并且在財(cái)務(wù)上存在風(fēng)險(xiǎn)。

自適應(yīng)人工智能系統(tǒng)隨著新數(shù)據(jù)的出現(xiàn)而不斷更新，尤其需要持續(xù)監(jiān)控和審查。它們?nèi)菀资艿接绊戭A(yù)測準(zhǔn)確性的數(shù)據(jù)漂移的影響。

此外，用于訓(xùn)練AI模型的數(shù)據(jù)可能會(huì)無意中包含偏見，這些偏見隨后會(huì)流入具有腐蝕性的預(yù)測結(jié)果。例如，在2017年，谷歌在其基于自然語言處理的分析工具對“同性戀”和“同性戀”等詞給出負(fù)面情緒評分而對“異性戀”保持中性評分后道歉。一個(gè)最初旨在使NLP應(yīng)用程序民主化的應(yīng)用程序反而暴露了審查訓(xùn)練數(shù)據(jù)以消除預(yù)先存在的偏見的重要性。

監(jiān)管審查

可解釋的人工智能支持負(fù)責(zé)任的數(shù)據(jù)使用，這有助于解決圍繞該技術(shù)的新興企業(yè)責(zé)任和監(jiān)管要求。歐盟嚴(yán)格的通用數(shù)據(jù)保護(hù)條例(GDPR)要求在使用人工智能時(shí)承擔(dān)道德責(zé)任。違規(guī)可能意味著巨額罰款。

在美國，至少有17個(gè)州在2021年考慮了與人工智能相關(guān)的法案或決議，其中一些在阿拉巴馬州、科羅拉多州、伊利諾伊州和密西西比州成為法律。隨著人工智能融入更多運(yùn)營，預(yù)計(jì)會(huì)有更多法規(guī)要求組織解釋其模型背后的黑匣子中的內(nèi)容。

一種解決方案是添加數(shù)據(jù)可視化和解釋，以提供使AI值得信賴和負(fù)責(zé)任的必要背景和嚴(yán)謹(jǐn)性。數(shù)據(jù)可視化以圖形方式描述信息，使其更易于解釋。該技術(shù)還使查找數(shù)據(jù)集中的模式和趨勢變得更加簡單。隨著無代碼AI變得越來越流行，一個(gè)實(shí)用的AI平臺提供了這些功能并提供了擴(kuò)展能力。

回到我們的ZillowOffers示例，想象一下可解釋的AI是否與可視化相結(jié)合并提供給Zillow Offers和Zestimate系統(tǒng)的消費(fèi)者。這些見解可能會(huì)為錯(cuò)誤的假設(shè)或有偏見的數(shù)據(jù)帶來透明度。利益相關(guān)者會(huì)對這個(gè)預(yù)測性生態(tài)系統(tǒng)中上演的故事有更全面的了解。這些信息可以作為購買、出售和翻轉(zhuǎn)房屋決策的重要幫助——提高業(yè)務(wù)的成功率。