我們每天、在每個(gè)組織中、在我們進(jìn)行的每一項(xiàng)活動(dòng)中都被風(fēng)險(xiǎn)所包圍。風(fēng)險(xiǎn)管理領(lǐng)域是一門(mén)致力于識(shí)別、量化和管理風(fēng)險(xiǎn)的學(xué)科，以便我們?nèi)祟惸軌蜻^(guò)上安全、有保障和幸福的生活。每次我們坐飛機(jī)、開(kāi)車(chē)、吞藥或吃沙拉時(shí)，我們都在依靠風(fēng)險(xiǎn)管理人員的不懈努力來(lái)確保這些活動(dòng)的安全，同時(shí)保持成本效益。

風(fēng)險(xiǎn)管理是了解可能發(fā)生的事件，無(wú)論多么不可能或多么遙遠(yuǎn)。例如，在駕駛汽車(chē)時(shí)，存在爆胎的風(fēng)險(xiǎn)。概率很低，但如果發(fā)生，影響是相當(dāng)大的。相反，前照燈停止工作的風(fēng)險(xiǎn)相對(duì)較高，但如果發(fā)生這種情況，影響是中等的，但不是零，這就是我們有兩個(gè)前照燈的原因。

在評(píng)估風(fēng)險(xiǎn)時(shí)，必須考慮影響/嚴(yán)重性和概率/可能性的組合；這被稱為風(fēng)險(xiǎn)暴露，它決定了應(yīng)該為減輕風(fēng)險(xiǎn)付出多少努力——通過(guò)降低其嚴(yán)重性或概率。

識(shí)別人類忽視的風(fēng)險(xiǎn)

傳統(tǒng)上，風(fēng)險(xiǎn)管理的第一步是識(shí)別所有風(fēng)險(xiǎn)，然后量化它們的概率和嚴(yán)重性。這是通過(guò)人類集思廣益可能發(fā)生的事件并利用他們以前的行業(yè)知識(shí)對(duì)概率和嚴(yán)重性做出有根據(jù)的猜測(cè)來(lái)完成的。此過(guò)程中的主要缺陷之一是人類（尤其是在團(tuán)隊(duì)中）會(huì)受到諸如確認(rèn)偏差、后見(jiàn)之明偏差和可用性偏差等偏見(jiàn)的影響。換句話說(shuō)，我們傾向于高估先前已知的風(fēng)險(xiǎn)，而忽略或淡化可能真正嚴(yán)重的模糊邊緣情況。

在風(fēng)險(xiǎn)管理領(lǐng)域使用人工智能 (AI) 可以通過(guò)多種方式解決偏見(jiàn)。

• 首先，當(dāng)您擁有大量真實(shí)世界證據(jù)的數(shù)據(jù)集時(shí)，人工智能應(yīng)用程序和機(jī)器學(xué)習(xí) (ML) 模型可以發(fā)現(xiàn)迄今為止未知的風(fēng)險(xiǎn)，即所謂的“零日”風(fēng)險(xiǎn)。例如，監(jiān)控天氣、住院時(shí)間和交通等不相關(guān)數(shù)據(jù)饋送的人工智能系統(tǒng)可以識(shí)別被遮擋的新汽車(chē)系統(tǒng)（例如，新的自動(dòng)駕駛模式）中的風(fēng)險(xiǎn)。
• 除了從大型不相關(guān)數(shù)據(jù)集中識(shí)別迄今為止未知的風(fēng)險(xiǎn)外，人工智能系統(tǒng)還可以利用外部環(huán)境數(shù)據(jù)與人類直覺(jué)來(lái)系統(tǒng)地量化先前識(shí)別的風(fēng)險(xiǎn)并系統(tǒng)地量化它們的影響和概率。這將消除經(jīng)典風(fēng)險(xiǎn)管理模型中的大量猜測(cè)和可變性。

了解我們模型中的風(fēng)險(xiǎn)

相反，將 AI 和 ML 用于汽車(chē)或航空航天自動(dòng)駕駛儀等安全關(guān)鍵系統(tǒng)可能會(huì)給系統(tǒng)帶來(lái)新的風(fēng)險(xiǎn)。當(dāng)我們構(gòu)建 AI/ML 模型時(shí)，與傳統(tǒng)的算法計(jì)算機(jī)系統(tǒng)不同，我們沒(méi)有定義需求和編碼步驟來(lái)滿足這些需求。相反，我們提供了一個(gè)數(shù)據(jù)集、已知規(guī)則和邊界條件，并讓模型從提供的數(shù)據(jù)中推斷出它自己的算法。

這允許 AI/ML 系統(tǒng)創(chuàng)建人類以前不知道的新方法，并找到獨(dú)特的關(guān)聯(lián)和突破。但是，這些新見(jiàn)解未經(jīng)證實(shí)，可能僅與它們所基于的有限數(shù)據(jù)集一樣好。風(fēng)險(xiǎn)在于我們開(kāi)始將這些模型用于生產(chǎn)系統(tǒng)，并且它們以意想不到和不可預(yù)測(cè)的方式運(yùn)行。

這是需要獨(dú)立風(fēng)險(xiǎn)分析和風(fēng)險(xiǎn)管理的問(wèn)題的典型示例，可以來(lái)自可以“檢查”主要模型的單獨(dú) AI/ML 模型，也可以來(lái)自可以驗(yàn)證 AI 系統(tǒng)中可能發(fā)生的風(fēng)險(xiǎn)的人類專家.

人機(jī)和諧

因此，從風(fēng)險(xiǎn)管理的角度來(lái)看，將 AI 和 ML 引入復(fù)雜的安全或關(guān)鍵任務(wù)系統(tǒng)會(huì)帶來(lái)好處和挑戰(zhàn)；采用 AI/ML 技術(shù)的合理框架認(rèn)識(shí)到這些因素，并嘗試在減輕挑戰(zhàn)的同時(shí)最大化收益。

人類可以檢查機(jī)器

當(dāng)我們開(kāi)始實(shí)施 AI/ML 模型時(shí)，確保我們清楚地掌握業(yè)務(wù)需求、用例和邊界條件（或約束）變得至關(guān)重要。

定義使用的數(shù)據(jù)集的限制和模型訓(xùn)練的特定用例將確保模型僅用于支持其原始數(shù)據(jù)集所代表的活動(dòng)。

此外，讓人類獨(dú)立檢查 AI/ML 模型預(yù)測(cè)的結(jié)果的重要性也不容忽視。這種獨(dú)立的驗(yàn)證和確認(rèn) (IV&V) 將使人類能夠確保正確使用 AI 模型，而不會(huì)在系統(tǒng)中引入不必要的風(fēng)險(xiǎn)和意外漏洞。

例如，在將自動(dòng)駕駛儀部署到汽車(chē)或航空平臺(tái)時(shí)，此類 IV&V 將驗(yàn)證飛機(jī)或汽車(chē)在模擬器或真實(shí)測(cè)試環(huán)境中的行為是否符合預(yù)期。

機(jī)器可以檢查人類

相反，人工智能模型可用于檢查人類所做的風(fēng)險(xiǎn)管理模型和評(píng)估，以確保他們不會(huì)遺漏零日風(fēng)險(xiǎn)。在這種情況下，計(jì)算機(jī)充當(dāng)自己的 IV&V 進(jìn)行人類決策。這是上一點(diǎn)的鏡像。在這種情況下，我們正在利用機(jī)器學(xué)習(xí)模型來(lái)避免人為偏見(jiàn)并發(fā)現(xiàn)我們現(xiàn)有風(fēng)險(xiǎn)模型中的缺陷。

和諧

我們不應(yīng)將人工智能視為經(jīng)典風(fēng)險(xiǎn)管理方法的替代品，而應(yīng)接受計(jì)算機(jī)和人類之間內(nèi)在的和諧，檢查彼此的假設(shè)和建議。

結(jié)合使用人工風(fēng)險(xiǎn)評(píng)估技術(shù)和人工智能工具，我們可以降低系統(tǒng)的整體風(fēng)險(xiǎn)，同時(shí)實(shí)現(xiàn)前所未有的創(chuàng)新和突破。如果您查看許多歷史安全事故（三英里島、切爾諾貝利等），人為因素往往是最大的風(fēng)險(xiǎn)。