深度學(xué)習(xí)系統(tǒng)不擅長處理新奇的情況，它們需要大量的數(shù)據(jù)來訓(xùn)練，它們有時會犯一些奇怪的錯誤，甚至?xí)屗鼈兊膭?chuàng)造者感到困惑。

一些科學(xué)家認(rèn)為，這些問題將通過創(chuàng)建越來越大的神經(jīng)網(wǎng)絡(luò)并在越來越大的數(shù)據(jù)集上訓(xùn)練它們來解決。也有人認(rèn)為AI領(lǐng)域需要的是一點(diǎn)點(diǎn)人類的“常識”。。

好的人工智能系統(tǒng)會犯奇怪的錯誤。

在過去的10-12年里，隨著人們對深度學(xué)習(xí)表現(xiàn)出非凡的熱情，有很多關(guān)于基于深度學(xué)習(xí)的系統(tǒng)能夠做我們最初希望人工智能系統(tǒng)做的一切事情的談?wù)摗?/p>

在人工智能的早期，愿景是創(chuàng)造一個獨(dú)立自主的系統(tǒng)，可能是機(jī)器人的形式，它可以在世界上做事情，幾乎不需要或不需要人類干預(yù)。

今天，孔徑已經(jīng)縮小了很多，因?yàn)楹芏嗳硕紝ι疃葘W(xué)習(xí)能夠完成的事情感到興奮，特別是，在工業(yè)中巨額資金和人才收購在推動了對基于經(jīng)驗(yàn)或訓(xùn)練有素的系統(tǒng)的強(qiáng)烈關(guān)注后，我們正在接近的大量索賠人工通用智能，或者說“老式人工智能”(GOFAI)或象征性方法已經(jīng)完全過時或沒有必要。"

但是很清楚的是，盡管令人印象深刻，深度學(xué)習(xí)系統(tǒng)正遭受著尚未解決的令人困惑的問題。神經(jīng)網(wǎng)絡(luò)傾向于敵對攻擊，其中對輸入值的特制修改會導(dǎo)致模型對其輸出進(jìn)行突然的錯誤更改。深度學(xué)習(xí)也在努力理解簡單因果關(guān)系而且很不擅長構(gòu)思和組合概念。大型語言模型，最近已經(jīng)成為一個特別關(guān)注的領(lǐng)域，被發(fā)現(xiàn)有時會犯非常愚蠢的錯誤同時生成連貫且令人印象深刻的文本.

如果你想一想，這些系統(tǒng)中明顯缺少的是我們?nèi)祟愃^的常識，這是一種看到對許多人來說似乎顯而易見的事情的能力，能夠快速簡單地得出顯而易見的結(jié)論，并且能夠在你決定做一些你立即意識到是荒謬或糟糕的選擇的事情時阻止自己。

什么是常識?

AI界從早年就開始講常識。事實(shí)上，關(guān)于人工智能的最早的論文之一，在1958年寫的，標(biāo)題是有常識的程序。

這不是新的，我們也沒有發(fā)明它，但這個領(lǐng)域已經(jīng)忽視了人工智能先驅(qū)們對它的定義。“如果你進(jìn)一步尋找關(guān)于什么是常識，擁有常識意味著什么，以及對我們來說重要的是，常識如何工作以及如何實(shí)施常識的指導(dǎo)，你會在心理學(xué)文獻(xiàn)中發(fā)現(xiàn)很少的東西。”

在…里像我們一樣的機(jī)器，將常識描述為“有效利用普通的、日常的、經(jīng)驗(yàn)的知識來實(shí)現(xiàn)普通的、日常的、實(shí)際的目標(biāo)的能力。”

常識對生存至關(guān)重要。人類和高等動物已經(jīng)進(jìn)化到通過經(jīng)驗(yàn)學(xué)習(xí)，并發(fā)展出例行程序和自動駕駛技能，可以處理他們每天面臨的大多數(shù)情況。但是日常生活不僅僅是我們反復(fù)看到的套路。我們經(jīng)常面對從未見過的新奇情況。其中一些可能與正常情況大相徑庭，但大多數(shù)時候，我們看到的東西與我們習(xí)慣的東西略有不同。在人工智能的討論中，這有時被稱為“長尾”。

在我們看來，當(dāng)你被這些日常事務(wù)打斷時，常識真的是第一個被激活的東西。常識可以讓你快速瀏覽新的情況，記住你以前做過的足夠接近的事情，快速調(diào)整你的記憶，并將其應(yīng)用到新的情況中，然后繼續(xù)前進(jìn)。

常識不是快速的自動駕駛系統(tǒng)1思維，它執(zhí)行我們可以做的大多數(shù)例行任務(wù)，而無需有意識地專注于它們(例如，刷牙、系鞋帶、扣襯衫扣子、在熟悉的區(qū)域開車)。打破你目前的常規(guī)需要積極的思考。

與此同時，常識也不是系統(tǒng)2思維，這是一種緩慢的思維模式，需要完全集中精力，有條不紊，一步一步地思考(例如，計(jì)劃六周的旅行，設(shè)計(jì)軟件，解決復(fù)雜的方程)。

我們可以深思熟慮，通過挑戰(zhàn)來解決難題。那種想法對你的大腦來說很費(fèi)力，而且很慢。布常識允許我們在幾乎任何常見的日常情況下繞過這一點(diǎn)，我們不必深入思考下一步該做什么。

如果需要相當(dāng)大的精神努力才能弄清楚，那就不是常識了。我們可以把它看作‘反身思維’，反身思維和思考一樣重要。

沒有常識的人工智能的危險

當(dāng)人工智能系統(tǒng)被用于總是產(chǎn)生新情況的應(yīng)用中時，常識成為絕對必要的常識包含可預(yù)測性、信任、可解釋性和責(zé)任性。

大多數(shù)人不會犯奇怪的錯誤。我們偶爾都會做些傻事。但我們可以思考一下，避免再犯。人是不完美的。但是他們一般在一定程度上是可以預(yù)測的，尤其是你認(rèn)識的人。這讓我們能夠投資信任。

沒有常識的人工智能系統(tǒng)面臨的挑戰(zhàn)是，當(dāng)它們達(dá)到訓(xùn)練的極限時，它們會犯錯誤，這些錯誤是完全不可預(yù)測和無法解釋的。

沒有常識的機(jī)器沒有那種視角，沒有那種退路來阻止自己做奇怪的事情，并且它們受到脆性的困擾他們對自己正在做的事情感到驚訝。但當(dāng)他們犯錯時，這根本沒有任何意義。

這些錯誤可能是無害的，比如給一張圖片貼錯標(biāo)簽，也可能是極其有害的，比如開車撞上車道分割線。

如果一個系統(tǒng)遇到的都是棋盤，它所要擔(dān)心的都是贏得游戲，那么常識真的沒有給這個組合增加任何東西，常識將發(fā)揮作用的地方是，當(dāng)我們冒險超越棋盤，將象棋游戲視為發(fā)生在現(xiàn)實(shí)世界中的一種活動。

因此，隨著人工智能系統(tǒng)進(jìn)入開放領(lǐng)域的敏感應(yīng)用，如駕駛汽車或與人類合作，甚至參與開放式對話，常識將發(fā)揮非常關(guān)鍵的作用。這些地方總是會出現(xiàn)新奇的情況。

如果我們希望人工智能系統(tǒng)能夠以一種合理的方式處理現(xiàn)實(shí)世界中非常常見的事情，我們需要超越從采樣已經(jīng)發(fā)生的事情中獲得的專業(yè)知識，作者在中寫道。“考慮到壓倒性的巨大數(shù)字，僅僅基于對過去發(fā)生的事情的觀察和內(nèi)化來預(yù)測未來是行不通的，不管這種蠻力有多殘忍。我們需要常識。”

重溫符號人工智能

大多數(shù)科學(xué)家都認(rèn)為當(dāng)前的人工智能系統(tǒng)缺乏常識。然而，當(dāng)涉及到解決方案時，意見分歧。一個流行的趨勢是繼續(xù)讓神經(jīng)網(wǎng)絡(luò)越來越大。證據(jù)表明，更大的神經(jīng)網(wǎng)絡(luò)繼續(xù)取得增量改進(jìn)。在某些情況下，大型神經(jīng)網(wǎng)絡(luò)顯示零距離學(xué)習(xí)技巧在那里，他們執(zhí)行未經(jīng)訓(xùn)練的任務(wù)。

然而，也有大量的研究和實(shí)驗(yàn)表明，更多的數(shù)據(jù)和計(jì)算不解決人工智能系統(tǒng)的問題沒有常識的人。他們只是把它們隱藏在一個更大更混亂的數(shù)字權(quán)重和矩陣運(yùn)算中。

這些系統(tǒng)注意到并內(nèi)化了相互關(guān)系或模式。他們不發(fā)展“概念”即使當(dāng)這些東西與語言互動時，它們也只是在模仿人類行為，而沒有我們認(rèn)為擁有的潛在心理和概念機(jī)制。

常識是關(guān)于世界上的事物及其所具有的屬性，通過我們所謂的概念結(jié)構(gòu)來調(diào)節(jié)，概念結(jié)構(gòu)是關(guān)于可能存在的事物種類及其可能具有的屬性種類的想法的集合。 關(guān)于做什么的常識性決定相當(dāng)于使用這種表示的知識來考慮如何實(shí)現(xiàn)目標(biāo)以及如何對觀察到的情況做出反應(yīng)。

該領(lǐng)域需要回顧和重溫一些早期的工作符號人工智能給計(jì)算機(jī)帶來常識。他們稱之為“知識表征”假說。這本書詳細(xì)介紹了知識管理系統(tǒng)是如何構(gòu)建的，以及如何將不同的知識整合在一起，形成更復(fù)雜的知識和推理形式。

根據(jù)KR假設(shè)，常識知識的表示將有兩個部分:“表示世界狀態(tài)的世界模型，以及表示概念結(jié)構(gòu)的概念模型——可用于對世界上的項(xiàng)目進(jìn)行分類的概括框架。”

我們的觀點(diǎn)是回到早期對人工智能的一些思考，其中某種符號和符號操縱程序——人們過去稱之為推理引擎——可以用來編碼和使用我們稱之為常識的世界基本知識:直覺或天真的物理學(xué)，對人和其他代理人如何行動以及意圖和信念是什么樣的基本理解，時間和事件如何工作，因果關(guān)系等。嬰兒學(xué)到的所有知識在他們生命的第一年到兩年，世界知識實(shí)際上可以對機(jī)器的行為產(chǎn)生因果影響，并且還可以利用你可以通過操縱符號做的所有事情，如組合性，以新的方式放置我們熟悉的東西。

無論從長遠(yuǎn)來看，路徑是預(yù)構(gòu)建、預(yù)編碼所有這些知識，還是以某種方式讓系統(tǒng)以不同的方式學(xué)習(xí)，我不知道。但作為一種假設(shè)和實(shí)驗(yàn)，我認(rèn)為人工智能的下一步應(yīng)該是嘗試建立這些知識庫，并讓系統(tǒng)使用它們來處理日常生活中的驚喜，對如何處理熟悉和不熟悉的情況做出粗略的猜測。

我們需要走得更遠(yuǎn)。我們需要關(guān)注自主決策機(jī)器如何在日常決策環(huán)境中使用這些東西。這是所有其他項(xiàng)目都缺少的東西。建立事實(shí)知識并能夠?qū)ξｋU類型的瑣事問題給出答案是一回事。但在喧囂的世界中運(yùn)營，并能夠以理性和及時的方式應(yīng)對不可預(yù)見的意外，則完全是另一回事。

機(jī)器學(xué)習(xí)在常識中有作用嗎?

基于機(jī)器學(xué)習(xí)的系統(tǒng)將繼續(xù)在人工智能的感知方面發(fā)揮至關(guān)重要的作用。

我不會推動一個使用一階謂詞演算來處理人造視網(wǎng)膜上的像素或處理速度信號處理的符號操縱系統(tǒng)。這些機(jī)器學(xué)習(xí)系統(tǒng)在低感官水平的識別任務(wù)方面表現(xiàn)出色。還不清楚這種東西在認(rèn)知鏈中的位置有多高。但這顯然沒有完全實(shí)現(xiàn)，因?yàn)樗鼈儧]有在你在一個場景中看到的東西和自然語言之間形成概念和聯(lián)系。

該領(lǐng)域正在進(jìn)行的許多工作，但他也建議當(dāng)前對混合人工智能的看法需要一些調(diào)整。

我不認(rèn)為目前的任何神經(jīng)符號系統(tǒng)能夠解釋常識和更有條理、更深入的符號推理之間的差異，而這些符號推理是數(shù)學(xué)、重型規(guī)劃和深度分析的基礎(chǔ)。在這個混合人工智能世界中，我希望看到的是真正考慮常識，讓機(jī)器以人類的方式利用常識，并讓機(jī)器為機(jī)器做與人類一樣不可思議的事情。