2021世界機(jī)器人大會第二天線下主論壇——“未來峰會”群星璀璨，產(chǎn)、學(xué)、研各領(lǐng)域大咖齊聚首，共話巔峰，為機(jī)器人未來發(fā)展領(lǐng)航。

峰會現(xiàn)場，暢銷書《復(fù)雜》作者，波特蘭州立大學(xué)計算機(jī)科學(xué)教授、復(fù)雜系統(tǒng)前沿科學(xué)家Melanie Mitchell通過視頻形式進(jìn)行演講，演講主題為《AI3.0——人工智能的能與不能》。以下為Melanie Mitchell演講內(nèi)容全文整理。

大家好！我是Melanie Mitchell，是美國圣菲研究所的一名教授。今天我要和大家談一談，要怎樣才能讓人工智能達(dá)到第三層次變得穩(wěn)健，具有適應(yīng)性和可解釋性，也就是我們所說的人工智能3.0。

你們很多人可能都知道，人工智能的起源可以追溯至1956年，在達(dá)特茅斯學(xué)院舉行的一個研討會，該研討會由麥卡錫、明斯基、羅切斯特和香農(nóng)等先驅(qū)者主辦。這是當(dāng)時研討會提案的第一頁，他們認(rèn)為在一個夏天之內(nèi)，他們將能夠研究出如何讓機(jī)器使用語言形成抽象理解和概念，解決現(xiàn)在留給人類的各種問題，完成自我改進(jìn)。但是現(xiàn)在快過去70年了，所有這些關(guān)于如何讓機(jī)器完成這些事情的問題仍然沒有完全得到解決。

人工智能的第一階段，我們稱之為“人工智能1.0”。是利用人機(jī)工程學(xué)知識，來讓機(jī)器擁有智能行為，例如一個專家系統(tǒng)可能會有一系列的規(guī)則來對不同種類的鳥兒進(jìn)行分類。大家可以看到，這樣的做法在很多情況下都是可行的，但是這些系統(tǒng)又是很不穩(wěn)定的。因為在遇到一些罕見情況時，比如一只翅膀受傷的鳥，系統(tǒng)可能就無法對其正確分類。這些專家系統(tǒng)得到了應(yīng)用廣泛，但是它們并不能真的像人類一樣處理所有事情。

人工智能2.0，下一階段是機(jī)器學(xué)習(xí)階段，也就是從數(shù)據(jù)中學(xué)習(xí)，以及我們現(xiàn)在所說的深度學(xué)習(xí)革命。從數(shù)據(jù)中學(xué)習(xí)包括聚類或分類，使用的是稱為支持向量機(jī)的統(tǒng)計學(xué)習(xí)技術(shù)，或者近期使用的受人腦結(jié)構(gòu)啟發(fā)的神經(jīng)網(wǎng)絡(luò)。利用像大腦中視覺系統(tǒng)一樣的結(jié)構(gòu)，通過多層信息  處理各種分類和語言問題，深度神經(jīng)網(wǎng)絡(luò)徹底改變了人工智能的許多領(lǐng)域。

例如著名的ImageNet圖像識別大賽，我們可以在這張圖中看到歷年比賽選出的最佳程序的誤差率。大家可以看到，一旦開始使用深度神經(jīng)網(wǎng)絡(luò)，誤差率就大幅下降了。到今天，它們的誤差率甚至低于人類在識別該數(shù)據(jù)集時的預(yù)計誤差率，這使得很多人工智能應(yīng)用成為可能。比如面部識別，能夠識別道路上物體的自動駕駛汽車，能夠擊敗世界上最厲害的圍棋手的Alpha Go，以及像ALEXA這樣能夠和用戶對話、回答簡單問題的智能助手、機(jī)器翻譯?，F(xiàn)在使用深度神經(jīng)網(wǎng)絡(luò)能夠在一瞬間將英語翻譯成中文，還有最近的一些成就，比如OpenAI的GPT-3系統(tǒng)能生成類似人類的語言，以及DeepMind的AlphaFold系統(tǒng)能夠僅從蛋白質(zhì)的基因序列預(yù)測其結(jié)構(gòu)。盡管這些系統(tǒng)已經(jīng)取得了許多成就，卻也有其局限性。其中一個局限就是機(jī)器太復(fù)雜了，深層神經(jīng)網(wǎng)絡(luò)可能有超過10億個參數(shù)，這是模擬神經(jīng)元之間的權(quán)重，所以很難準(zhǔn)確地理解它們到底學(xué)到了什么。

而且事實證明，有時這些系統(tǒng)學(xué)會的東西并不是我們想要教給它們的。舉個簡單的例子，

在我實驗室工作的一個學(xué)生訓(xùn)練了一個深層神經(jīng)網(wǎng)絡(luò)，他嘗試用這個系統(tǒng)來區(qū)分照片中是否有動物。在左邊大家可以看到，有一個動物是一只鳥，而在右邊沒有動物。這名學(xué)生用了一組自然照片來訓(xùn)練該系統(tǒng)，并且完成得很好。但是當(dāng)他詳細(xì)觀察機(jī)器所學(xué)到的內(nèi)容時，他發(fā)現(xiàn)系統(tǒng)是利用背景的模糊度來判斷照片中是否有動物，因為在這些有動物的照片中，攝影師會聚焦在前景的動物上，而背景是模糊的，然而沒有動物的圖片則背景清晰。所以盡管這并不是我們希望機(jī)器學(xué)習(xí)的內(nèi)容，但是它利用統(tǒng)計上的相關(guān)性很好地完成了任務(wù)，我們可以在許多機(jī)器學(xué)習(xí)項目中看到這種情況。

另一組研究表明，當(dāng)一個深度神經(jīng)網(wǎng)絡(luò)經(jīng)過了ImageNet圖像訓(xùn)練，以99%的置信度識別像消防車這樣的物體。如果這些物體經(jīng)過圖像處理呈現(xiàn)出不同的位姿，像這樣，現(xiàn)在神經(jīng)網(wǎng)絡(luò)會以高置信度將其歸類為校車、消防船或雪橇，而人類是不會做出這樣的分類的。這確實表明該網(wǎng)絡(luò)所依賴的特征并不是人類所使用的對圖像進(jìn)行分類的特征，而是其他我們根本不清楚的特征。很多例子都能說明這種情況，我們稱之為捷徑學(xué)習(xí)，這就是深度神經(jīng)網(wǎng)絡(luò)如何學(xué)習(xí)統(tǒng)計關(guān)聯(lián)。在特定的數(shù)據(jù)集上表現(xiàn)不錯，但是卻不能進(jìn)行很好地概括。而在語言處理中，機(jī)器有時可能是對的，但卻是誤打誤撞，對手可以利用深度神經(jīng)網(wǎng)絡(luò)的這些弱點(diǎn)，以非人類的方式來愚弄它們。

卡內(nèi)基梅隆大學(xué)的一組研究人員設(shè)計出了一種眼鏡框，上面有五顏六色的圖案專門用來欺騙一個面部識別系統(tǒng)。他們用他們展示了不同類型的眼鏡框來騙系統(tǒng)，比如系統(tǒng)認(rèn)為該論文的其中一個作者是女演員米拉·喬沃維奇，人不會犯這樣的錯誤。但不知何故，神經(jīng)網(wǎng)絡(luò)根據(jù)某些神秘特征來進(jìn)行分類，使得系統(tǒng)變得脆弱，從而受騙。

另一個例子來自加利福尼亞大學(xué)的一個小組，他們把白色和黑色的貼紙貼在這樣的一個停車標(biāo)志上欺騙深度學(xué)習(xí)視覺系統(tǒng)。即使在不同距離和多角度拍攝下，使其認(rèn)為這是一個限速80的標(biāo)志，所以這就關(guān)系到自動駕駛汽車的配置問題。自動駕駛汽車在很大程度上依賴于這類深度神經(jīng)網(wǎng)絡(luò)視覺系統(tǒng)，所以下一步我們想要實現(xiàn)的就是人工智能3.0，我們需要克服許多還未解決的重大的挑戰(zhàn)。

第一個就是小樣本學(xué)習(xí)，現(xiàn)在深度神經(jīng)網(wǎng)絡(luò)需要從人類標(biāo)記的成百萬上千萬個例子中學(xué)習(xí)，但在人類學(xué)習(xí)時不需要那么多例子。我們看幾個關(guān)于橋的例子就能認(rèn)出不在我們訓(xùn)練集中的新橋，這就是小樣本學(xué)習(xí)。我們也可以歸納出與我們學(xué)習(xí)內(nèi)容大不相同的新概念，例如前一張幻燈片中的圖片沒有一座像這樣的橋，這座橋看起來大不相同，但是我們很快就能認(rèn)出這是一種橋。同樣的我們也能確定，這張有意思的照片是一座水橋，而不是別的。汽車在高速路上過河，我們可以看出來是船在河上路過高速，高速公路就在這條河下方，這是對橋的概念的一種顛覆。但我們很容易理解并且認(rèn)出來，我們必須要讓計算機(jī)能夠識別出來，不僅僅是概括，還要能抽象和類比。

接著講橋的例子，我們可以認(rèn)出這是一種橋，和我們之前看到的不太一樣，這群螞蟻在用身體搭橋來越過這個縫隙。還有更抽象的，我們會說雙手搭在一起或者鼻梁，我們把鼻子這個部分叫做鼻梁，因為它確實是連接臉部兩側(cè)的橋梁。在說到歌曲的時候，我們也會說歌的橋段。一首歌可以有一段主歌、一段副歌，一段主歌、一段副歌，所謂的橋段就是將歌曲引入一個新的部分，所以橋這個詞某種程度上是有很大隱喻意義的。我們可以對這個基本概念進(jìn)行拓展，并且在各種各樣更加抽象的語境中使用。還有很多英語短語，比如縮小男女之間的性別差異，又比如拜登在競選總統(tǒng)期間，稱自己是通往新一代領(lǐng)袖的橋梁。我們可以非常清楚地理解這些隱喻，甚至沒有注意到它們是隱喻含義。所以這種抽象和類比的能力是讓機(jī)器能夠理解人類語言，像人類一樣進(jìn)行概括的關(guān)鍵。

霍夫斯塔特在他的文章《類比是認(rèn)知的核心》中指出，事實上概念是一系列的類比，從橋的例子中大家就可以看出這一點(diǎn)。我們還需要機(jī)器穩(wěn)健且具備常識，我之前舉的一些例子確實提出這樣的疑問，我們用數(shù)百萬個的例子訓(xùn)練出來的系統(tǒng)到底有多穩(wěn)??？舉個例子，這是一張高速公路的照片，這條公路在暴風(fēng)雪來臨前已經(jīng)提前鋪好了融雪鹽，這些融雪鹽在經(jīng)常下雪的地方很常見，融雪鹽會防止車輛在雪地或冰上打滑。但特斯拉的自動駕駛系統(tǒng)會對此感到很困惑，因為它沒有暴風(fēng)雪或者鹽線的概念，它之前從來沒有見過這樣的東西，所以它無法根據(jù)自己的認(rèn)識判斷將要發(fā)生什么，也不知道這些是不是車道。我們還看到，特斯拉撞上了停下來的車輛。比如這輛特斯拉在自動駕駛的過程中，撞上了這輛停下來的消防車，原因是特斯拉公司發(fā)現(xiàn)，它們的車沒有常識，不知道在哪些靜止物體，如廣告牌前面應(yīng)該停下來，所以他們設(shè)置成在許多靜止物體前不需要停下來，因此它就撞上了這輛消防車。

類似的自動駕駛汽車往往會在人們預(yù)想不到的情況下剎車，這樣一來，人們會撞上去追尾。也就是說，他們撞上了停著的車的車尾，是因為這些自動駕駛汽車很難弄清楚遇到什么樣的障礙物需要停下來。例如，他們可能不知道在遇到一個漂浮的塑料袋或者是風(fēng)滾草，或是一群可能會飛走的鳥的時候是否需要停下來，而我們?nèi)祟愔馈Ｈ绻懊娴穆飞嫌泻芏嗨椴Ａ?nbsp; 應(yīng)該停下來，根據(jù)常識，我們知道這個雪人不是要過馬路的行人，這些都是我們?nèi)祟愃f的常識。這也正是今天的機(jī)器缺少的東西，所以有很多人在研究讓機(jī)器掌握常識。比如微軟聯(lián)合創(chuàng)始人保羅·艾倫，他投入了大量資金，在一所機(jī)構(gòu)研究機(jī)器常識以及美國國防部正在試圖投入資金，研究如何讓機(jī)器擁有常識。但對于人工智能來說，這是一個巨大的挑戰(zhàn)。

最后一個例子，大家看一下這張照片想象一下，假如你是一輛自動駕駛汽車，遇到這種情況你需要知道什么？我們常識的核心部分是我們的物理直覺，我們知道物體之間是如何相互作用的。比如說這位女士推著嬰兒車，嬰兒車有輪子，我們可以猜測它的速度。而且我們知道 如果她拉著這條狗，而這條狗站著不動，那么她得使勁拉才能讓狗動起來，這些都是我們的物理直覺。我們可以借此來預(yù)測接下來的場景，這一點(diǎn)對于安全駕駛來說是非常重要的?？偟膩碚f，要人還有動物在現(xiàn)實世界里互動，我們也有直覺心理學(xué)的知識。比如說我們知道這位女士分心了，她不會注意到周圍的司機(jī)，我們知道很多這種因果關(guān)系的心理模型，我們知道是什么導(dǎo)致嬰兒車移動。而如今的機(jī)器深層神經(jīng)網(wǎng)絡(luò)是利用統(tǒng)計關(guān)聯(lián)來做出決策的，它們無法輕易地找出原因。我們有著廣博的知識，比如我們知道這個人有腿，即使他的腿在嬰兒車后面我們看不到，我們也知道他可能穿了鞋子。即使我們看不見他的鞋子，因為我們對人類的行為非常了解。最后，我們可以進(jìn)行抽象和類比，這樣我們就可以對這種情況進(jìn)行抽象分類。也就是分心的行人或者是類似的事物，最后我們可以適當(dāng)?shù)貙ξ覀兊臎Q定給出詳細(xì)的解釋，機(jī)器目前是完全無法做到這一點(diǎn)的，讓我們很難理解他們?yōu)槭裁磿高@樣的錯誤。所以所有這些常識的核心組成部分將成為人工智能3.0系統(tǒng)打造的重點(diǎn)，這些都是為了實現(xiàn)我們想要的人工智能必須克服的挑戰(zhàn)。如果你有興趣想要了解更多內(nèi)容，可以看我的書《AI 3.0》，我在書中詳細(xì)地討論了很多這方面的問題。

感謝各位的聆聽！