鄭南寧：人工智慧進化到AGI，最大的障礙是無法感知世界、缺少常識

來源：每天一首音樂釋出時間：2023-06-10 00:51

鄭南寧：人工智慧進化到AGI，最大的障礙是無法感知世界、缺少常識

騰訊科技訊 6月9日，在“2023北京智源大會”上，中國工程院院士、西安交通大學教授鄭南寧，釋出了名為《機器行為與具身智慧》的演講。

鄭南寧首先從人工智慧互動場景和進化過程進行闡述，剖析了人工智慧技術應用的發展階段和潛伏危害。展示了人工智慧在場景判定、詩詞理解、人機協同、自動駕駛等領域系列立異應用，讓人們對人工智慧應用場景的有更深的熟悉和理解。他還指出：”要想使機器具有類人的認知能力，需要建立事件模型，將物體、事件、事實等知識進行有效表徵，構建持續學習系統，在任務中利用感知、先驗知識、表徵學習和知識推理尋找最優策略。“

對於機器行為的研究主要包括：機器行為模仿與解釋、機器行為認知和挑戰、機器行為失去監視的潛伏危害、機器行為的發展及聯絡關係等研究範疇。鄭南寧先容道：“大量的智慧機器應用於人類社會的各個角落，幾乎所有層面。機器行為的進化過程中，機器行為研究面臨的挑戰，就是如何使人工智慧系統具有合作性的行為。“

如今，人工智慧的發展中分成四個階段，目前我們在第三階段，即神經網路機器學習的階段，間隔第四階段通用人工智慧上，最大的障礙是人工智慧缺乏對世界的感知理解和常識性知識，因此有時缺乏合理性的行為。要突破這一層級就要透過具身人工智慧。

鄭南寧指出，具身智慧本身就是一種機器自主感知環境、學習和理解步履的能力。智慧體的行為不是一次性發生，它會跟著時間的推移而發展，這就需要研究機器獲得特定個體或機體行為。其行為的天生機制基於其演算法和執行環境，也很輕易受到進化歷史和與其他智慧體互動的影響，所以在研究過程中必需誇大，關注點不僅僅是一種行為的泛起，而是發展過程中行為機制的變化。

智慧體和人工智慧行為的信任是緊密親密聯絡關係的。智慧體可以透過演算法直接賦能，或者是利用特定的互動練習、刺激，來塑造機器行為，又或者是透過自身的經驗獲得某些行為來與人不斷地互動，終極朝著環境和人特定的方向進化。

最後，鄭南寧提出：“針對這種進化我們需要對它建立起如動物學一般的解釋體系，從天生機制、發展、進化的角度去理解在環境中的具身人工智慧。並對他們進行倫理上的限制，使他們更可控。“

以下為鄭南寧現場演講精髓實錄：

大家好，今天我呈文的問題是“機器行為與具身智慧”。

首先，我們來看一個相對簡樸的十字路口場景，場景中有行人、有非機動車和機動車，我們看一看它的動態場景是如何構成的？十字路口的交通場景是不可猜測的，但場景中的每個物件或稱之為Object直覺的判定和他們對相互之間的行為關係的理解，形成了這樣一個相互聯絡關係的不亂系統。

人在這些場景中能夠迅速的理解和判定各個物件在空間及其行為的關聯性。而自動駕駛也必需要能夠抽象和表述這種關聯性，才能做出正確地判定，而事實上我們要讓機器機基於規律對交通場景的動態變化進行事先編碼是做不到的，我們需要研究在這種互動場景中，多個自主體的自適應行為。

舉例來看，在F1比賽中，工作人員利用團隊協作可以迅速地完成車輛輪胎的替代工作，如何利用機器人叢集協作完成某項任務並給出科學的解釋，是一個值得探討的題目。

討論1：機器行為模仿與解釋

解釋行為是一個比產生行為更為難題的任務，由於幾乎人類所有的行為都是從環境中學來的，即刺激反應的結果。並不都像思維和情感這樣的內部事件，一臺圖靈機能以一種無法與人類區別的方式流動，但產生出這樣的行為模仿並不足以模擬人的智慧，由於兩者是一個完全不同的題目。解釋必需儘可能清楚地給出潛伏的概括，並將它們與某些普遍的原理聯絡起來，這就是認知過程的理解。

假如我們從人工智慧技術的發展來看，我們可以把人工智慧技術的發展分為如下階段：

第一階段，統稱之為“專家學習系統”，專家系統是將領域知識和規則交給機器去搜索。

第二階段，簡稱為“特徵工程”，所謂特徵工程是講事先定義的特徵和謎底交給機器去學習。

第三階段，是將原始資料和標籤交給機器，利用深度神經網路讓機器自動學習特徵。在這一階段人工智慧取得了驚人的發展，特別是機器在語音和影象識別與分類能力方面超過了人類。

當前人工智慧發展朝著第四階段的方向發展，人類只需要將任務和目標交給機器，機器就可以像人類一樣感知和理解世界，人與人之間或社會會與物理世界天然互動，也就是說在這一階段探索具有人類意識的人工智慧系統，像人類一樣在廣泛的任務和環境中進行學習和適應，實現通用人工智慧。

通用人工智慧理論上是具有自我意識、自主思索、學習計劃、解決問題以及理解複雜概念的能力，它可以在新的未曾碰到的情景下適應並執行任務，這需要廣泛的背景知識和常識，還有抽象思維和判定等人類智慧所有的樞紐特徵，這是一個佈滿著不確定性的未來目標。

討論2：機器行為面臨的挑戰

人工通用智慧現在不僅僅在技術上面臨著重大挑戰，而且還面臨著道德倫理、社會和法律等一系列重大題目。

研究複雜動態不確定環境中的機器行為，存在著兩個基本題目：

一、

前提題目，是我們不可能枚舉出一個行為的所有先決條件；

二、

分枝題目，是我們不可能枚舉出一個行為有可能產生的所有隱性結果。

傳統的人工智慧基本理論框架是建立在演繹邏輯和語義描述與形式化方法的基礎上，形式化的方法不可能為所有的物件或行為建立模型。

機器行為研究面臨的挑戰，就是如何使人工智慧系統具有合作性的行為。

德國心理學家設計了一個兒童心理學實驗，實驗中一位一歲半的兒童和媽媽坐在同一個房間的角落裡，一位成年人走進房間想開啟櫃門，他一遍遍的撞擊著櫃門，這時神奇的場景發生了，並沒有人直接向這位孩子求助，也沒有人向他發出指令，但一歲半的孩子搖搖晃晃走過來，匡助這個成年人打開了櫃門。

該實驗試圖想證實孩子可以自發的匡助別人，但這個實驗卻對人工智慧提出了一個重大挑戰，我們能否透過理解這個一歲半孩子的腦內所想，讓機器人也能具有這樣的智慧性、靈活性與合作性行為？

這個實驗告訴我們，智慧機器不能從工程機器的角度去理解它們，而且要將其視為一系列有自己行為模式及生態反應的個體或機器群體。

另外一個例項，給出一段西安絕句“海棠不惜胭脂色、獨立濛濛細雨中”。讓計算機語言理解的程式和人，分別從一個影象資料庫中找出最貼切這段詩的影象。計算機找出了這樣一幅圖，海棠上掛滿著雨滴，正真是“海棠不惜胭脂色、獨立濛濛細雨中”。而人卻給出右邊這幅圖，一位亭亭玉立的奼女在濛濛的細雨中沒有打傘，行走在清幽的小道上。被測試的人在內心把這位奼女比作海棠，在這樣的雨天這位奼女全然不顧風雨的存在。人類理解詩歌往往是在內心深處將想象力帶入現實，透過自身的認知去賞識。

這首西安絕句是宋代詩人陳與義所寫的《春寒》，當時金兵入侵，南宋小朝廷處於山河破碎風飄絮，詩人南渡避難，藉助在巴陵友人的後院，自號“園公”。2月的巴陵幾乎每天下雨，料峭的春寒還未結束，此時詩人流離失所，漂泊無依，不由地聯想起自身的境遇進行感懷，寫下了這首詩。

在這裡，我們看到一幅影象到了人類觀察者的腦中，在他的內心深處將想象力帶入了現實，影象變成了生動的場景故事。這裡簡樸的語言與影象的聯想，說明很多重要的AI應用，例如機器視覺和自然語言理解需要大量對世界的熟悉資訊。

為此，計算機需要把握知識，這是幾乎所有AI研究者都同意的觀點。想象是人的一種虛構的能力，也就是人可以想象不存在事物的能力，但如何更加有效地把知識傳授給機器人，依然是我們今天面臨的一大挑戰。

討論3：機器行為的研究範圍

諾貝爾獎獲得者西蒙教授，在《人工科學》這本書中指出：自然科學是關於天然體和天然現象的科學知識，也有人工科學關於人工物體和人工現象的知識。

如今，大量的智慧機器應用於人類社會的各個角落，幾乎所有層面。機器行為研究關注的是智慧機器，而非傳統的機械。它的研究範圍有：機器行為天生的人工設計，智慧體如何憑藉經驗產生行為。還有機器行為的可解釋性，智慧體如何根據場景響應機器行為。

機器行為一旦失去監視所帶來的潛伏危害是什麼？

這些題目與智慧體和人工智慧行為的信任是緊密親密聯絡關係的。諾貝爾獎得主、荷蘭動物學家Tinbergen提出：想要全面地理解一個演化出來的特性，我們需要回答四個題目：

上一篇：路面攤鋪壓實... 下一篇：重磅！三大運...