「空想AGI」鬧劇何時休?Science專欄:對AI前景預測過於樂觀

首頁 > 科技

「空想AGI」鬧劇何時休?Science專欄:對AI前景預測過於樂觀

來源:跳高的魚 釋出時間:2024-04-22 15:41

「空想AGI」鬧劇何時休?Science專欄:對AI前景預測過於樂觀

  新智元報道  

編輯:LRS

【新智元導讀】在把AGI作為終極目標之前,應當先對AGI的概念定義達到共識,歷史上對通用AI發展的預測,都太過樂觀了!

最近幾年,AI技術的發展遠遠超出普通大眾和研究者的預期,「通用人工智慧(AGI)」的概念也從科幻小說中走進了日常生活的討論中,成為了許多科技公司和研究機構所追求的最終目標。

AI行業的領頭羊OpenAI表示,其使命是「確保通用人工智慧造福全人類」;

DeepMind在公司願景宣告中也指出,「人工通用智慧有可能推動歷史上最偉大的變革之一」;

AGI概念在英國政府的國家人工智慧戰略和美國政府的人工智慧檔案中也被著重提及;

微軟的研究人員聲稱在大型語言模型GPT-4中發現了「AGI火花」(sparks of AGI)存在的證據;

論文連結:https://arxiv.org/pdf/2303.12712.pdf

現任和前任谷歌高管宣稱「AGI已經到了」(AGI is already here);

「GPT-4能否算作是一種AGI演算法」的問題也是Elon Musk對OpenAI提起訴訟的核心... ...

雖然術語AGI已經在商業、政府和媒體中被廣泛使用,但不同群體的使用者對AGI概念的含義並沒有達成共識。

「AGI的含義到底是什麼?」在AI社群內引起了激烈的爭論,這以問題不僅是一場關於「術語」定義的學術爭論,也將影響著科技公司、政府部門等關於AGI做出的重要決策。

最近,聖菲研究所的教授Melanie Mitchell在Science上發表了一篇letter,討論了大眾對通用人工智慧概念的爭論。

深入研究AGI後可以發現,人工智慧從業者對智慧本質(the nature of intelligence)的看法與研究人類和動物認知的人截然不同,這種差異對於「理解當下、預測機器智慧的未來前景」等至關重要。

人工智慧概念

人工智慧領域的最初目標是創造出具有與人類相當、具有通用智慧的機器。

早期的人工智慧先驅們對此持樂觀態度:1965年,赫伯特·西蒙(Herbert Simon)在著作《人類和管理的自動化形態》中預測「20年後,機器可以承擔所有人類能做的工作」;

在1970年出版的《生活》雜誌上,馬文·明斯基(Marvin Minsky)宣稱:在三到八年後,我們就能擁有一臺具有普通人智力水平的機器,一臺能夠閱讀莎士比亞、潤滑汽車、玩弄辦公室政治、講笑話和打架的機器。

遺憾的是,這些樂觀的預測並沒有實現。

在接下來的幾十年裡,唯一成功的人工智慧系統只能算是專用,而非通用:只能執行單一任務或有限範圍的任務,例如手機上的語音識別軟體可以轉錄口述內容,但不能理解具體內容並生成回覆。

通用人工智慧(AGI)一詞是在21世紀初創造的,以重新追尋人工智慧先驅最初的崇高願望,尋求重新關注「試圖以獨立於領域的方式研究和複製智慧」。

但直到最近,這種崇高的追求在人工智慧領域內仍然相當模糊,領先的人工智慧公司將實現AGI作為其主要目標,但AGI的存在性(existential threat from AGI)仍然是他們最害怕的事。

許多人工智慧從業者都在預測AGI的實現時間軸,例如,有人預測「到2028年,有50%的機會擁有AGI」;但也有人質疑AGI的前提,稱其定義模糊不清,甚至有研究人員在推特上表示:AGI的概念是不科學的,人們應該對使用這個詞感到尷尬。

雖然早期的AGI支持者認為機器很快就會承擔所有人類活動,但研究人員已經意識到,打造一個「國際象棋機器人」或是「回答搜尋查詢的AI系統」要比開發一個機器人來「疊衣服」或「修水管」容易得多。

AGI的定義也相應地進行了調整,包含了所謂的「認知任務」(cognitive tasks)。

DeepMind聯合創始人Demis Hassabis將AGI定義為「應該能夠完成幾乎任何人類可以完成的認知任務」的系統,OpenAI將其描述為「高度自主的系統,在最有經濟價值的工作中優於人類」(most economically valuable work),其定義大多忽視了需要物理智慧(physical intelligence)的任務。

人工智慧中的「智慧」概念,即認知或其他方面,通常是以個體智慧體為獎勵或目標進行最佳化的方式來構建的。

一篇有影響力的論文將通用智慧定義為「智慧體在各種環境中實現目標的能力」。

也有論文指出,「智力及其相關能力可以被理解為促進獎勵最大化」。

上一篇:古爾曼:蘋果... 下一篇:信用卡被限額...
猜你喜歡
熱門閱讀
同類推薦