谷歌DeepMind大模型登Nature!AI攻破經典數學難題

首頁 > 科技

谷歌DeepMind大模型登Nature!AI攻破經典數學難題

來源:戲說健康 釋出時間:2023-12-27 22:12

作者 | 雲鵬

編輯 | 李水青

智東西12月15日訊息,剛剛,谷歌DeepMind實現了數學大模型領域的重要突破,其釋出的FunSearch針對諸多歷史上經典數學難題給出了新的解法,能力超越了人類數學家,相關研究已登Nature。

簡單來說,FunSearch就是一種基於大模型來解決數學題目的新方法,一套新AI技術。

FunSearch的研究意味著:歷史上第一次有人用大模型對科學或數學中具有挑戰性的開放性問題給出了新的發現或解法。

FunSearch在經典的“帽子集(Cap set)”難題中,找到了有史以來“最大的帽子集”,據稱這是過去20年裡帽子集的上限規模增加最大的一次。

而在另一個經典“裝箱(Bin packing)”問題中,FunSearch的效能超越了傳統方式,並且相比神經網路和強化學習的AI技術,消耗的資源更少,靈活性更強。

▲裝箱問題中,FunSearch比傳統方式(左)更高效,可以用更少的箱子裝入同樣數量的物體

並且最重要的是,FunSearch給出的解法並不是一個“黑箱”,而是一個解決問題的程式,也就是說,FunSearch是真正的“授之以漁”,這對於科學家們來說是極為重要的突破。

這背後,研究人員透過新的方法防止大模型“幻覺”的出現是非常關鍵的,這也打破了許多人認為大模型很難找到“可驗證”的新發現的固有印象。

FunSearch的研究可以應用在資料中心領域,以及各類工業系統中,用來提升任務處理的效率,其實際應用價值是巨大的。

數學難題一直是大模型很難“征服”的領域之一,這次,谷歌成功將壓力給到了OpenAI。

一、歷史首次,大模型在數學開放問題中找到新解法,不僅給你答案,還給你解題思路

大家都知道大模型(LLM)很有用,它們幾乎無所不能,但在發現全新知識方面卻有些捉襟見肘,因為大模型的“幻覺”問題由來已久,用大模型去找到一些“可驗證”的正確新發現是很有挑戰的。

但這次谷歌DeepMind發表的這項研究,徹底顛覆了這一想法。

這個名為“FunSearch”的方法,是一種在數學和計算機科學中尋找新解決方案的方法。

從工作原理上來看,FunSearch將預先訓練的大模型(其訓練目標是以計算機程式碼的形式提供創新解決方案)與自動“評估器(Evaluator)”配對,這個評估器就是用來防止幻覺和錯誤想法出現的。透過在這兩個元件之間反覆迭代,初始解決方案就會“演變”為新知識。

這套系統在執行過程中,會搜尋(Search)以計算機程式碼編寫的“函式(Functions)”,因此得名FunSearch。

用大模型對科學或數學中具有挑戰性的開放性問題給出新解法,並且結果更優秀,DeepMind發文稱這尚屬首次。

比如FunSearch發現了經典“帽子集”問題的新解決方案,這是數學領域中一個長期未解的問題。此外,為了展示FunSearch的實用性,研究員還用它發現了“裝箱”問題的更有效的演算法。

這些新方案和新演算法在加速資料中心處理效率方面有著廣泛應用。

值得一提的是,FunSearch最牛的地方在於,它不僅可以給出解法,還可以讓研究人員看到“解題過程”,提供新的靈感,可以說是“授之以漁”了。

FunSearch輸出的程式可以揭示其解決方案是如何構建的,而不是僅僅給出一個最終解決方案,這也讓FunSearch成為了一個極為強大的科學工具。這一科學工具可以激發科學家們對相關問題進行進一步深入研究。

二、解決兩個歷史經典數學難題,能力遠超科學家,比神經網路和強化學習更高效

我們具體來看看FunSearch到底解決了哪些經典數學問題。

1、帽子集問題

首先,FunSearch解決的是帽子集問題,這一開放式數學問題幾十年來一直困擾著多個研究領域的數學家。研究團隊與相關領域的數學教授進行了合作。

簡單來看,解決帽子集問題,需要在一個高維網格中尋找最大的點集(被稱為帽集,a cap set) ,而在這個網格中,一條直線不可以同時經過三個點。

當然,要解決這一問題,依靠“暴力計算”是不可能的,因為可能性的數量會很快超過宇宙中原子的數量。

FunSearch以程式的形式生成了一些解決方案,在一些設定之下,發現了有史以來“最大的帽子集(the largest cap sets ever found)”,這是過去20年裡帽子集的上限規模增加最大的一次。

此外,FunSearch的表現超過了最提高前輩的計算求解器,因為這個問題的規模已經遠遠超出了這些計算求解器當前的能力。

▲FunSearch給出的程式

這些結果表明,FunSearch技術在處理困難的組合問題時,可以找到超越已有答案的解法,而這些問題往往難以建立“直覺(Intuition)”。

研究人員希望FunSearch可以在解決組合學中類似的理論問題時發揮作用,未來它可能會在通訊理論等領域開闢新的研究可能性。

2、裝箱問題

除了帽子集問題,研究人員還利用FunSearch嘗試解決了另一個“臭名昭著”的挑戰——“裝箱”問題,藉此來探索FunSearch的靈活性。

簡單來說,“裝箱”問題就是如何將不同大小的物品打包到最少數量的箱子中,這其實是很多實際問題的核心,從集裝箱裝卸到資料中心分配計算任務,如何最小化成本。

雖然裝箱跟帽子集問題有很大不同,但研究人員使用FunSearch來解決這個問題依然很容易。

FunSearch直接給出了一個可以自動定製的程式(可以根據資料的具體情況進行調整),其效能超過了傳統的啟發式方法(Best-fit heuristic),可以用更少的箱子打包相同數量的物品。

上一篇:Unlock Growt... 下一篇:春夏的心情句...
猜你喜歡
熱門閱讀
同類推薦