Meta用CPU跑AI,ChatGPT大戰陷敗局,竟因嫌GPU太貴

首頁 > 科技

Meta用CPU跑AI,ChatGPT大戰陷敗局,竟因嫌GPU太貴

來源:迷途的羔羊 釋出時間:2023-04-26 14:12

新智元報道

編纂:Aeneas 好睏

【新智元導讀】小扎All In元宇宙兩年後,溘然發現全世界都在搞生成式AI。這可尷尬了,自家公司還在用CPU做AI推理呢……

ChatGPT大戰,Meta為何遲遲沒有動作?

就在今天,路透社記者挖出了一個大瓜,原因讓人瞠目結舌——

比擬谷歌、微軟等大廠,Meta跑AI時,用的竟然是CPU!

很難想象,在深度學習幾乎佔機器學習半壁江山的時代,一個科技巨頭竟然能用CPU堅持這麼久。

固然他們也曾嘗試過自研AI晶片,但終極遭遇滑鐵盧。

現在,ChatGPT引爆的生成式AI大戰打得昏天黑地,這就更加劇了Meta的產能緊縮。

用CPU練習AI,Meta怎麼想的?

Meta遲遲不肯接受用GPU的原因,令人匪夷所思。

GPU晶片非常適合AI處理,由於它們可以同時執行大量任務,從而減少處理數十億條資料所需的時間。

然而,GPU 也比其他晶片更昂貴,英偉達控制著80%的市場份額,並在配套軟體上,也保持著絕對的領先地位。

直到去年,Meta在處理AI工作負載時,主要使用的仍是CPU。CPU是計算機的主力晶片,幾十年來資料中心用的也是CPU,但它在AI工作上表現並不佳。

據悉,Meta還曾自研晶片,在內部設計的定製晶片上進行推理。

但在2021年,Meta仍是失望地發現,比起GPU,這種左右開弓的方法速度更慢、效率更低。而且GPU在執行不同型別的模型上,遠比Meta的晶片更靈活。

而且,小扎決定All In元宇宙這一舉措,也直接榨乾了Meta的算力。不管是AI的部署,仍是威脅的應對上,都遭到了極大的削弱。

這些失誤,引起了前Meta董事會成員Peter Thiel的留意,隨後,他於2022年初辭職。

據內部人士透露,在離開前的一次董事會會議上,Thiel告訴小扎和高管們,他們對Meta的社交媒體業務太自滿,並且過分關注元宇宙了,這讓公司很輕易被TikTok的挑戰所撼動。

Meta粗大事了

在去年夏天快要結束的時候,小扎曾召集了高階副手們,花了五個小時,對Meta的計算能力進行分析。

他們需要知道,在開發尖端的AI方面,Meta有多大的能力?

出來的結果,讓所有人倒吸一口冷氣。

根據9月20日的公司備忘錄顯示,儘管Meta對AI研究進行了大筆高調的投資,然而主要業務需要的AI友好型硬體和軟體系統都非常昂貴,在這些方面公司的進展相稱緩慢。

緩慢到,已經阻礙了Meta跟上大規模立異的步伐。

這可是個棘手的大麻煩,要知道,Meta的增長,越來越依靠AI。

基礎設施負責人Santosh Janardhan誇大,無論是開發AI的工具,仍是工作流程,Meta都已經遠遠落後於其他對手。

「Meta需要從根本上改變物理基礎設施設計、軟體系統和提供不亂平臺的方法。」

一年多來,Meta一直在搞的大專案,就是但願完善AI基礎設施。但經歷過產能緊縮、領導層變動和廢棄的AI晶片專案後,Meta的改革好像不盡如人意。

上一篇:LeCun 70頁長... 下一篇:車輛抵押貸款...
猜你喜歡
熱門閱讀
同類推薦