AI訓練一次,把我家這輩子的電都用完了

首頁 > 科技

AI訓練一次,把我家這輩子的電都用完了

來源:一起來護膚 釋出時間:2023-11-06 18:13

之前世超寫過一篇 AI 有多耗水的稿子,說是谷歌資料中心去年一年就花掉了一個半西湖的水量。

除了耗水,可能很多人還忽略了一點,那就是 AI 在耗電這塊也是一絕

前兩天阿里剛結束的雲棲大會上,中國工程院院士、阿里雲創始人王堅就打了這麼一個比方——

過去一百年裡,全球電動機消耗掉的電量就佔到了總髮電量的一半,而現在的大模型就相當於新時代的電機。

而這個新時代的 “ 電機 ” ,也是相當耗電。

現在,為了餵飽它這隻電老虎,有些公司甚至準備搬出了 “ 核動力 ”

其實在業內,關於 AI 和能源之間的話題也是沒有斷過。

Huggingface 的科學家就專門測試過各個大模型的耗電量和碳排放,世超翻了翻這篇論文,也是直觀地感慨感染到了大模型耗電的瘋狂。

先是 Huggingface 自家的 BLOOM 大模型,有 1760 億引數,光是前期訓練它,就得花掉 43.3 萬度電,我換算了下,相當於國內 117 個家庭一年用掉的電量。

和它引數目相當的 GPT-3 ,耗電量就更不受控制,同樣是前期訓練,就要用掉 128.7 萬度電,足足是前者的三倍。

甚至有人做過這樣一個類比, OpenAI 每訓練一次,就相當於 3000 輛特斯拉同時跑 32 公里。。。

這還只是 AI 前期訓練用的電,在後期使用過程中累積的耗電量才是大頭。

一般來說,訓練就是不斷調整引數、重複訓練,最後得到一個使用體驗最好的模型,整個過程是有限度的。

後期的推理過程就不一樣了,比如我們用 ChatGPT ,每問一次問題都相當於是一次推理請求。

現在 ChatGPT 的月活使用者早已經破億,它每天推理的頻次的飆升可想而知。

更具體一點,拿自動駕駛來說,前期訓練花費的能耗成本就只有兩三成,剩下的七八成都是後期的推理消耗的。

上一篇:智慧健身步道... 下一篇:保險報銷流程...
猜你喜歡
熱門閱讀
同類推薦