英特爾宋繼強:滿足ChatGPT應用,資料中心需要架構創新

首頁 > 科技

英特爾宋繼強:滿足ChatGPT應用,資料中心需要架構創新

來源:焦糖老乾媽 釋出時間:2023-02-28 15:02

集微網報道 ChatGPT帶火了生成式AI應用,也推動著AI技術發展來到新的臨界點,各大科技公司不得不重視ChatGPT所帶來的變化與衝擊,進而紛紛涉足佈局類ChatGPT技術。

ChatGPT大火的背後離不開高算力基礎設施的支撐,而這一切的最基本的核心是晶片。ChatGPT接下來會對晶片算力、資料中心帶來什麼影響?

英特爾中國研究院院長宋繼強在接受集微網等行業媒體採訪時表示,“未來對算力的需求肯定是上升的。如果說僅用原來的一些方案去線性擴充套件的話,能效比肯定不是最優的,所以一定要去尋找更好的方法解決問題。”

據悉,ChatGPT在底層演算法上並沒有太多變化,但它的練習方式採用互動式、強化學習,大大增加了練習的複雜度,資料量也翻倍增長,導致它的模型規模以及練習本錢快速上升。此前,OpenAI預估算力需求每3.5個月會翻一倍,每年近10倍,對於目前許多硬體系統方案都會帶來新的挑戰。

提到AI應用的硬體產品,GPU當仁不讓。過去六七年來,跟著AI技術在各行業中的應用落地,以英偉達為代表的GPU公司在場景應用上有了較大突破。ChatGPT的泛起,也讓這些GPU公司看到了更廣闊的應用遠景。但作為新生事物,ChatGPT仍舊處在發展的早期階段,就像以前的TensorFlow技術,最先是跑在CPU上,後來又有了ASIC晶片。ChatGPT未來發展,或會結合實際應用需求,在CPU、GPU、FPGA、ASIC等型別硬體中探尋更合適的加速方案。

“現在大模型的練習有很高的門檻,練習好了以後,真正要部署的時候提供服務,許多中小型企業參與,他們如何去選擇一套最優的硬體方案是接下來的一大樞紐。”宋繼強指出,“這需要在架構上去做立異,為它構造新的類似於CPU+GPU的叢集,對儲存也要做更多的最佳化。或許其它非GPU的硬體也可以加入進來,例如,專門的加速器或者FPGA方案,許多立異設法都有可能發生。”

作為一家晶片供應商,英特爾的產品中既有CPU,也有GPU、FPGA等多種型別硬體產品,同時,英特爾在資料中心高效能加速領域擁有深摯的經驗積累,這些都為滿意ChatGPT這類AI應用的硬體方案提供了基礎。

“但我們還不太清晰不同領域的客戶的工作負載中哪些環節存在不足,模型練習的互動流程中哪些有瓶頸。這恰是我們在做的工作,我們會去和頭部客戶深入交流,匡助他們去做適應中國應用的定製方案。”宋繼強表示。

據悉,英特爾已與包括百度、阿里在內的廣泛客戶展開深入合作,下一步將跟中國頭部客戶去共同研究佈局推進ChatGPT這類AI技術在企業及垂直領域的落地應用。

集微網報道 ChatGPT帶火了生成式AI應用,也推動著AI技術發展來到新的臨界點,各大科技公司不得不重視ChatGPT所帶來的變化與衝擊,進而紛紛涉足佈局類ChatGPT技術。

ChatGPT大火的背後離不開高算力基礎設施的支撐,而這一切的最基本的核心是晶片。ChatGPT接下來會對晶片算力、資料中心帶來什麼影響?

英特爾中國研究院院長宋繼強在接受集微網等行業媒體採訪時表示,“未來對算力的需求肯定是上升的。如果說僅用原來的一些方案去線性擴充套件的話,能效比肯定不是最優的,所以一定要去尋找更好的方法解決問題。”

據悉,ChatGPT在底層演算法上並沒有太多變化,但它的練習方式採用互動式、強化學習,大大增加了練習的複雜度,資料量也翻倍增長,導致它的模型規模以及練習本錢快速上升。此前,OpenAI預估算力需求每3.5個月會翻一倍,每年近10倍,對於目前許多硬體系統方案都會帶來新的挑戰。

提到AI應用的硬體產品,GPU當仁不讓。過去六七年來,跟著AI技術在各行業中的應用落地,以英偉達為代表的GPU公司在場景應用上有了較大突破。ChatGPT的泛起,也讓這些GPU公司看到了更廣闊的應用遠景。但作為新生事物,ChatGPT仍舊處在發展的早期階段,就像以前的TensorFlow技術,最先是跑在CPU上,後來又有了ASIC晶片。ChatGPT未來發展,或會結合實際應用需求,在CPU、GPU、FPGA、ASIC等型別硬體中探尋更合適的加速方案。

“現在大模型的練習有很高的門檻,練習好了以後,真正要部署的時候提供服務,許多中小型企業參與,他們如何去選擇一套最優的硬體方案是接下來的一大樞紐。”宋繼強指出,“這需要在架構上去做立異,為它構造新的類似於CPU+GPU的叢集,對儲存也要做更多的最佳化。或許其它非GPU的硬體也可以加入進來,例如,專門的加速器或者FPGA方案,許多立異設法都有可能發生。”

集微網報道 ChatGPT帶火了生成式AI應用,也推動著AI技術發展來到新的臨界點,各大科技公司不得不重視ChatGPT所帶來的變化與衝擊,進而紛紛涉足佈局類ChatGPT技術。

ChatGPT大火的背後離不開高算力基礎設施的支撐,而這一切的最基本的核心是晶片。ChatGPT接下來會對晶片算力、資料中心帶來什麼影響?

英特爾中國研究院院長宋繼強在接受集微網等行業媒體採訪時表示,“未來對算力的需求肯定是上升的。如果說僅用原來的一些方案去線性擴充套件的話,能效比肯定不是最優的,所以一定要去尋找更好的方法解決問題。”

據悉,ChatGPT在底層演算法上並沒有太多變化,但它的練習方式採用互動式、強化學習,大大增加了練習的複雜度,資料量也翻倍增長,導致它的模型規模以及練習本錢快速上升。此前,OpenAI預估算力需求每3.5個月會翻一倍,每年近10倍,對於目前許多硬體系統方案都會帶來新的挑戰。

提到AI應用的硬體產品,GPU當仁不讓。過去六七年來,跟著AI技術在各行業中的應用落地,以英偉達為代表的GPU公司在場景應用上有了較大突破。ChatGPT的泛起,也讓這些GPU公司看到了更廣闊的應用遠景。但作為新生事物,ChatGPT仍舊處在發展的早期階段,就像以前的TensorFlow技術,最先是跑在CPU上,後來又有了ASIC晶片。ChatGPT未來發展,或會結合實際應用需求,在CPU、GPU、FPGA、ASIC等型別硬體中探尋更合適的加速方案。

“現在大模型的練習有很高的門檻,練習好了以後,真正要部署的時候提供服務,許多中小型企業參與,他們如何去選擇一套最優的硬體方案是接下來的一大樞紐。”宋繼強指出,“這需要在架構上去做立異,為它構造新的類似於CPU+GPU的叢集,對儲存也要做更多的最佳化。或許其它非GPU的硬體也可以加入進來,例如,專門的加速器或者FPGA方案,許多立異設法都有可能發生。”

集微網報道 ChatGPT帶火了生成式AI應用,也推動著AI技術發展來到新的臨界點,各大科技公司不得不重視ChatGPT所帶來的變化與衝擊,進而紛紛涉足佈局類ChatGPT技術。

ChatGPT大火的背後離不開高算力基礎設施的支撐,而這一切的最基本的核心是晶片。ChatGPT接下來會對晶片算力、資料中心帶來什麼影響?

英特爾中國研究院院長宋繼強在接受集微網等行業媒體採訪時表示,“未來對算力的需求肯定是上升的。如果說僅用原來的一些方案去線性擴充套件的話,能效比肯定不是最優的,所以一定要去尋找更好的方法解決問題。”

據悉,ChatGPT在底層演算法上並沒有太多變化,但它的練習方式採用互動式、強化學習,大大增加了練習的複雜度,資料量也翻倍增長,導致它的模型規模以及練習本錢快速上升。此前,OpenAI預估算力需求每3.5個月會翻一倍,每年近10倍,對於目前許多硬體系統方案都會帶來新的挑戰。

提到AI應用的硬體產品,GPU當仁不讓。過去六七年來,跟著AI技術在各行業中的應用落地,以英偉達為代表的GPU公司在場景應用上有了較大突破。ChatGPT的泛起,也讓這些GPU公司看到了更廣闊的應用遠景。但作為新生事物,ChatGPT仍舊處在發展的早期階段,就像以前的TensorFlow技術,最先是跑在CPU上,後來又有了ASIC晶片。ChatGPT未來發展,或會結合實際應用需求,在CPU、GPU、FPGA、ASIC等型別硬體中探尋更合適的加速方案。

“現在大模型的練習有很高的門檻,練習好了以後,真正要部署的時候提供服務,許多中小型企業參與,他們如何去選擇一套最優的硬體方案是接下來的一大樞紐。”宋繼強指出,“這需要在架構上去做立異,為它構造新的類似於CPU+GPU的叢集,對儲存也要做更多的最佳化。或許其它非GPU的硬體也可以加入進來,例如,專門的加速器或者FPGA方案,許多立異設法都有可能發生。”

上一篇:蘋果換電池明... 下一篇:武漢生育津貼...
猜你喜歡
熱門閱讀
同類推薦