[人工智慧和多大模型的迅猛發展帶動算力需求日益激增,AI晶片應用前景愈加廣闊。面對美國高階AI晶片對華封鎖禁運,國產AI晶片正在加速突圍。日前,美國D2DAdvisory諮詢公司CEO傑·葛德伯格(JayGoldberg)拜訪觀察者網,就美國“晶片法案”的實施,英偉達在華業務以及中國AI晶片的前景等一系列問題,與心智觀察所首席經濟學家李波展開了一場深入對話。]

李波:歡迎葛德伯格先生——D2DAdvisory諮詢公司執行長。此外,你還是SovereignTechnologyPartners(主權技術合作夥伴)的管理合夥人。第一個問題,給公司起“主權技術合作夥伴”這個名的想法是什麼?
葛德伯格:當前每個人都在談論資料和技術,但是我們想向客戶傳達的想法是,你個人的確擁有所有權,對你的技術和資料擁有主權——這是我們試圖傳達的一個重要概念,這是真正與這些客戶產生共鳴的東西。
李波:在我們開始嚴肅問題之前,我想問,5年之後你重新看到的中國有什麼印象?這仍然是一個你之前熟悉的中國嗎?或者你看到了有一些新的元素加入?
葛德伯格:兩者都有。這是我第一次真正體驗中國高鐵,而且厲害的是你只要用一個應用程式訂票即可,是在我上車前10分鐘訂的票!這太棒了,這很容易、太方便了,可以去任何你想去的地方。這是中國現代化和進步的有力象徵!
但與此同時,我仍然可以很方便的下車。我下火車去找到一家麵館,在那裡我可以花10元買到一碗很好米線或水餃,就像以前一樣,我很喜歡這裡的食物。非常令人興奮的是,價格和食物的質量都不錯。
李波:關於網路連線問題,當你來到中國後,你仍然可以連線到你境外的WhatsApp應用是吧?因為你使用的是美國手機號碼,並不會和原來的網路脫離。
葛德伯格:是的。這對我來說有一種很奇怪的感覺。當我還是個學生的時候,我在1991年至1992年去了北京大學一年。那是在網際網路和手機電話出現之前,我曾經不得不手寫信件與家人聯絡,信件溝通時間很長,常常來回要幾個星期。
現在我每天都可以和我的孩子們說話,即使我在出差旅行中。我當時根本沒想到過,有朝一日來到一個不同的世界,數字溝通真的容易多了,很美妙。
美國“晶片法案”難達預期
李波:我們進入主題。最近我們看到數百億美元規模的現金以支付撥款贈款的形式提供給瞭如英特爾、臺積電、和三星這樣的公司。你判斷美國政府用這樣力度來推動《晶片法案》,預期的結果會是什麼?
葛德伯格:我認為晶片的作用必須結合實際情況來理解,“晶片法案”資金總額超過500億美元,分五年撥付。如果你看看中國臺灣的大型半導體公司,比如臺積電,他們一年的資本開支就已經達到了400億美元。
因此在5年時間內向幾十家晶片製造公司分期支付500億美元並不是一個很大的數字。我認為“晶片法案”意義在於向美國公司發出訊號,表明他們將得到美國政府的某些支援、特別是監管方面的支援,其作用是政府承認半導體產業對美國很重要。我認為這種訊號甚至比實際的撥款更為重要,因為資金並不多。

美國“晶片法案”資金流向(截止到2024年4月)
李波:帶有很強的象徵性意義,但這筆錢是實實在在的現金。這是一種直接補貼。而不是那種政府透過減稅承諾來幫助的專案,對吧?
葛德伯格:這是真金白銀,真的現金。但這很奇怪,因為這對美國來說並不常見。據我所知在過去的五六十年裡,美國政府都不曾想這樣做。美國的政治精英以及我們的美國政府它並不擅長提供直接補貼,過去整個國家也一直在長期避免出現這種情況。
李波:所以我不認為會再有另一部“晶片法案”。
葛德伯格:但目前的政策力度足夠大、至少可覆蓋5年。然後,我們將可能觀察到政府引入一種所謂的產業政策,用來制約市場力量的自然運作。
李波:對此,主要的批評的聲音是什麼?
葛德伯格:現在預測美國政治中的任何事情都是非常困難的。所以我不知道4個月後會發生什麼,更別說5年了。但現在,感覺並沒有很大的支援動力去推動“晶片法案2.0”或者圍繞半導體建立真正的產業政策框架。美國過去並沒有國家產業政策規劃的經驗。也許未來可能會改變,但我感覺周邊的人們現在並不想把它放在重要的位置。所以我不認為會有更多這樣類似的法案出臺。
英特爾代工的困境
李波:當你在中國旅行的時候,你有沒有聽說過英特爾代工服務(IFS)想要進入中國市場競爭的傳言?您對英特爾所謂的IFS的這一舉措有何評價?
葛德伯格:英特爾作為一家公司的確面臨著真正的挑戰。按照他們的經濟模型中,他們需要擁有更多的客戶,以支援不斷推進其製造流程所需的研發投入。多年來,他們以為只要目前這樣多的客戶就足夠了。可現在已經不是這樣了。他們事實上需要再加上另一個同等規模的外部收入,將自己收入規模增加一倍,才能保持在摩爾定律的軌道上繼續前進。
對我來說,他們到處在尋找客戶,這是完全合理的。他們需要和每個可能的潛在客戶介紹自己的服務。我不僅聽說他們正在向中國的客戶推銷,他們也正在向世界各地的客戶推銷。
但代工的舞臺中已經有了臺積電和中國大陸的中芯國際。那麼他們會怎麼做呢?他們需要降低價格。
如果你和英特爾談論他們的代工計劃,他們喜歡強調的一件事是,在進入新的下一代製程時候,他們會淘汰舊的。相比之下,臺積電的模式不一樣的,每當他們增加了一個新的製程工藝,他們仍然繼續銷售舊的產品,你可以在臺積電得到8代、10代等不同的工藝製程。這使得生意模型非常有利可圖:因為你已經在賬面上折舊了所有的裝置,而現實中它仍然在繼續執行。英特爾已經意識到他們也需要這樣做。
所以我認為他們的很多業務都是建立在英特爾16奈米工藝上的。他們仍然有很多這樣的能力。雖然你們的個人電腦不需要這些舊工藝。他們不需要將其用於資料中心,但還有許多其他地方,許多其他客戶可以很好地利用它。所以我認為他們的重點是要填滿這些以往的節點。
英偉達替代方案的茁壯成長
李波:根據你最新的播客,你談到了NPU在AI應用場景中的廣泛採用。是大家對於人工智慧能力限度的探索激發了NPU和DSP的熱度嗎?
葛德伯格:我在這裡必須要精確表述一下,NPU或神經處理單元是整合到另一個晶片中的一組電路。
而這些NPU是專門為做人工智慧的工作負載而構建的。我想我們已經看到了很多裝置廠家都在往這個方向發展,比如iPhone就是如此,但是蘋果不稱它為NPU,而稱為神經引擎,他們已經在iPhone中使用了5到6年了。
我認為這會變得越來越普遍。我們已經看到高通和聯發科都推出了內建NPU的手機。我們看到所有膝上型電腦的CPU製造商都開始這樣做。現在這些AIPC,其實他們只是將NPU以某種方式放入CPU中。
李波:NPU的應用將如何影響大模型的訓練?
葛德伯格:我認為大模型訓練仍然會在大晶片如GPU上進行。但如果你把NPU的定義擴大到包括AI加速器,因為我必須如此精確表述,即認為AI加速器將是一個用於模型訓練重要的、且獨立的類別。
但現在,今天真的只有兩家公司有著成熟的晶片研發體系來訓練人工智慧模型。英偉達的H100,還有谷歌的TPU,TPU只是另一種描述NPU的方式,然後還有阿里巴巴,Facebook,Meta,微軟。他們都在建造自己的AI訓練加速器。

Trillium,谷歌第六代TPUs
但這些加速器都不是那麼先進有效,大多都還是第一代的模樣。谷歌目前正在開發的是第七代TPU,連他們也只有一個版本用於模型訓練。我認為Facebook和微軟很樂意用他們自己的晶片進行訓練,但我不認為他們現在能做到,這還需要很多年的時間。
李波:是的,我曾經聽說過,如果你改變模型,你必須使用GPU,因為你做了浮點運算。一旦你排除了基於人工智慧的雲,那麼實際上你不需要太多的GPU來增強計算能力。
葛德伯格:關於這個我的確可以說一說的。谷歌在大約七八年前推出了他們的TPU。當他們宣佈時,風險投資界就開始爭相投資那些人工智慧加速器或NPU公司。有一大堆公司都是從那時候冒出來的。他們中的大多數現在已經不存在了。他們花了一年時間的確開發了一種新的AI晶片。可當晶片出來的時候,軟體已經改變了,模型也變了。我們實際上已經看到了這樣的事情正在重複發生。
很多初創公司公司急於擁有NPU設計能力,他們製造了一些很棒的晶片,在今天的工作負載下表現得非常好,但需要一年的時間才能將晶片在生產中實現落地,而此刻,軟體生態系統和人工智慧模型發展得又如此迅速。
最終將會出現的情況是,如果你製造了一個晶片目的是設計ASIC(專用晶片),服務特殊目的的人工智慧加速器,這的確比GPU更好,對那個獨特的模型來說是效率會很高,但你一旦改變了模型,哪怕只是改一點點,這些效能提升就可能突然消失。在這種環境下,任何購買GPU來訓練他們模型的人就可能在冒一些風險。但如果稍微改變一下,這種效率的差異就會消失,這很複雜。目前我只想購買英偉達的晶片。這是相對安全的解決方案。
我認為谷歌的不同之處在於,他們之所以有這麼好的晶片,是因為他們可以控制自己的軟體。他們的晶片設計團隊,可以與他們的軟體團隊非常緊密地合作——他們擁有設計晶片本身的軟體人員。將來對軟體的任何更改,晶片團隊可以提前知道。
[人工智慧和多大模型的迅猛發展帶動算力需求日益激增,AI晶片應用前景愈加廣闊。面對美國高階AI晶片對華封鎖禁運,國產AI晶片正在加速突圍。日前,美國D2DAdvisory諮詢公司CEO傑·葛德伯格(JayGoldberg)拜訪觀察者網,就美國“晶片法案”的實施,英偉達在華業務以及中國AI晶片的前景等一系列問題,與心智觀察所首席經濟學家李波展開了一場深入對話。]

李波:歡迎葛德伯格先生——D2DAdvisory諮詢公司執行長。此外,你還是SovereignTechnologyPartners(主權技術合作夥伴)的管理合夥人。第一個問題,給公司起“主權技術合作夥伴”這個名的想法是什麼?
葛德伯格:當前每個人都在談論資料和技術,但是我們想向客戶傳達的想法是,你個人的確擁有所有權,對你的技術和資料擁有主權——這是我們試圖傳達的一個重要概念,這是真正與這些客戶產生共鳴的東西。
李波:在我們開始嚴肅問題之前,我想問,5年之後你重新看到的中國有什麼印象?這仍然是一個你之前熟悉的中國嗎?或者你看到了有一些新的元素加入?
葛德伯格:兩者都有。這是我第一次真正體驗中國高鐵,而且厲害的是你只要用一個應用程式訂票即可,是在我上車前10分鐘訂的票!這太棒了,這很容易、太方便了,可以去任何你想去的地方。這是中國現代化和進步的有力象徵!
但與此同時,我仍然可以很方便的下車。我下火車去找到一家麵館,在那裡我可以花10元買到一碗很好米線或水餃,就像以前一樣,我很喜歡這裡的食物。非常令人興奮的是,價格和食物的質量都不錯。
李波:關於網路連線問題,當你來到中國後,你仍然可以連線到你境外的WhatsApp應用是吧?因為你使用的是美國手機號碼,並不會和原來的網路脫離。
葛德伯格:是的。這對我來說有一種很奇怪的感覺。當我還是個學生的時候,我在1991年至1992年去了北京大學一年。那是在網際網路和手機電話出現之前,我曾經不得不手寫信件與家人聯絡,信件溝通時間很長,常常來回要幾個星期。
現在我每天都可以和我的孩子們說話,即使我在出差旅行中。我當時根本沒想到過,有朝一日來到一個不同的世界,數字溝通真的容易多了,很美妙。
美國“晶片法案”難達預期
李波:我們進入主題。最近我們看到數百億美元規模的現金以支付撥款贈款的形式提供給瞭如英特爾、臺積電、和三星這樣的公司。你判斷美國政府用這樣力度來推動《晶片法案》,預期的結果會是什麼?
葛德伯格:我認為晶片的作用必須結合實際情況來理解,“晶片法案”資金總額超過500億美元,分五年撥付。如果你看看中國臺灣的大型半導體公司,比如臺積電,他們一年的資本開支就已經達到了400億美元。
因此在5年時間內向幾十家晶片製造公司分期支付500億美元並不是一個很大的數字。我認為“晶片法案”意義在於向美國公司發出訊號,表明他們將得到美國政府的某些支援、特別是監管方面的支援,其作用是政府承認半導體產業對美國很重要。我認為這種訊號甚至比實際的撥款更為重要,因為資金並不多。

[人工智慧和多大模型的迅猛發展帶動算力需求日益激增,AI晶片應用前景愈加廣闊。面對美國高階AI晶片對華封鎖禁運,國產AI晶片正在加速突圍。日前,美國D2DAdvisory諮詢公司CEO傑·葛德伯格(JayGoldberg)拜訪觀察者網,就美國“晶片法案”的實施,英偉達在華業務以及中國AI晶片的前景等一系列問題,與心智觀察所首席經濟學家李波展開了一場深入對話。]

李波:歡迎葛德伯格先生——D2DAdvisory諮詢公司執行長。此外,你還是SovereignTechnologyPartners(主權技術合作夥伴)的管理合夥人。第一個問題,給公司起“主權技術合作夥伴”這個名的想法是什麼?
葛德伯格:當前每個人都在談論資料和技術,但是我們想向客戶傳達的想法是,你個人的確擁有所有權,對你的技術和資料擁有主權——這是我們試圖傳達的一個重要概念,這是真正與這些客戶產生共鳴的東西。
李波:在我們開始嚴肅問題之前,我想問,5年之後你重新看到的中國有什麼印象?這仍然是一個你之前熟悉的中國嗎?或者你看到了有一些新的元素加入?
葛德伯格:兩者都有。這是我第一次真正體驗中國高鐵,而且厲害的是你只要用一個應用程式訂票即可,是在我上車前10分鐘訂的票!這太棒了,這很容易、太方便了,可以去任何你想去的地方。這是中國現代化和進步的有力象徵!
但與此同時,我仍然可以很方便的下車。我下火車去找到一家麵館,在那裡我可以花10元買到一碗很好米線或水餃,就像以前一樣,我很喜歡這裡的食物。非常令人興奮的是,價格和食物的質量都不錯。
李波:關於網路連線問題,當你來到中國後,你仍然可以連線到你境外的WhatsApp應用是吧?因為你使用的是美國手機號碼,並不會和原來的網路脫離。
葛德伯格:是的。這對我來說有一種很奇怪的感覺。當我還是個學生的時候,我在1991年至1992年去了北京大學一年。那是在網際網路和手機電話出現之前,我曾經不得不手寫信件與家人聯絡,信件溝通時間很長,常常來回要幾個星期。
現在我每天都可以和我的孩子們說話,即使我在出差旅行中。我當時根本沒想到過,有朝一日來到一個不同的世界,數字溝通真的容易多了,很美妙。
美國“晶片法案”難達預期
李波:我們進入主題。最近我們看到數百億美元規模的現金以支付撥款贈款的形式提供給瞭如英特爾、臺積電、和三星這樣的公司。你判斷美國政府用這樣力度來推動《晶片法案》,預期的結果會是什麼?
葛德伯格:我認為晶片的作用必須結合實際情況來理解,“晶片法案”資金總額超過500億美元,分五年撥付。如果你看看中國臺灣的大型半導體公司,比如臺積電,他們一年的資本開支就已經達到了400億美元。
因此在5年時間內向幾十家晶片製造公司分期支付500億美元並不是一個很大的數字。我認為“晶片法案”意義在於向美國公司發出訊號,表明他們將得到美國政府的某些支援、特別是監管方面的支援,其作用是政府承認半導體產業對美國很重要。我認為這種訊號甚至比實際的撥款更為重要,因為資金並不多。
