開源GPU，能否彎道超車英偉達？

來源：美劇去哪看釋出時間：2024-04-22 17:23

開源GPU，能否彎道超車英偉達？

AMD Radeon最近在X平臺釋出了一則令人振奮的訊息：他們宣佈將在五月底開源Radeon GPU的微引擎排程器（MES）韌體文件，並計劃在之後釋出原始碼以供外部審查和反饋。隨著社群對Radeon GPU上ROCm（Radeon Open Computer）平臺的興趣日增，AMD還建立了一個GitHub跟蹤器，以便更好地捕捉社群的反饋並提供最新的更新。作為在GPU領域排名第二的重要玩家，AMD此舉可以說是邁出GPU開源重要一步。

說到開源，近年來，RISC-V開源指令集架構在CPU領域已經取得了巨大的成功，其開放、靈活、可定製的特點吸引了越來越多的關注和應用。如今，RISC-V也開始在GPU領域嶄露頭角，一些專案和產品已經取得了初步的成果。RISC-V能否在GPU領域複製CPU領域的成功？

面對英偉達在GPU領域的壟斷地位，開源能否成為破局之道？

晶片大廠推動GPU開源

開源是AMD AI軟硬體生態系統的一大賣點，雖然ROCm軟體自 2016 年推出以來一直是開源的，但是韌體的開源也很重要，AMD GPU 上的MES韌體AMD 單獨開發的，不是開源的。

在此簡單科普下韌體的概念。韌體是嵌入到硬體裝置中的特定軟體，它為硬體提供控制指令，使其能夠執行預定的任務。雖然韌體在技術上屬於軟體，但它直接與硬體關聯並專為特定的硬體設計，通常儲存在不易丟失資料的記憶體中，如ROM、EEPROM或快閃記憶體。韌體作為硬體和更高階軟體（如作業系統和應用程式）之間的橋樑，確保硬體能夠按照預期的方式執行和與其他系統元件互動。與普通軟體不同，韌體不經常更改，更新通常是為了增加新功能或修復錯誤。

通常來說，韌體一般不會輕易開源，韌體中可能包含了企業的核心技術和商業機密，這些是公司競爭力的重要組成部分。開源韌體可能會洩露這些關鍵資訊，給競爭對手帶來機會。

AMD做出韌體開源這一決定的背後，有一個推動力量不可忽視，那就是人工智慧初創公司Tiny Corp的堅持和倡導。Tiny Corp使用AMD的Radeon 7900 XTX GPU來構建他們的"TinyBox"——一款配備六塊顯示卡的機器，專門用於處理AI工作負載。然而，在今年3月，TinyBox遇到了與MES韌體相關的技術問題，Tiny Corp X 帳戶（可能由 Hotz 主導）開始抱怨驅動程式和韌體問題導致崩潰和掛起，這直接影響了其釋出程序。因此，他們多次公開要求AMD開源其MES韌體，以便能夠修復有問題的錯誤。Tiny Corp還提出了改用 Nvidia或 Intel GPU的想法。

來源：Tiny Corp

雖然最開始Lisa Su拒絕了MES韌體開源這一提議，但如今看來，AMD最終還是妥協了。

如果AMD真的開源MES韌體，這不僅可能鞏固Tiny Corp與AMD的合作關係，還可能促使更多的企業和開發者轉向AMD的平臺。畢竟英偉達太貴了，按照Tiny Corp公佈的價格，若採用AMD GPU，其TinyBox的售價為15,000美元，相比之下，採用Nvidia GPU的價格將高達25,000美元。這兩款計算平臺都將在今年6月份上市。此外，Tiny Corp 未來也可能推出 Arc A770 TinyBox，不過該公司表示目前只有原型機，目前沒有推出的計劃。

此舉不僅可能增強AMD在AI領域的競爭力，還可能促使ROCm成為英偉達CUDA的有力競爭者，ROCm軟體是AMD用於GPU計算的開源堆疊。眾所周知，英偉達的CUDA軟體雖然好用，但卻是閉源的。

在軟體方面，英特爾有開放的軟體堆疊oneAPI。說到此，一項脫胎於英特爾oneAPI的新標準也意欲打破CUDA霸權！英特爾極擅於制定各種標準，關於此，可閱讀《你不一定知道的英特爾》一文。2023年9月，Linux基金會宣佈成立統一加速 (UXL，Unified Acceleration) 基金會。該聯盟的主要目標是開發能夠與各種人工智慧晶片組配合使用的開源軟體。Linux 基金會執行董事 Jim Zemlin表示：“統一加速基金會體現了協作和開源方法的力量。透過聯合領先的技術公司並培育跨平臺開發的生態系統，我們將釋放新的可能性以資料為中心的解決方案的效能和生產力。”

UXL Group 的開發工作主要集中在英特爾OneAPI的軟體工具包上。OneAPI 基於名為 SYCL 的早期框架（SYCL是一種Khronos開放標準），主要目標是簡化跨多架構的開發過程（如CPU、GPU、FPGA、加速器），專注於簡化應用程式的可移植性。目前英特爾透過多項附加功能擴充套件了該框架，其中最引人注目的是名為 SYCLomatic 的功能，它的目的是為 Nvidia CUDA 編寫的軟體轉換為能夠在其他公司的 AI 晶片上執行的 SYCL 程式碼。

UXL生態系統副總裁兼基金會指導委員會主席Rod Burns在一篇文章中的說法，在快速發展的異構計算時代下，UXL的推動成立，是產業發展的必然結果。目前，UXL的早期指導成員由高通、谷歌、英特爾、Arm、imagination、三星、VMvare（博通）、富士通八家國際晶片和軟體公司組成。在很多分析人士看來，UXL的成立，是這些公司希望能夠聯合起來，打破CUDA霸權。

高通人工智慧和機器學習主管 Vinesh Sukumar 此前在接受路透社採訪時表示：“我們實際上是在向開發人員展示如何從 Nvidia 平臺遷移出來。”從長遠來看，UXL 最終旨在減少將 Nvidia 支援的應用程式遷移到競爭對手晶片所需的工作量和成本。這可能會給英偉達市場領先的顯示卡帶來更多競爭。

從這個趨勢可以看出，雖然 CUDA 在 GPU 程式設計領域確立了強有力的地位，但是開源和開放標準的推動是行業的一個明顯趨勢。長期而言，這種開放性有助於降低對單一供應商的依賴，促進更多競爭和合作，推動整個行業的發展。不過，打破現有的“霸權”並非易事，需要時間、資源以及持續地技術創新。

RISC-V開源之風吹向GPU

調研跟蹤計算機圖形行業35年之久的Jon Peddie Research (JPR) 表示，業界一直在尋求一種足夠靈活且可擴充套件的開放標準GPU，以支援各種市場。

而近年來，開源硬體指令集架構RISC-V的崛起，為處理器技術帶來了一股新風潮。這股開源之風現在正吹向圖形處理單元（GPU）。不少廠商和學術界的研究者已經稍有動作。

1.IP廠商：GPU IP

X-Silicon Inc. (XSi) 是一家提供開放標準計算圖形矽 IP 解決方案的初創公司，他們正在開發一個基於RISC-V向量的統一圖形計算引擎（C-GPU）革新GPU設計。傳統的GPU架構是SIMD（單指令流多資料流），受制於主機 CPU、作業系統和圖形服務，限制了創新並有助於保持現有企業對其市場的控制。X-Silicon使用的是MIMD（多指令流多資料流）架構，它可以同時在一個晶片中獨立執行 CPU 和 GPU 程式碼，從而降低記憶體使用量並提高效能。

在該公司的多核設計中，多個 C-GPU 核心被平鋪在一個晶片上，並透過片上快速合成器結構連線起來，該結構可將每個核心的輸出動態聚合到一個公共緩衝區，即用於圖形用例的幀緩衝區，或用於編解碼器、影片特效處理和人工智慧處理的流水線緩衝區。該公司聲稱，它還可以透過近記憶體計算、統一記憶體架構和其他新穎的硬體配置來加速計算，從而減少 GPU 固有的延遲。他們為此申請了 14 項專利。

左：X-Silicon的單核概念；右：X-Silicon的單核架構（來源：X-Silicon）

IP巨頭Imagination Technology早在前幾年就推出了部分採用了RISC-V的GPU IP，該公司對外宣傳，其所有GPU 都相容RISC-V SoC。

另外一家嵌入式系統GPU IP提供商Think Silicon是 Applied Materials （應用材料）旗下公司，在做面向 MCU 市場的基於 RISC-V 的 GPGPU 解決方案，他們提供了在一個 IP 架構中執行 3D 圖形和 AII 的獨特組合。

2.科研院所：GPGPU開源專案

近年來，通用圖形處理單元（GPGPU）在人工智慧領域迅速得到大規模應用。GPGPU是高效能平行計算處理器晶片的一種，因為可程式設計性、易移植性，面對新興應用具有更低的跟隨成本，所以始終佔據著高效能計算市場很大的份額。

一些科研院所開始探索開源GPGPU，其中較為代表的是佐治亞理工學院和清華大學。

佐治亞理工學院的開源RISC-V GPGPU Vortex是一個開源硬體和軟體專案。目前，Vortex 已經發布了2.0版本，它支援 OpenCL 並在 FPGA 上執行，如Altera Arria 10、Altera Stratix 10、Xilinx Alveo U50, U250, U280、Xilinx Versal VCK5000。Vortex 平臺具有高度可定製性和可擴充套件性，擁有完整的開源編譯器、驅動程式和執行時軟體棧，可用於 GPU 架構研究。

上一篇：下款穩定的好... 下一篇：世界上最小的...