英偉達又放大招!黃仁勳稱AI的iPhone時刻已經到來

首頁 > 科技

英偉達又放大招!黃仁勳稱AI的iPhone時刻已經到來

來源:飛行的小豬 釋出時間:2023-08-11 10:31

8月8日晚,英偉達創始人兼CEO黃仁勳在計算機圖形界頂級會議SIGGRAPH上發表主題演講,並且公佈推出新一代GH200 Grace Hopper超級晶片及相應平臺。

黃仁勳在演講中甚至說到,“生成式 AI 時代和 AI 的 iPhone 時刻已經到來”。

那麼英偉達這次帶來的新品到底有多強呢?

新一代的GH200 Grace Hopper平臺是專為處理大語言模型、推薦系統、向量資料庫等全球最複雜的生成式 AI 工作負載而構建。

平臺採用雙配置,提供的記憶體容量和頻寬比當前產品分別增加 3.5 倍和 3 倍,包括一個擁有 144 個 Arm Neoverse 核心、8 petaflops 的 AI 機能和 282GB 最新 HBM3e 記憶體技術的單個伺服器。

新平臺可以透過 NVIDIA NVLink™ 與其他超級晶片連線,從而實現協同工作,部署當下大型生成式 AI 模型。該技術使 GPU 可以完全訪問 CPU 記憶體,在雙配置中可提供總計 1.2TB 的快速記憶體。

黃仁勳表示,一臺伺服器可以同時裝載兩個GH200超級晶片,大型語言模型的推理本錢將會大幅降低。

到底有多誇張呢?

投資800萬美元Grace Hopper,就相當於8800個價值1億美元的x86 GPU,意味著本錢降低12倍,能耗降低20倍。

除此之外,英偉達還發布了AI Workbench。

其能夠為開發者提供一個同一、易用的工作空間,使他們有能力在個人電腦或工作站上快速建立、測試和微調生成式 AI 模型,並將這些模型擴充套件到幾乎所有資料中心、公有云或DGX Cloud。

另外,英偉達在會上還發布了3款合用於臺式工作站的GPU,分別是RTX 5000、RTX 4500和RTX 4000,可以為可擴充套件開放式3D世界生態系統通用場景描述提供加速。

最後,基於GH200 Grace Hopper平臺的新系統將於2024年第二季度投產。

毫無疑問,英偉達最新晶片的推出將對於AI來說又是一支強心劑,對於大模型的效率和本錢能帶來顯著改觀。同時,也將繼承鞏固英偉達在AI領域的地位。

不久前的6月份,AMD釋出大模型專用晶片Insight MI300X,顯示出在AI領域的實力。但此時此刻,也許壓力又來到了AMD這邊。

就問AMD,怕不怕?

8月8日晚,英偉達創始人兼CEO黃仁勳在計算機圖形界頂級會議SIGGRAPH上發表主題演講,並且公佈推出新一代GH200 Grace Hopper超級晶片及相應平臺。

黃仁勳在演講中甚至說到,“生成式 AI 時代和 AI 的 iPhone 時刻已經到來”。

那麼英偉達這次帶來的新品到底有多強呢?

新一代的GH200 Grace Hopper平臺是專為處理大語言模型、推薦系統、向量資料庫等全球最複雜的生成式 AI 工作負載而構建。

平臺採用雙配置,提供的記憶體容量和頻寬比當前產品分別增加 3.5 倍和 3 倍,包括一個擁有 144 個 Arm Neoverse 核心、8 petaflops 的 AI 機能和 282GB 最新 HBM3e 記憶體技術的單個伺服器。

新平臺可以透過 NVIDIA NVLink™ 與其他超級晶片連線,從而實現協同工作,部署當下大型生成式 AI 模型。該技術使 GPU 可以完全訪問 CPU 記憶體,在雙配置中可提供總計 1.2TB 的快速記憶體。

黃仁勳表示,一臺伺服器可以同時裝載兩個GH200超級晶片,大型語言模型的推理本錢將會大幅降低。

8月8日晚,英偉達創始人兼CEO黃仁勳在計算機圖形界頂級會議SIGGRAPH上發表主題演講,並且公佈推出新一代GH200 Grace Hopper超級晶片及相應平臺。

黃仁勳在演講中甚至說到,“生成式 AI 時代和 AI 的 iPhone 時刻已經到來”。

那麼英偉達這次帶來的新品到底有多強呢?

新一代的GH200 Grace Hopper平臺是專為處理大語言模型、推薦系統、向量資料庫等全球最複雜的生成式 AI 工作負載而構建。

平臺採用雙配置,提供的記憶體容量和頻寬比當前產品分別增加 3.5 倍和 3 倍,包括一個擁有 144 個 Arm Neoverse 核心、8 petaflops 的 AI 機能和 282GB 最新 HBM3e 記憶體技術的單個伺服器。

新平臺可以透過 NVIDIA NVLink™ 與其他超級晶片連線,從而實現協同工作,部署當下大型生成式 AI 模型。該技術使 GPU 可以完全訪問 CPU 記憶體,在雙配置中可提供總計 1.2TB 的快速記憶體。

黃仁勳表示,一臺伺服器可以同時裝載兩個GH200超級晶片,大型語言模型的推理本錢將會大幅降低。

上一篇:工裝識別演算法... 下一篇:透過這些錄音...
猜你喜歡
熱門閱讀
同類推薦