高通等IT龍頭佈局終端生成式AI，終端AI推理應用帶動產業鏈進級-今日必看

高通等IT龍頭佈局終端生成式AI，終端AI推理應用帶動產業鏈進級

來源：野史來探究釋出時間：2023-08-18 16:50

（呈文出品方：安信證券）

科技龍頭加快佈局 AI 市場，終端側 AI 商業化應用落地加速

AI 市場持續火熱，科技龍頭積極佈局終端側 AI。年初以來，以ChatGPT 為代表的生成式人工智慧帶動了 AI 大模型的持續落地和商業化，IOS 版 ChatGPT 已於近期推出，不久的未來 OpenAl 或為安卓手機提供相應的服務。ChatGPT 應用的推出，無疑讓更多人感觸感染到了人工智能帶來的便利，跟著 AI 走進千家萬戶，終端 AI 算力和應用的發展是必不可少的。Meta、微軟、谷歌、蘋果、英特爾、聯發科等各大科技巨頭正在加速佈局面向消費級和企業級的終端側 AI。

AI 大模型引數規模增勢迅猛，面對算力的巨大消耗，終端算力的發展或成為當務之急。從 2012 年的 AlexNet 的百萬級引數開始，AI 大模型引數規模每年都以指數級的增長速度在擴大，如今不同領域的 AI 大模型引數規模已經開始逐漸邁入千億級和萬億級時代。以天然語言處理（NLP）為例，經由十餘年的發展，模型引數已經達到了千億級別，資料量增長了數百萬倍。AI 大模型可以從海量的資料中練習出通用的知識和能力，從而在不同的任務和領域中表現出強盛的泛化機能，而 AI 大模型引數規模和練習、推理時所需要的算力呈正比關係，因此可以推測未來跟著大模型引數規模的增長，對算力的消耗加大，終端算力的發展或成為當務之急。

高通有望引領混合 AI 發展，助力實現隨時隨地的智慧計算

大模型有望走向端側，混合AI 遠景廣闊。2023 年 5 月，高通釋出了混合 AI 白皮書，指出混合 AI 是 AI 的未來。混合 AI 是指終端和雲端協同工作，在適當的場景和時間下分配 AI 計算的工作負載。在一些場景下，計算將主要以終端為中央，在必要時向雲端分流任務。而在以云為中央的場景下，終端將根據自身能力，在可能的情況下從雲端分擔一些 AI 工作負載。在以終端為中央的混合 AI 架構中，很多生成式 AI 模型可以在終端上充分執行，雲端僅用於分流處理終端無法充分執行的任務。在基於終端感知的混合 AI 場景中，在邊沿側執行的模型將充當雲端大語言模型的感測器輸入端，以進一步分流計算任務並減少連線頻寬，從而節省本錢。終端和雲端的 AI 計算也可以協同工作來處理 AI 負載，在機能和能耗上實現雙贏。

混合AI 能夠帶來本錢、能耗、機能、隱私、安全和個性化上風。混合式AI 能夠解決大型生成式 AI 模型推理本錢高的問題。僅在雲端進行推理，資料中心基礎設施本錢會持續增加，而將一些處理從雲端轉移到邊沿終端，雲基礎設施的壓力能夠減輕並且減少開支。邊沿終端能夠以很低的能耗執行生成式 AI，實現環境和可持續發展目標。在混合 AI 架構中，終端側 AI 處理不亂可靠，可以防止雲伺服器和網路連線擁堵時泛起大量排隊等待、高時延和拒絕服務的情況。此外，使用者無論身處何地都可以正常執行生成式 AI 應用。終端側 AI 從本質上有助於保護使用者隱私，由於查詢和個人資訊完全儲存在終端上，同時讓更加個性化的體驗成為可能，能夠在不犧牲隱私的情況下，根據使用者的個性進行定製。

混合AI 將賦能生成式 AI，高通有望引領混合 AI 發展。當前具備AI 功能的智慧手機、筆記本電腦和 PC、汽車、XR 以及物聯網等終端產品已達到數十億臺，混合 AI 架構將賦能生成式 AI 在上述這些終端領域提供全新的增強使用者體驗。目前可以在終端側執行的生成式 AI 模型引數規模在 10 億至 100 億之間，跟著生成式 AI 模型不斷縮小，以及終端側處理能力的持續晉升，擁有 100 億或更高參數的混合 AI 模型將能夠在終端上執行。高通在終端側 AI 上風的核心是其 AI 引擎，透過開發低能耗、高效能 AI，已經形成了一個跨智慧手機、汽車、XR、 PC、膝上型電腦以及企業級 AI 等領域的龐大終端 AI 生態系統。目前高通部署的邊沿側終端規模已經十分龐大，截至 2023 年 5 月，搭載驍龍和高通平臺的已上市使用者終端數目已達到數十億臺，而且每年有數億臺的新終端仍在進入市場。

混合AI 市場潛力巨大，有望在未來十年內為高通開啟約 7000 億美元市場。根據IDC 預計，到 2025 年，64%的資料將在傳統資料中心之外建立，這意味著更多的資料將採用混合 AI 的架構執行。高通是有能力打造雲邊沿融合的公司，根據高通公司官網的猜測，混合 AI 有望在未來十年內擴大公司的潛伏市場，達到約 7000 億美元的市場規模。

上一篇：心情好一切就... 下一篇：手機電話錄音...