蘋果取得技術突破：可在 iPhone 上執行大型語言模型

來源：日劇盤點釋出時間：2023-12-21 21:41

蘋果取得技術突破：可在 iPhone 上執行大型語言模型

IT之家 12 月 21 日動靜，蘋果的人工智慧研究職員表示，他們已取得一項重大突破，透過一種立異的快閃記憶體利用技術，成功地在記憶體有限的 iPhone 和其他蘋果裝置上部署了大型語言模型（LLM）。這一成果有望讓更強盛的 Siri、實時語言翻譯以及融入攝影和增強現實的尖端 AI 功能登陸未來 iPhone。

近年來，像 ChatGPT 和 Claude 這樣的 LLM 聊天機器人風靡全球。它們能夠進行流暢的對話、撰寫不同風格的文字，甚至天生程式碼，展現出強盛的語言理解和天生能力。然而，這些模型有一個致命弱點：它們極其“吃”資料和記憶體，普通手機根本無法滿意其執行需求。

為了突破這一瓶頸，蘋果研究職員開闢了一條新路，將目光投向了手機中普遍存在的快閃記憶體，也就是儲存應用和照片的地方。在題為“快閃記憶體中的 LLM：利用有限記憶體實現高效的大型語言模型推理（LLM in a flash: Efficient Large Language Model Inference with Limited Memory）”的論文中，研究職員提出了一種巧妙的快閃記憶體利用技術，將 LLM 模型的資料儲存在快閃記憶體中。作者指出，與傳統用於執行 LLM 的 RAM 比擬，快閃記憶體在移動裝置中更為豐碩。

IT之家留意到，他們的方法巧妙地利用兩種關鍵技術繞過限制，從而最小化資料傳輸並最大化快閃記憶體記憶體吞吐量：

視窗化（Windowing）：可以將其視為一種回收利用的方法。AI 模型不會每次都載入新資料，而是會重複使用部門已處理的資料。這減少了頻繁讀取記憶體的需要，讓整個過程更加流暢高效。

行-列捆綁（Row-Column Bundling）：這種技術類似於你讀一本書時，不是逐字逐句地閱讀，而是成段地閱讀。透過更有效地分組資料，可以從快閃記憶體中更快地讀取資料，從而加速 AI 理解和天生語言的能力。

論文指出，這項技術可以讓 AI 模型的執行規模達到 iPhone 可用記憶體的兩倍。這意味著尺度處理器（CPU）的速度進步了 4-5 倍，圖形處理器（GPU）的速度進步了 20-25 倍。“這一突破對於在資源有限的環境中部署進步前輩的 LLM 至關重要，極大地擴充套件了它們的適用性和可訪問性，” 研究職員寫道。

更快更強的 iPhone AI

人工智慧效率的突破為未來的 iPhone 開闢了新的可能性，例如更進步前輩的 Siri 功能、實時語言翻譯以及攝影和增強現實中複雜的 AI 驅動功能。該技術還為 iPhone 在裝置上運行復雜的人工智慧助手和聊天機器人奠定了基礎，據悉蘋果已經開始著手這項工作。

蘋果開發的生成式 AI 終極可能被整合到其 Siri 語音助手中。2023 年 2 月，蘋果舉辦了人工智慧峰會，並向員工先容了其大型語言模型工作。據彭博社報道，蘋果的目標是打造一個更智慧的 Siri，與 AI 深度整合。蘋果計劃更新 Siri 與資訊應用程式的互動方式，讓使用者能夠更有效地處理複雜題目和自動完成句子。除此之外，風聞蘋果還計劃將 AI 新增到儘可能多的蘋果應用程式中。

Apple GPT：口袋裡的超級大腦

據報道，蘋果正在研發自己的生成式 AI 模型，代號為“Ajax”，旨在與 OpenAI 的 GPT-3 和 GPT-4 競爭，擁有 2000 億個引數，暗示其在語言理解和天生方面具有高度複雜性和強盛的能力。Ajax 在內部被稱為“Apple GPT”，旨在同一蘋果機器學習開發，這表明蘋果將 AI 更深入地整合到其生態系統中。

據最新報道，Ajax 被以為比早期的 ChatGPT 3.5 更加強盛。然而，一些訊息人士也指出，OpenAI 的新模型可能已經超越了 Ajax 的能力。

The Information 和分析師 Jeff Pu 均聲稱，蘋果將在 2024 年底左右，也就是 iOS 18 釋出之時，在 iPhone 和 iPad 上提供某種形式的生成式 AI 功能。Pu 在 10 月份表示，蘋果將在 2023 年建設數百臺 AI 伺服器，2024 年還將建設更多伺服器。據報道，蘋果將提供雲端 AI 和裝置端處理 AI 相結合的解決方案。