Jeff Dean發推:谷歌超硬年終總結“第三彈”來了!大力發展Jax

首頁 > 科技

Jeff Dean發推:谷歌超硬年終總結“第三彈”來了!大力發展Jax

來源:鷺島風情 釋出時間:2023-02-03 14:20

  新智元報道  

編纂:Aeneas 好睏

【新智元導讀】谷歌費心打造的年終總結第三彈,火熱出爐了!

剛剛,Jeff Dean發推表示,谷歌重磅打造的超級硬核年終大總結,出第三彈了!

第一彈:「超詳超硬Jeff Dean萬字總結火熱出爐!圖解谷歌2022年AIGC、LLM、CV三大領域成就」

第二彈:「谷歌2022年度回顧:讓AI更負責任,主要做了4點微小的工作」

偉大的機器學習研究需要偉大的系統。

跟著演算法和硬體越來越複雜,以及執行規模越來越大,執行日常任務所需的軟體的複雜性也在不斷增加。

在這篇文章中,研究職員概述了過去一年整個谷歌在ML系統方面取得的眾多進展,這些進展使谷歌能夠支援複雜模型的服務和練習,同時減輕了終端使用者的實施複雜性。

同時,這篇文章還提到了谷歌如何利用ML本身來改進和設計下一代系統堆疊的研究。

機器學習程式語言

對於機器學習的工作,基礎架構的穩健性和正確性至關重要。

谷歌一直在努力,確保基礎架構建立在可靠的技術和理論基礎之上。並且,作為後盾,谷歌一直在做程式語言和構建編譯器方面的前沿研究。

谷歌會繼承對開源MLIR編譯器的基礎架構投資,構建更加可控、可組合和模組化的編譯器堆疊。

論文地址:https://research.google/pubs/pub49988/

此外,谷歌在稀疏線性代數的程式碼生成方面也取得了很大進展,現在可以從幾乎相同的MLIR程式中天生密集和稀疏的程式碼。

最後,谷歌還繼承開發了IREE編譯器,這個編譯器既可以在位於資料中心的強盛計算機上使用,在可以在智慧手機之類的移動裝置上使用。

IREE的端到端流程

在更理論的層面,谷歌探索了哪些方法可以形式化(formalize)和驗證自己使用的程式碼生成技術。

谷歌還發布了一種新奇的方法,用於執行和形式化一套自動微分(AD)系統,它恰是ML庫的核心。

上一篇:微粒貸客服電... 下一篇:城鄉居民養老...
猜你喜歡
熱門閱讀
同類推薦