谷歌 DeepMind 推出 AI 安全框架 Frontier Safety Framework

首頁 > 科技

谷歌 DeepMind 推出 AI 安全框架 Frontier Safety Framework

來源:會笑的青豆 釋出時間:2024-05-23 16:26

IT之家 5 月 21 日訊息,谷歌 DeepMind 日前推出了一款名為“Frontier Safety Framework”的 AI 安全框架,主要用於檢測 AI 模型的風險情況,號稱能夠主動識別“未來可能釀成重大風險的 AI 能力”,向研究人員指出相關模型“究竟在哪些層面可能會被駭客利用”

據介紹,DeepMind 目前公佈的 Frontier Safety Framework 1.0 版本主要包含三個關鍵元件,即“識別模型是否具備釀成重大風險的能力”,“預估模型會在什麼階段具備安全隱患”、“智慧最佳化模型防止其釀成風險”。

▲ 圖源 谷歌官方新聞稿

DeepMind 表示,該公司“一直在突破 AI 的邊界”,所開發的模型已改變了他們對 AI 可能性的認知,雖然公司相信未來的 AI 技術將為社會帶來寶貴的工具。但他們也意識到相關 AI 技術的風險性有可能對社會造成毀滅性的影響,因此他們正在逐步增強模型的安全性與可控性。

IT之家留意到,目前 DeepMind 仍在開發 Frontier Safety Framework,計劃透過產業、學術及有關部門的合作來改善相關框架。

IT之家 5 月 21 日訊息,谷歌 DeepMind 日前推出了一款名為“Frontier Safety Framework”的 AI 安全框架,主要用於檢測 AI 模型的風險情況,號稱能夠主動識別“未來可能釀成重大風險的 AI 能力”,向研究人員指出相關模型“究竟在哪些層面可能會被駭客利用”

據介紹,DeepMind 目前公佈的 Frontier Safety Framework 1.0 版本主要包含三個關鍵元件,即“識別模型是否具備釀成重大風險的能力”,“預估模型會在什麼階段具備安全隱患”、“智慧最佳化模型防止其釀成風險”。

IT之家 5 月 21 日訊息,谷歌 DeepMind 日前推出了一款名為“Frontier Safety Framework”的 AI 安全框架,主要用於檢測 AI 模型的風險情況,號稱能夠主動識別“未來可能釀成重大風險的 AI 能力”,向研究人員指出相關模型“究竟在哪些層面可能會被駭客利用”

據介紹,DeepMind 目前公佈的 Frontier Safety Framework 1.0 版本主要包含三個關鍵元件,即“識別模型是否具備釀成重大風險的能力”,“預估模型會在什麼階段具備安全隱患”、“智慧最佳化模型防止其釀成風險”。

IT之家 5 月 21 日訊息,谷歌 DeepMind 日前推出了一款名為“Frontier Safety Framework”的 AI 安全框架,主要用於檢測 AI 模型的風險情況,號稱能夠主動識別“未來可能釀成重大風險的 AI 能力”,向研究人員指出相關模型“究竟在哪些層面可能會被駭客利用”

據介紹,DeepMind 目前公佈的 Frontier Safety Framework 1.0 版本主要包含三個關鍵元件,即“識別模型是否具備釀成重大風險的能力”,“預估模型會在什麼階段具備安全隱患”、“智慧最佳化模型防止其釀成風險”。

上一篇:面壁智慧推出... 下一篇:小紅書上出現...
猜你喜歡
熱門閱讀
同類推薦