WDTA首次釋出大模型安全國際標準，螞蟻集團、科大訊飛等參編

來源：探索未來 釋出時間：2024-04-19 02:03

IT之家 4 月 17 日訊息，4 月 15-19 日，第 27 屆聯合國科技大會在瑞士日內瓦召開。其間，世界數字技術院（WDTA）於 4 月 16 日釋出了一系列突破性成果，包括《生成式人工智慧應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。

據中國經濟網報道，這兩項國際標準為大模型及生成式 AI 應用方面的安全測試標準，代表著全球人工智慧安全評估和測試進入新的基準。

這兩項標準由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成，其中《大語言模型安全測試方法》由螞蟻集團牽頭編制。

《標準》為測試、驗證生成式 AI 應用（尤其是使用大語言模型構建的應用程式）的安全性提供框架，定義了 AI 應用程式架構每層測試驗證範圍，包括不限於如下方面。

• 基礎模型選擇

• 嵌入和向量資料庫

• RAG 或檢索增強生成

• AI 應用執行時的安全

《方法》則為大模型本身安全性評估提供了“全面、嚴謹且實操性強”的結構性方案，提出了大語言模型的安全風險分類、攻擊的分類分級方法以及測試方法。據報道，《方法》可以解決大語言模型固有的複雜性，全面測試其抵禦敵對攻擊的能力，使開發人員和組織能夠識別和緩解潛在漏洞，並最終提高使用大語言模型構建的人工智慧系統的安全性和可靠性。

IT之家注：WDTA 系國際非政府組織，於日內瓦註冊。該機構遵從聯合國指導框架，致力於在全球範圍內推進數字技術，促進國際合作。AI STR（安全、可信、負責任）計劃是 WDTA 的核心倡議，旨在確保人工智慧系統的安全性、可信性和責任性。

IT之家 4 月 17 日訊息，4 月 15-19 日，第 27 屆聯合國科技大會在瑞士日內瓦召開。其間，世界數字技術院（WDTA）於 4 月 16 日釋出了一系列突破性成果，包括《生成式人工智慧應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。

據中國經濟網報道，這兩項國際標準為大模型及生成式 AI 應用方面的安全測試標準，代表著全球人工智慧安全評估和測試進入新的基準。

這兩項標準由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成，其中《大語言模型安全測試方法》由螞蟻集團牽頭編制。

《標準》為測試、驗證生成式 AI 應用（尤其是使用大語言模型構建的應用程式）的安全性提供框架，定義了 AI 應用程式架構每層測試驗證範圍，包括不限於如下方面。

• 基礎模型選擇

• 嵌入和向量資料庫

• RAG 或檢索增強生成

• AI 應用執行時的安全

《方法》則為大模型本身安全性評估提供了“全面、嚴謹且實操性強”的結構性方案，提出了大語言模型的安全風險分類、攻擊的分類分級方法以及測試方法。據報道，《方法》可以解決大語言模型固有的複雜性，全面測試其抵禦敵對攻擊的能力，使開發人員和組織能夠識別和緩解潛在漏洞，並最終提高使用大語言模型構建的人工智慧系統的安全性和可靠性。

IT之家注：WDTA 系國際非政府組織，於日內瓦註冊。該機構遵從聯合國指導框架，致力於在全球範圍內推進數字技術，促進國際合作。AI STR（安全、可信、負責任）計劃是 WDTA 的核心倡議，旨在確保人工智慧系統的安全性、可信性和責任性。

IT之家 4 月 17 日訊息，4 月 15-19 日，第 27 屆聯合國科技大會在瑞士日內瓦召開。其間，世界數字技術院（WDTA）於 4 月 16 日釋出了一系列突破性成果，包括《生成式人工智慧應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。

據中國經濟網報道，這兩項國際標準為大模型及生成式 AI 應用方面的安全測試標準，代表著全球人工智慧安全評估和測試進入新的基準。

這兩項標準由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成，其中《大語言模型安全測試方法》由螞蟻集團牽頭編制。

《標準》為測試、驗證生成式 AI 應用（尤其是使用大語言模型構建的應用程式）的安全性提供框架，定義了 AI 應用程式架構每層測試驗證範圍，包括不限於如下方面。

• 基礎模型選擇

• 嵌入和向量資料庫

• RAG 或檢索增強生成

• AI 應用執行時的安全

《方法》則為大模型本身安全性評估提供了“全面、嚴謹且實操性強”的結構性方案，提出了大語言模型的安全風險分類、攻擊的分類分級方法以及測試方法。據報道，《方法》可以解決大語言模型固有的複雜性，全面測試其抵禦敵對攻擊的能力，使開發人員和組織能夠識別和緩解潛在漏洞，並最終提高使用大語言模型構建的人工智慧系統的安全性和可靠性。

IT之家注：WDTA 系國際非政府組織，於日內瓦註冊。該機構遵從聯合國指導框架，致力於在全球範圍內推進數字技術，促進國際合作。AI STR（安全、可信、負責任）計劃是 WDTA 的核心倡議，旨在確保人工智慧系統的安全性、可信性和責任性。

IT之家 4 月 17 日訊息，4 月 15-19 日，第 27 屆聯合國科技大會在瑞士日內瓦召開。其間，世界數字技術院（WDTA）於 4 月 16 日釋出了一系列突破性成果，包括《生成式人工智慧應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。

據中國經濟網報道，這兩項國際標準為大模型及生成式 AI 應用方面的安全測試標準，代表著全球人工智慧安全評估和測試進入新的基準。

這兩項標準由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成，其中《大語言模型安全測試方法》由螞蟻集團牽頭編制。

《標準》為測試、驗證生成式 AI 應用（尤其是使用大語言模型構建的應用程式）的安全性提供框架，定義了 AI 應用程式架構每層測試驗證範圍，包括不限於如下方面。

• 基礎模型選擇

• 嵌入和向量資料庫

• RAG 或檢索增強生成

• AI 應用執行時的安全

《方法》則為大模型本身安全性評估提供了“全面、嚴謹且實操性強”的結構性方案，提出了大語言模型的安全風險分類、攻擊的分類分級方法以及測試方法。據報道，《方法》可以解決大語言模型固有的複雜性，全面測試其抵禦敵對攻擊的能力，使開發人員和組織能夠識別和緩解潛在漏洞，並最終提高使用大語言模型構建的人工智慧系統的安全性和可靠性。

IT之家注：WDTA 系國際非政府組織，於日內瓦註冊。該機構遵從聯合國指導框架，致力於在全球範圍內推進數字技術，促進國際合作。AI STR（安全、可信、負責任）計劃是 WDTA 的核心倡議，旨在確保人工智慧系統的安全性、可信性和責任性。

IT之家 4 月 17 日訊息，4 月 15-19 日，第 27 屆聯合國科技大會在瑞士日內瓦召開。其間，世界數字技術院（WDTA）於 4 月 16 日釋出了一系列突破性成果，包括《生成式人工智慧應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。

據中國經濟網報道，這兩項國際標準為大模型及生成式 AI 應用方面的安全測試標準，代表著全球人工智慧安全評估和測試進入新的基準。

這兩項標準由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成，其中《大語言模型安全測試方法》由螞蟻集團牽頭編制。

《標準》為測試、驗證生成式 AI 應用（尤其是使用大語言模型構建的應用程式）的安全性提供框架，定義了 AI 應用程式架構每層測試驗證範圍，包括不限於如下方面。

• 基礎模型選擇

• 嵌入和向量資料庫

• RAG 或檢索增強生成

• AI 應用執行時的安全

《方法》則為大模型本身安全性評估提供了“全面、嚴謹且實操性強”的結構性方案，提出了大語言模型的安全風險分類、攻擊的分類分級方法以及測試方法。據報道，《方法》可以解決大語言模型固有的複雜性，全面測試其抵禦敵對攻擊的能力，使開發人員和組織能夠識別和緩解潛在漏洞，並最終提高使用大語言模型構建的人工智慧系統的安全性和可靠性。

IT之家注：WDTA 系國際非政府組織，於日內瓦註冊。該機構遵從聯合國指導框架，致力於在全球範圍內推進數字技術，促進國際合作。AI STR（安全、可信、負責任）計劃是 WDTA 的核心倡議，旨在確保人工智慧系統的安全性、可信性和責任性。