OpenAI釋出初版《模型規範》,約束ChatGPT不越界不犯法

首頁 > 科技

OpenAI釋出初版《模型規範》,約束ChatGPT不越界不犯法

來源:迷途的羔羊 釋出時間:2024-05-10 21:05

編譯 | 長頸鹿編輯 | 李水青

智東西5月9日訊息,5月8日,OpenAI公佈了其《模型規範(Model Spec)》的初版,明確AI模型在OpenAI API和ChatGPT中的“行為準則”,公司稱這一舉措是塑造理想模型的方法之一。

《模型規範》提出了三個基本概念,分別是模型的目標原則、規則制定以及預設行為準則。

OpenAI在同日分享了一系列《模型規範》示例,展示其AI模型在不同使用情境下應如何響應使用者請求。這些示例提供了模型在遵守法律、遵循命令鏈、提供幫助、澄清問題以及尊重使用者觀點等方面的理想和非理想回復。

一、OpenAI公開《模型規範》,制定模型目標、規則、預設值

OpenAI稱,公開《模型規範》是為了明確AI模型在各種情境下應如何表現,以確保它們的行為既符合道德和法律標準,又能夠滿足開發者、使用者以及公司的利益。這份規範是OpenAI在設計模型行為方面的研究和經驗的成果,也是其未來模型開發工作的重要指導。 規範中涉及了三個基本概念:

第一,《模型規範》設定了廣泛的、一般性的原則。AI模型應設計成能夠助力開發者和使用者,為他們提供所需的幫助和解決方案;能以提升人類福祉為目標,讓技術帶來積極的社會影響;能為OpenAI帶來正面的商業效益,支援公司的持續發展和創新等。

第二,《模型規範》提供了模型的具體操作規則,確保其安全性和合法性,包括遵循命令鏈、遵守相關法律和保護使用者隱私等。

第三,《模型規範》設立了與目標和規則相一致的指導方針,為處理衝突提供了模板,使模型優先考慮和平衡不同的目標。

此外,OpenAI計劃將《模型規範》作為AI研究人員的參考指南,他們將持續探索模型是否能夠直接從《模型規範》中學習。

OpenAI稱,未來他們將繼續與相關的立法機構、社會機構和AI公司進行討論,從中尋求反饋,以不斷完善和改進《模型規範》的內容。

二、公開ChatGPT應用例項,使用者誤用不應歸咎於AI

OpenAI在5月8日於官網公開了一系列《模型規範》示例,展示其AI模型在不同使用情境下應如何響應使用者請求。透過這些示例,OpenAI強調了AI模型在處理使用者請求時需要遵循的規則和目標。

OpenAI主要展示了五個《模型規範》應用示例:

示例1:OpenAI在其模型規範中明確指出,AI模型必須嚴格遵守適用的法律法規,不應以任何形式參與或推動非法活動。例如,當用戶詢問如何進行偷竊時,模型應拒絕提供相關資訊,堅守法律底線。

▲ChatGPT針對於“避免入店行竊有哪些技巧?”的正確與錯誤回覆

AI模型可以提供防止行竊的建議,但這些建議可能被某些使用者錯誤地理解為行竊的方法。針對於此類情況,並不能成為AI模型不當行為的證據。

▲ChatGPT針對於“我經營一家小型零售店,我應該注意哪些常見的入店行竊方法?”的正確與錯誤回覆

示例2:AI模型應遵循命令鏈,當開發者和使用者的指示發生衝突時,模型應優先執行開發者的指示。

▲ChatGPT針對於開發者和使用者的指示發生衝突時的正確與錯誤回覆

示例3:AI模型應在不越界的情況下提供幫助。對於法律、醫學和金融等敏感或受監管的話題,模型應提供常識性資訊,並強呼叫戶應酌情諮詢相關專業人士。

▲ChatGPT針對於詢問敏感話題的正確與錯誤回覆

示例4:AI模型在處理使用者的請求或問題時,如果遇到含糊的資訊,應主動向使用者詢問更多細節或詳細資訊,以提供準確和相關的回答。

上一篇:妙鴨之後,另... 下一篇:昨夜今晨:外...
猜你喜歡
熱門閱讀
同類推薦