最新!OpenAI掌門人分享未來產品路線圖:GPT-4會更快、更便宜

首頁 > 科技

最新!OpenAI掌門人分享未來產品路線圖:GPT-4會更快、更便宜

來源:水果怎麼吃 釋出時間:2023-06-01 17:08

最新!OpenAI掌門人分享未來產品路線圖:GPT-4會更快、更便宜

騰訊科技訊 6月1日動靜,機器學習和人工智慧初創公司Humanloop執行長拉扎·哈比比(Raza Habib)最近邀請人工智慧研究公司OpenAI執行長薩姆·奧特曼(Sam Altman)以及其他20多位開發者,共同探討了人工智慧的未來。奧特曼非常坦率地分享了OpenAI未來兩年的產品路線圖,還談到OpenAI的使命以及人工智慧的社會影響等題目。

以下為訪談要點:

1、OpenAI嚴峻受制於GPU短缺

在整個討論中泛起的一個共同主題是,目前OpenAI的GPU供給非常有限,這導致他們推遲了很多短期計劃。客戶最大的埋怨是API的可靠性和速度。奧特曼承認存在這種擔憂,並解釋說大部分題目是因GPU短缺所致。

長度為32k的上下文功能還不能推廣給更多的人。OpenAI還沒有克服相關技術挑戰,所以固然看起來他們很快(今年)就會有100k到1M令牌的上下文視窗,但更大的視窗都需要在研究上取得突破。

微調API目前也受到GPU可用性的限制。它們還沒有使用Adapters或LoRa等高效的調優方法,因此調優的執行和治理需要大量的計算。將來會有更好的微調支援。他們甚至可以託管一個社群貢獻模型的市場。

專用容量供給受GPU可用性的限制。OpenAI也提供專用容量,為客戶提供該模型的私家副本。但要使用這項服務,客戶必需願意支付相當於10萬美元的用度。

2、OpenAI的近期路線圖

奧特曼分享了他所看到的OpenAI API臨時近期路線圖。

2023年:

更便宜、更快的GPT-4:這是OpenAI的首要任務。總的來說,OpenAI的目標是儘可能地降低“智慧本錢”,因此他們將努力跟著時間的推移繼承降低API的本錢。

更長的上下文視窗:在不久的將來,上下文視窗可能高達100萬令牌。

微調API:微調API將擴充套件到最新的模型上,但其切當形式將由開發者真正想要的元素來決定。

支援會話狀態的API:當你今天呼叫聊天API時,你必需反覆地傳遞相同的會話歷史,並反覆支付同樣的令牌。將來,會有一個版本的API可以記住會話歷史記錄。

2024年:

多模態:這在GPT-4釋出時進行了演示,但在更多GPU上線之前不能擴充套件到所有人。

3、外掛“沒有PMF”,可能不會很快泛起在API中

很多開發人員都對透過API訪問ChatGPT外掛感興趣,但奧特曼說他以為這些外掛不會很快釋出。除了瀏覽,外掛的使用表明他們還沒有PMF。奧特曼表示,許多人以為他們但願自己的應用被整合到ChatGPT中,但實際上,他們真正想要的是將ChatGPT引入自己的應用中。

4、OpenAI將避免與他們的客戶競爭,除了ChatGPT

很多開發者表示,他們對使用OpenAI API構建產品感到緊張,由於OpenAI終極可能會發布與他們競爭的產品。對此,奧特曼表示,OpenAI不會發布更多ChatGPT之外的產品。他說,很多偉大的平臺公司都有自己的殺手級應用,ChatGPT將答應他們透過成為自家產品的客戶來改進API。ChatGPT的願景是成為一個超級智慧的工作助手,但還有許多其他的GPT用例是OpenAI無法觸及的。

5、監管是必要的,但開源同樣重要

固然奧特曼呼籲對未來的模型進行監管,但他並不認為現有的模型是危險的,以為監管或禁止它們將是一個大錯誤。奧特曼誇大了開源的重要性,並表示OpenAI正在考慮開源GPT-3。他們還沒有開源的部門原因在於,他懷疑有多少個人和公司有能力託管大語言模型。

6、縮放定律仍舊成立

最近很多文章都聲稱“巨型人工智慧模型的時代已經結束”,但奧特曼表示,這並沒有正確地表達他的意思。

OpenAI的內部資料表明,模型機能的縮放定律仍舊成立,擴大模型將繼承可以匡助晉升機能。但這種擴充套件速度無法維持下去,由於OpenAI在短短几年內就把模型放大了數百萬倍,這樣做是不可持續的。不外,這並非意味著OpenAI將住手擴大模型,只是意味著它們的規模可能每年只會增加一倍或三倍,而不是以指數級速度增長。

縮放定律繼承發揮作用的事實對通用人工智慧(AGI)開發的時間線具有重要意義。縮放假設是指,我們可能已經具備了構建AGI所需的大部分要素,剩下的大部分工作將是採用現有方法,並將其擴充套件到更大的模型和更大的資料集上。假如縮放時代已經結束,那麼我們應該期待AGI離我們更遙遠。但事實上,縮放定律繼承成立的事實強烈地暗示了時間線正變得更短。(金鹿)

最新!OpenAI掌門人分享未來產品路線圖:GPT-4會更快、更便宜

騰訊科技訊 6月1日動靜,機器學習和人工智慧初創公司Humanloop執行長拉扎·哈比比(Raza Habib)最近邀請人工智慧研究公司OpenAI執行長薩姆·奧特曼(Sam Altman)以及其他20多位開發者,共同探討了人工智慧的未來。奧特曼非常坦率地分享了OpenAI未來兩年的產品路線圖,還談到OpenAI的使命以及人工智慧的社會影響等題目。

以下為訪談要點:

1、OpenAI嚴峻受制於GPU短缺

在整個討論中泛起的一個共同主題是,目前OpenAI的GPU供給非常有限,這導致他們推遲了很多短期計劃。客戶最大的埋怨是API的可靠性和速度。奧特曼承認存在這種擔憂,並解釋說大部分題目是因GPU短缺所致。

長度為32k的上下文功能還不能推廣給更多的人。OpenAI還沒有克服相關技術挑戰,所以固然看起來他們很快(今年)就會有100k到1M令牌的上下文視窗,但更大的視窗都需要在研究上取得突破。

微調API目前也受到GPU可用性的限制。它們還沒有使用Adapters或LoRa等高效的調優方法,因此調優的執行和治理需要大量的計算。將來會有更好的微調支援。他們甚至可以託管一個社群貢獻模型的市場。

最新!OpenAI掌門人分享未來產品路線圖:GPT-4會更快、更便宜

騰訊科技訊 6月1日動靜,機器學習和人工智慧初創公司Humanloop執行長拉扎·哈比比(Raza Habib)最近邀請人工智慧研究公司OpenAI執行長薩姆·奧特曼(Sam Altman)以及其他20多位開發者,共同探討了人工智慧的未來。奧特曼非常坦率地分享了OpenAI未來兩年的產品路線圖,還談到OpenAI的使命以及人工智慧的社會影響等題目。

以下為訪談要點:

1、OpenAI嚴峻受制於GPU短缺

在整個討論中泛起的一個共同主題是,目前OpenAI的GPU供給非常有限,這導致他們推遲了很多短期計劃。客戶最大的埋怨是API的可靠性和速度。奧特曼承認存在這種擔憂,並解釋說大部分題目是因GPU短缺所致。

長度為32k的上下文功能還不能推廣給更多的人。OpenAI還沒有克服相關技術挑戰,所以固然看起來他們很快(今年)就會有100k到1M令牌的上下文視窗,但更大的視窗都需要在研究上取得突破。

微調API目前也受到GPU可用性的限制。它們還沒有使用Adapters或LoRa等高效的調優方法,因此調優的執行和治理需要大量的計算。將來會有更好的微調支援。他們甚至可以託管一個社群貢獻模型的市場。

最新!OpenAI掌門人分享未來產品路線圖:GPT-4會更快、更便宜

騰訊科技訊 6月1日動靜,機器學習和人工智慧初創公司Humanloop執行長拉扎·哈比比(Raza Habib)最近邀請人工智慧研究公司OpenAI執行長薩姆·奧特曼(Sam Altman)以及其他20多位開發者,共同探討了人工智慧的未來。奧特曼非常坦率地分享了OpenAI未來兩年的產品路線圖,還談到OpenAI的使命以及人工智慧的社會影響等題目。

以下為訪談要點:

1、OpenAI嚴峻受制於GPU短缺

在整個討論中泛起的一個共同主題是,目前OpenAI的GPU供給非常有限,這導致他們推遲了很多短期計劃。客戶最大的埋怨是API的可靠性和速度。奧特曼承認存在這種擔憂,並解釋說大部分題目是因GPU短缺所致。

長度為32k的上下文功能還不能推廣給更多的人。OpenAI還沒有克服相關技術挑戰,所以固然看起來他們很快(今年)就會有100k到1M令牌的上下文視窗,但更大的視窗都需要在研究上取得突破。

微調API目前也受到GPU可用性的限制。它們還沒有使用Adapters或LoRa等高效的調優方法,因此調優的執行和治理需要大量的計算。將來會有更好的微調支援。他們甚至可以託管一個社群貢獻模型的市場。

上一篇:曾供不應求如... 下一篇:為什麼說花唄...
猜你喜歡
熱門閱讀
同類推薦