英諾合夥人王晟:投資大模型靠“信仰”,現在擠爆的專案,曾無人問津

首頁 > 科技

英諾合夥人王晟:投資大模型靠“信仰”,現在擠爆的專案,曾無人問津

來源:每天一首音樂 釋出時間:2023-07-03 11:41

英諾合夥人王晟:投資大模型靠“信奉”,現在擠爆的專案,曾無人問津

《AI未來指北》欄目由騰訊新聞推出,邀約全球業內專家、創業者、投資人,探討AI領域的技術發展、商業模式、應用場景、及管理挑戰。

文 / 騰訊科技 周小燕

ChatGPT的泛起,像極了2007年iPhone出生避世的時刻:因為基礎設施不夠成熟,人們很難想象未來的應用產品畫像 。但曾經iPhone掀起移動網際網路創業浪潮的經歷,讓如今的投資人和創業者蓄勢待發,時刻為新的“iPhone時刻”的到來做預備。

從2020年GPT-3泛起開始,英諾天使基金合夥人王晟就一直關注生成式預練習模型的機會,在期間做了許多相關的思索和探索,他將新一代AI的投資自下而上分為三個層次:AI Infra、大模型和應用。

AI Infra板塊主要看國產替換的機會,好比無損網路、算力和軟體及生態機會;

大模型板塊包括語言大模型LLM,多模態大模型如影象生成式AI、影片生成式AI等,垂類域好比AI for Science & AI for Industry;

應用端板塊主要分為AI改造舊場景以及AI創造新場景的機會。

他以為,當下算力、模型練習框架層面還存在需要補足的地方,我們正處於完善AI練習和執行(推理)所需的基礎設施的階段,應用端還沒有太好的投資標的。可以一邊搭建基礎設施,一邊等待新的應用機會和商業模式泛起。

在大模型板塊上,王晟以為“AI for Science”的想象空間非常大,在諸如航空航天、軍艦甚至建築和半導體設計方面,AI可能可以替換頂級科學家的計算和求解能力。

核心觀點:

英諾天使基金合夥人 王晟

以下為訪談內容收拾整頓:

騰訊科技:這半年由於AIGC領域的關注度較高,一級市場的投資氛圍也很“卷”,大家都在尋找各種投資機會,投資人群體在這段時間的心態是怎麼樣的?

王晟:絕大部分投資人是比較焦急的,但也不完全是因為大模型,現在整個經濟環境和投融資環境都比較令人焦慮。整個金融市場環境不利於資金活動,而較差的資金流動性不利於專案退出,從而形成一個不好的輪迴:沒有退出就會影響募資,影響募資就會影響投資。

在投資人群體裡面,相比較於人民幣基金,美元基金投資人會更“衝動”一些。在過去,因為政策的原因,新能源或硬科技創業團隊不太敢要美元的錢,但AI對美元VC而言是一個很好的投資視窗,究竟傳統的人民幣基金很難承受AI創業公司的長週期投資要求。

騰訊科技:在這波高潮裡,英諾基金的投資心態是怎樣的?

王晟:我們比較淡定,由於我們在大模型領域已經深耕很長時間了。去年6月份,我們投資了預練習模型技術服務商深言科技,它的主要目標是用NLP技術,尤其是大模型(LLM)技術,全流程服務資訊處理。

假如追溯到更久,實際上在前年(2021年)下半年,我們內部就非常確定,未來是大模型的世界,小模型的機會不多。

當然,關於大模型和小模型誰更有機會,目前依舊存在爭議。在一些對安全性要求比較高的特定場景裡,好比政府、企業等組織確實需要部署一些私有模型,但這並不代表整體市場的發展方向。我以為未來的主流方向在大模型,沒有小模型的世界。大模型像雲服務一樣,它是新一代網際網路業務的基礎設施。

本來我們預估這兩年大模型的投資熱度會緩慢升溫,但Open AI忽然釋出ChatGPT,一下子點燃了這個賽道,忽然湧現出許多大模型團隊,我們剛開始看這個賽道的時候根本不存在這些團隊。

騰訊科技:你們前年就發現大模型是趨勢,小模型沒什麼機會,當時經歷了哪些實驗得出這個結論?

王晟:小模型的核心題目是無法泛化,它太“愚蠢”了,好比今天小模型能認出農夫山泉,明天把農夫山泉瓶子換成藍色的,它可能就不熟悉了。現在鼓吹小模型的無非是2個點:

第一,大模型貴,但這是本錢題目,後續透過工業化、規模化方式可以解決這一點,核心仍是如何滿足使用者需求。

第二,在有的場景裡面,我們可能無法使用大模型,好比對安全性要求比較高,或者功能單一的IoT裝置,如智慧攝像頭、智慧降噪耳機,它對實時性要求太高,大模型跑不進去。從這個角度來看,小模型確實有一定需求,但主流的正規化不會是小模型。

大模型會成為主流,其中語言大模型是人工智慧皇冠上的明珠,究竟人類的知識大部分以語言文字的方式承載,維特根斯坦講人類語言的邊界就是我們思維的邊界。除了語言大模型之外,我們也非常關注其他模態的AI大模型,好比:影象、影片、3D等等。

2020年,Open AI釋出GPT-3,我們初步猜測生成式預練習語言模型是未來的方向;

2021年4月底,Open AI釋出DALL-E模型之後,文生圖的模型更加趨向成熟,整個科研界都覺得這個路子是對的,它建立了CLIP+Diffusion的技術正規化,接下來Stable Diffusion、Midjourney都順著這個技術路徑走,它比過去GAN、VAE“文生圖”模型更輕易泛化,所以從2021年下半年開始,我們非常關注文生圖大模型範式;

2021年實在還湧現出許多其它多模態相關的AI技術,除了文生圖的CLIP+Diffusion,還有谷歌釋出的NeRF,這是一種基於神經場的渲染技術,可以用來天生影片流或者重構成3D Mesh。谷歌也利用NeRF技術重構了舊金山市。

從2021年下半年開始,大模型被我們定義為一個很重要的投資方向,我們順著這個方向尋找專案。但是,我們也碰到了很大的挑戰:真正投入做大模型的好比IDEA研究院、華為、百度,是我們投資不進去的;而市場上又找不到能做大模型的團隊,所以有勁兒沒處使。

騰訊科技:但你們去年就投資了深言科技,當時你們是透過什麼方法找到他們的?

王晟:英諾在清華大學計算機系設立了一個獎學金,2021年豈凡超拿了這項獎學金的第一名,我們也開始關注到他們團隊做的事情,正好符合我們想要的專案的尺度,就投資進去了。

2021年在多模態方向,我們接觸過多個文生圖的團隊,但是我們一直沒有出手投資,主要是沒看清商業化的轉換路徑。在文生圖領域,我們非常關注可控性題目:

首先,模型能不能被很好地控制?包括一些精確的佈局控制,好比我想要天生一張圖,需要中間有一張桌子,旁邊站著一個人,以及許多主體的排布和控制等,模型能不能精準地實現和控制需求非常樞紐;

其次,模型的持續性很重要,它又叫做“概念定義”,好比第一次要求機器畫出鋼鐵俠,第二次仍是要畫鋼鐵俠,機器能不能把“鋼鐵俠”的概念定義出來很樞紐,還有二次創作(Inpainting)的題目,好比第一次畫的不盡如意,還需要基礎上修改一下。

在那段時間,我們看了許多專案,但他們也很難解決這兩個題目。

到2023年2月,這幾個題目都被ControlNet解決了,它的泛起是里程碑式的模組,整個文生圖的可控性被大大提高。

騰訊科技:ControlNet泛起確實大大晉升整個文生圖領域的生產力,但海內的專案怎麼和Midhourney這些進入中國的明星工具競爭?

王晟:對,我們確實又面臨下一個題目:能不能投?怎麼去投?Midjourney的競爭力很強,Stable Diffusion開源又免費。此外,許多創業者可能也沒有勇氣做這個方向了,許多專案無非是拿Stable Diffusion結合某個行業做個工具鏈,很少有人會練習一個通用的文生圖模型。即便有的專案做,他們的估值太高,不適合早期機構投資。

騰訊科技:大模型比較貴,估值也很高,所以也有一些投資人看一些有稀缺資料的垂直模型,你以為這個細分賽道有哪些場景和機會?

王晟:許多人誇大大模型拿到的是通用知識,它沒有私有資料,但我以為這完全不重要。

第一,垂直模型拿到的知識,大模型都能拿到,沒有多少東西是某個個體純碎私有、別人沒有的,無非是大家解決問題的先後順序不同。

第二,大模型擁有了足夠知識後,許多細小的知識都不被需要了,Open AI內部人曾經提過,他們在練習GPT-4的時候,特地留下許多空缺的知識域(Knowledge Domain),但在測驗的時候發現即便是沒有被投餵資料的領域的知識,GPT-4也能知道。人類的知識相關性太強了,GPT-4完全不需要資料投餵也能學會這些知識,所以指望那點稀有資料形成核心競爭力比較難。

騰訊科技垂直模型不值得投入,那麼大模型應該怎麼投?這一輪的大模型蛋糕是不是已經被分完了?假如現在想要入場,AIGC領域還有哪些投資和創業機會?

王晟:任何一個新的工業技術正規化誕生之後,都會存在一個發展週期,好比“iPhone時刻”的到來有許多技術積累,晶片的整合度和算力、觸控式螢幕、4G/5G通訊等。

iPhone第一天泛起的時候,使用者也很難理解它到底能做多少事,所以2007年iPhone泛起,但2011年微信才泛起,2012年才有了滴滴,2015年才有了拼多多,2016年才泛起抖音。從2007年到2016年,中間整整隔了10年。

現在“AI時刻”也要到來了,它代表了一種新的技術正規化,但它在初期階段能做的事情並不多。消費者的使用門檻高、基礎設施不夠完善、使用者對它的理解也差許多。可能技術正規化的立異會讓AI Infra先起步,好比晶片的本錢變得更低、開發工具更完善、終端保有量足夠多的時候,AI會迸發出更多的機會點。

在AI發展的第一個階段,因為大家的想象力還很有限,能做的事情可能是把舊的行業全移植一遍。

騰訊科技但光依賴“移植”或“遷移”,現有移動網際網路的各細分行業的格式很難被改變。

王晟:在移動網際網路的立異湧現之前,各行業也都是原先業務的“大傢伙”做一個遷移、換個流量進口而已。在AI時代也是,先是底層的Infra完善、工具鏈完善、開發環境完善,然後湧現創業者,再做業務移植。

實在,假如只依賴移植,這個時代不會產生什麼真正的投資或創業機會,只有等“移植”階段過去,才會真正進入到模式立異的時代,它創造了新的使用者需求,但這是我們還看不到的東西,還需要時間、需要未來的創業者去創造。

當這個週期過去,就會進入到“內卷”階段,就像移動網際網路發展到2017年就已經進入尾聲了,它很難產生真正的立異,也不會有新的商業模式泛起了,大家都去卷內容,好比卷短影片、卷直播、卷帶貨。

我們現在處於AI Infra時代,處於傳統業務逐漸遷移到AI的過程中,在這個時代可能沒有太好的投資標的,這3年我們會繼承投資基礎設施。當然,基礎設施投資是一個長期的過程,但最重要的視窗是在當下這個時代,後面的投資視窗可能會遷移到好比商業模式立異的板塊了。

騰訊科技:除了AI Infra,在模型層以及應用層你們打算怎麼佈局?

王晟:在AI Infra板塊,硬體上我們投無損網路、高速度光通訊,包括存算一體、Chiplet等,我們也投資了光晶片和量子方向。近期,我們剛投資了一家AI Chiplet供應商“原粒半導體”,它可以透過進步能效、降低成本的方式為多模態大模型提供算力支援。

再更上一層,我們也在關注 MLOps、AI開發框架、AI編譯器等方向。

再往上的大模型層面,我們除了會看語言大模型,也看多模態的大模型和垂類知識域的機會:

語言大模型板塊我們投資了深言科技;

在多模態板塊,我們投資了3D掃描重建技術企業KIRI Innovation(麒礪立異),目前他們在做3D的人工智慧的生成式模型,直接text to 3D;我們還投資了做虛擬人動作行為的大模型中科深智,屬於text to motion,它是端到端生成式AI虛擬人技術的公司,能有效改進遊戲角色過於依靠動作庫和表情庫的現狀,依靠“庫”的模式會導致角色表現力欠缺變化、顯得僵化的題目。

CV領域過去有非常多的小模型公司,4月份我們看到Meta的SAM模型展現出非常強的泛化能力,我們也在觀察真正的CV大模型的投資機會。

影象、影片天生領域,因為SD開源、MJ和Runway都非常強盛,我們看到的情況是海內大量的創業者在基於SD做應用,而不是自研模型和這幾家硬剛。我們非常期待海內泛起有勇氣、有實力的創業團隊。

大模型的另外一個投資方向是AI for Science,這是一個比較早期且富有爭議的領域,創業和投資的認知門檻非常高。

上一篇:美團打車抽身... 下一篇:自駕遊買什麼...
猜你喜歡
熱門閱讀
同類推薦