來源：天氣早知道 釋出時間：2023-05-17 17:22

夢晨 發自 凹非寺

量子位 | 公眾號 QbitAI

Sam Altman，作為OpenAI的CEO你賺了很多錢吧？

我沒有OpenAI的股權，我的薪酬剛剛夠健康保險……我做這個是出於熱愛。

就在昨晚，這段對話發生在美國華盛頓一場聽證會。

Sam Altman與IBM副總裁Christina Montgomery、紐約大學名譽教授Gary Marcus一同出席作證。

討論的核心問題在於，ChatGPT與其他AI技術的風險。

與過去的其他科技公司高管不同，Altman表示非常歡迎對AI進行監管。

如果這項技術出了問題，那就可能會是大題目……我們希望與政府合作，防止這種情況發生。

議員們的態度也與過去大不相同，減少了批評和刁難，像是真的在徵求三位證人的意見。

AI如何監管？OpenAI提出三點方案

聽證會開始，參議員Richard Blumenthal作開場白，闡述了AI造成虛假資訊擴散、社會不同等加劇等潛在風險。

但坐在主席臺的Blumenthal，嘴卻一直緊閉。

這是一段錄音，文字由ChatGPT生成，聲音由AI軟體合成，聽起來與本人幾乎一致。

有圍觀網友表示：議員們這次居然認真準備了，這很難得。

錄音結束後，真正的Blumenthal補充道，雖然ChatGPT這次表達地和他本人觀點一致，但同樣的技術也可以輕鬆合成虛假訊息，“那將非常可怕”。

Altman在證詞中也表示，AI可能被用於操縱輿論也是他最擔心的問題之一，特別是明年將舉行大選。

當Photoshop剛出現時，有一段時間人們真的會被P圖騙到。

然後很快人們就會有“圖可能是被P過的”這個意識，AI將帶來相似的情況。

在場的其他參議員還指出，由少數科技公司主導是人工智慧市場的另一大風險，OpenIAI與微軟合作便是一例。

對於像OpenAI這樣的AI公司應如何被監管，Altman準備了三條方案：

• 成立一個新的部門，負責為AI大模型頒發許可，並擁有撤銷許可的權力。
• 為AI模型建立一套安全標準，對危險性做評估，包括它們是否能夠“自我複製”、“逃出實驗室自己行動”。
• 要求獨立專家對模型的各種指標做獨立審計。

華盛頓郵報認為，方案中明顯缺少對訓練資料的披露，而這也是一同出席的Marcus一直呼籲的。

對於OpenAI是否會進入廣告業務，Altman表示不排除這種可能性。

我不能說永遠不會……但我真的喜歡訂閱模式。

有議員擔心基於廣告的商業模式會讓AI重蹈社交媒體的覆轍，發展出操縱使用者的產品和令人上癮的演算法。

如果不採取比對社交媒體更快、更有效的行動，AI可能會對社會經濟和文化造成更大傷害。

一同作證的IBM副總裁Montgomery認為，AI發展不能像Facebook的口號那樣“迅速行動、打破常規（move fast and break things）”，但也不必對立異猛踩剎車。

Altman與Montgomery都反對暫停人工智慧開發。

對於AI造成的失業問題，兩人觀點也一致，認為AI會減少一些工作崗位，但也會創造新的。

Marcus則一如既往對“OpenAI聲稱為了造福全人類，但與微軟形成商業聯盟”、“AI生成虛假資訊”、“ChatGPT的訓練資料不透明”等問題做出批評。

他形容AI為“像一隻在瓷器店的公牛一樣，強大、魯莽且難以控制”。

Marcus提議成立一個像歐洲核子研究中心CERN一樣的國際合作組織，專門研究AI安全問題。

AI完成任務，而不是整個工作

這不是Altman第一次因AI問題來到華盛頓。

本月初他與其他科技公司CEO參加了白宮關於AI發展的一場討論，本週一他還與60名議員共進晚餐並展示了ChatGPT的各種用法。

據在場的眾議員Ro Khanna透露，Altman在晚宴上強調“AI是一種工具，而不是一種生物”，“能幫人完成具體任務，而不是整個工作”。

這次公開聽證會結束後，Altman繼續與議會AI核心小組舉行閉門會議。

美國司法委員會智慧財產權部門也表示計劃在未來兩個月內舉行多場聽證會，討論AI對版權和專利法帶來的影響。

完整影片回放：

https://www.youtube.com/watch?v=TO0J2Yw7usM

參考連結：

[1]https://www.washingtonpost.com/technology/2023/05/16/ai-congressional-hearing-chatgpt-sam-altman/

[2]https://www.bizjournals.com/sanjose/news/2023/05/16/mr-altman-goes-to-washington.html?chann=&eid=

— 完 —

量子位 QbitAI · 頭條號簽約

夢晨 發自 凹非寺

量子位 | 公眾號 QbitAI

Sam Altman，作為OpenAI的CEO你賺了很多錢吧？

我沒有OpenAI的股權，我的薪酬剛剛夠健康保險……我做這個是出於熱愛。

就在昨晚，這段對話發生在美國華盛頓一場聽證會。

Sam Altman與IBM副總裁Christina Montgomery、紐約大學名譽教授Gary Marcus一同出席作證。

討論的核心問題在於，ChatGPT與其他AI技術的風險。

與過去的其他科技公司高管不同，Altman表示非常歡迎對AI進行監管。

如果這項技術出了問題，那就可能會是大題目……我們希望與政府合作，防止這種情況發生。

議員們的態度也與過去大不相同，減少了批評和刁難，像是真的在徵求三位證人的意見。

AI如何監管？OpenAI提出三點方案

聽證會開始，參議員Richard Blumenthal作開場白，闡述了AI造成虛假資訊擴散、社會不同等加劇等潛在風險。

但坐在主席臺的Blumenthal，嘴卻一直緊閉。

這是一段錄音，文字由ChatGPT生成，聲音由AI軟體合成，聽起來與本人幾乎一致。