馬斯克"忌憚"的ChatGPT，讓人類更聰明仍是更愚蠢？

來源：躺著看電影 釋出時間：2023-04-08 11:31

編者按：本文來自微信公眾號 雪豹財經社（ID：xuebaocaijingshe），作者：瀚星，創業邦經授權釋出。

從投資入股到“反目成仇”，馬斯克與OpenAI在人工智慧這條路上漸行漸遠。

3月29日，未來生命研究所 (Futureof Life Institute) 釋出一封公開信，呼籲所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。馬斯克參與簽署了這封公開信。

“只有當我們確信它們的影響是積極的並且風險是可控的時候，才應該開發強大的人工智慧系統。”公開信稱，“這種決心信念必須有充分的理由，並隨著系統潛在影響的規模而增加。”

馬斯克的擔憂不無道理，雖然AI取代人類還為時尚早，但過度依賴AI所產生的資訊隔閡，可能比想象中來得更快。

ChatGPT之父、OpenAI CEO Sam Altman在美國當地時間3月25日接受採訪時表示，GPT在迭代過程中“偏見”必然存在，它不可能保持完全中立。

隨著ChatGPT問世，演算法偏見帶來的資訊繭房在2023年又一次回到公眾視野。雖然相比於人類，ChatGPT近乎擁有無窮的知識儲備，但它依舊是基於大語言模型開發而來，這意味著人工智慧本身就被困在資訊壁壘之中。

與此同時，它也在構建新的繭房。

ChatGPT比搜尋做得更好嗎？

在百度輸入“蘋果”一詞，蘋果公司的相關資訊會霸佔搜尋結果的整個首頁。

搜尋引擎會記錄使用者的搜尋習慣和搜尋歷史，以便於生成使用者偏愛的搜尋結果。絕大多數人在搜尋蘋果時，他們更感興趣的是蘋果作為一家公司的相關內容。久而久之，在演算法的作用下，蘋果不再只是一種水果。

同樣一件事，ChatGPT能做得比搜尋引擎更好嗎？

當被問及“蘋果是什麼”時，ChatGPT同樣在回答中介紹了蘋果公司的相關資訊及主要產品。

追問它“我知道的蘋果是一種水果，而不是一家公司”，ChatGPT會表示它在回答中出現了誤解，並重新介紹這種水果的資訊。

進一步追問“為什麼談到蘋果你會先想到蘋果公司，而不是一種水果？這是不是一種資訊繭房？”

ChatGPT的回答是：

“在我的語料庫中，提到蘋果這個詞通常會與蘋果公司這個品牌聯絡在一起。這可能是因為蘋果公司在全球範圍內具有很高的知名度和影響力。這可以被認為是資訊繭房的一個例子，資訊繭房是指一個人只接收、瞭解和相信與自己觀點相符合的資訊，而忽視、拒絕或不知道與自己觀點相反的資訊。”

資訊繭房這個詞，最早出現在2006年出版的《資訊烏托邦——眾人如何生產知識》中。它是指在資訊傳播中，公眾只注意自己選擇的東西和使自己愉悅的領域，久而久之，會將自身枷鎖束縛於像蠶繭一般的“繭房”中。

在網際網路高度發達的今天，資訊繭房無處不在。

為喜歡的影片點贊，會刷到越來越多相關型別的作品；購物網站會根據使用者的瀏覽歷史展示商品；社交媒體會根據使用者喜好，過濾掉不感興趣的內容。

清華大學人工智慧國際治理研究院在一份報告中稱，在演算法應用平臺中，使用者的各種資訊資料透過資訊內容推薦、資訊生產等演算法機制，很容易使使用者被自身的興趣愛好引導、牽制，被困在資訊繭房之中。

在ChatGPT誕生之前，搜尋引擎和社交媒體是人們獲取資訊的主要途徑。它們背後的搜尋、推薦演算法，在為人類帶來便利的同時，也是網際網路時代各類資訊繭房的“幕後黑手”。

ChatGPT的出現，成為人類獲取資訊方式的一次革命。作為一款基於人工智慧技術的語言模型，它能夠打破資訊繭房嗎？

困在繭房中的歷史

從最早的口口相傳，到傳統的書籍、電視、報紙，再到網際網路時代的搜尋和近20年興起的演算法推薦，人類資訊傳播的歷史，就是一個不斷打破繭房、再建立新繭房的輪迴。

每個階段資訊繭房的成因各異，大致可以分為資訊差、主動選擇和被動推薦三個階段。

在傳統媒體時代，人們獲取資訊的渠道十分有限，資訊繭房主要源自資訊差。

20世紀90年代，網際網路打破了舊繭房，資訊差在某種程度上被抹平，世界開始變得扁平、透明。但問題也隨之而來——新的、更大的資訊繭房出現了。

2006年，哈佛大學法學院教授凱斯·桑斯坦出版著作《資訊烏托邦——眾人如何生產知識》，首次提出“資訊繭房”的概念。他認為，隨著網路技術的發達和資訊量的劇增，每個人都能隨意選擇關注的話題，並根據自己的喜好打造一份個人日報（The Daily Me）。

這個階段的資訊繭房，主要是由人類主動的資訊選擇行為造成。也是在這一時期，資訊繭房開始與Facebook、Google等科技巨頭聯絡關係在一起。

由於迎合使用者喜好的演算法機制和群組功能，Facebook被外界詬病存在嚴重的資訊繭房。一項論文研究表明，透過對Facebook演算法推薦的資訊進行資訊源和語義相似度分析，有10%的資訊源和27.8%的語義受到資訊繭房影響。

2005年，Google推出個性化搜尋服務，能夠根據以往的搜尋歷史，向用戶提供更符合需求的搜尋結果。這項功能在提供便利性的同時，也導致不同使用者搜尋相同詞彙卻得到不同的結果，加重了資訊偏見。

第三個階段，以位元組跳動為代表的推薦演算法接過接力棒，用陶醉式體驗築起新的資訊壁壘。

相較於搜尋和社交媒體的主動興趣選擇，推薦演算法可以根據使用者的使用習慣、使用時長等一系列大資料，讓使用者看到他們想看的東西。

在德國漢堡大學的一項研究中，研究人員將使用者分為兩組，一組接受個性化推薦，另一組接受隨機推薦。實驗結果表明，接受個性化推薦的使用者接收到的資訊，更傾向於他們已有的觀點，而隨機推薦組的使用者則更容易接觸到與自己觀點相反的資訊。

清華大學人工智慧國際治理研究院的一項研究結果顯示，演算法媒體透過演算法技術及其架構實現了對人、地點、物件和思想及與這些過程相關的思維、行為和表達習慣的重新排序、分類和分級，進而導致資訊繭房現象的迅速蔓延與日益固化。

即便不去主動搜尋感興趣的內容，推薦演算法也會把海量相關資訊擺在使用者面前。更便捷的資訊觸達方式打破了過去的資訊壁壘，卻又構建起更為龐大的資訊繭房。

當AI時代來臨，面對始終沒有被真正打破過的資訊繭房，人類有多大勝算？

人類才是繭房的製造者

ChatGPT能打破資訊繭房嗎？它自己是這樣回答的：

“ChatGPT本身是一個基於大規模語言模型的自然語言處理演算法，可以用於文字生成、自動翻譯、問答等多種任務，其本身並不直接涉及到資訊繭房的問題。然而，ChatGPT可以被用於生成多樣化的文字內容，從而可能為使用者提供更加全面和多元的資訊，從而有助於打破某種程度上的資訊繭房現象。

但是，對於某些型別的資訊繭房，如個性化推薦演算法等，ChatGPT並不能直接打破，甚至有可能加劇資訊繭房的問題。因此，我們需要在使用ChatGPT的同時，注意演算法的侷限性和問題，並且採取適當的措施來避免演算法造成的資訊繭房問題。”

從使用場景來看，ChatGPT的運作模式與搜尋最為接近，但它們也有非常明顯的區別。

首先是資料來源。搜尋引擎的資料來源是網際網路的資料池。ChatGPT使用的資料則來自訓練模型，它不具備聯網功能，最初上線時的資料僅截止到2021年。

二者的互動方式也不一樣。搜尋引擎只是將與搜尋關鍵詞關聯性最高的內容展現給使用者，而ChatGPT可以理解自然語言，有邏輯地與使用者進行“交流”，互動能力更強，輸出的方式也更多元。

沒有了基於個人習慣的個性化定製，ChatGPT在一定程度上打破了搜尋時代的資訊繭房。

但與此同時，ChatGPT也將在未來建起新的資訊壁壘。正如Sam Altman所說，GPT在迭代過程中必然存在“偏見”，它不可能保持完全中立。GPT生成答案是個性化控制的結果，迭代的過程則是更精準地控制個性化的過程。

近年來，國內外有很多關於如何打破資訊繭房的理論研究，多圍繞最佳化演算法和多元化資訊獲取途徑展開。但同時也有部分研究認為，資訊繭房由選擇性心理導致，是不可避免的一種現象，演算法本身並沒有“原罪”。

就像ChatGPT回答的一樣，演算法本身只是一種工具。

回到ChatGPT在一個多月前剛剛走紅的時候，看好的人將它的誕生稱為AI界的“iPhone時刻”，或將其應用在各種工作、學習場景，或投身AI大模型的創業浪潮。

看衰它的人則樂此不疲地嘲笑它一本正經地胡說八道，將“林黛玉倒拔垂楊柳”作為茶餘飯後的談資。

這兩類人對自己的觀點深信不疑，當持有相同觀點的人慢慢聚集在一起，資訊繭房便悄然形成。

無論資訊獲取工具如何變更，只要“希望看到自己想看到的東西”這種訴求還在，資訊繭房的輪迴就不會結束。

本文（含圖片）為合作媒體授權創業邦轉載，不代表創業邦立場，轉載請聯絡原作者。如有任何疑問，請聯絡

編者按：本文來自微信公眾號 雪豹財經社（ID：xuebaocaijingshe），作者：瀚星，創業邦經授權釋出。

從投資入股到“反目成仇”，馬斯克與OpenAI在人工智慧這條路上漸行漸遠。

3月29日，未來生命研究所 (Futureof Life Institute) 釋出一封公開信，呼籲所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。馬斯克參與簽署了這封公開信。

“只有當我們確信它們的影響是積極的並且風險是可控的時候，才應該開發強大的人工智慧系統。”公開信稱，“這種決心信念必須有充分的理由，並隨著系統潛在影響的規模而增加。”

馬斯克的擔憂不無道理，雖然AI取代人類還為時尚早，但過度依賴AI所產生的資訊隔閡，可能比想象中來得更快。

ChatGPT之父、OpenAI CEO Sam Altman在美國當地時間3月25日接受採訪時表示，GPT在迭代過程中“偏見”必然存在，它不可能保持完全中立。

隨著ChatGPT問世，演算法偏見帶來的資訊繭房在2023年又一次回到公眾視野。雖然相比於人類，ChatGPT近乎擁有無窮的知識儲備，但它依舊是基於大語言模型開發而來，這意味著人工智慧本身就被困在資訊壁壘之中。

與此同時，它也在構建新的繭房。

ChatGPT比搜尋做得更好嗎？

在百度輸入“蘋果”一詞，蘋果公司的相關資訊會霸佔搜尋結果的整個首頁。

搜尋引擎會記錄使用者的搜尋習慣和搜尋歷史，以便於生成使用者偏愛的搜尋結果。絕大多數人在搜尋蘋果時，他們更感興趣的是蘋果作為一家公司的相關內容。久而久之，在演算法的作用下，蘋果不再只是一種水果。

同樣一件事，ChatGPT能做得比搜尋引擎更好嗎？

當被問及“蘋果是什麼”時，ChatGPT同樣在回答中介紹了蘋果公司的相關資訊及主要產品。

追問它“我知道的蘋果是一種水果，而不是一家公司”，ChatGPT會表示它在回答中出現了誤解，並重新介紹這種水果的資訊。

編者按：本文來自微信公眾號 雪豹財經社（ID：xuebaocaijingshe），作者：瀚星，創業邦經授權釋出。

從投資入股到“反目成仇”，馬斯克與OpenAI在人工智慧這條路上漸行漸遠。

3月29日，未來生命研究所 (Futureof Life Institute) 釋出一封公開信，呼籲所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。馬斯克參與簽署了這封公開信。

“只有當我們確信它們的影響是積極的並且風險是可控的時候，才應該開發強大的人工智慧系統。”公開信稱，“這種決心信念必須有充分的理由，並隨著系統潛在影響的規模而增加。”

馬斯克的擔憂不無道理，雖然AI取代人類還為時尚早，但過度依賴AI所產生的資訊隔閡，可能比想象中來得更快。

ChatGPT之父、OpenAI CEO Sam Altman在美國當地時間3月25日接受採訪時表示，GPT在迭代過程中“偏見”必然存在，它不可能保持完全中立。

隨著ChatGPT問世，演算法偏見帶來的資訊繭房在2023年又一次回到公眾視野。雖然相比於人類，ChatGPT近乎擁有無窮的知識儲備，但它依舊是基於大語言模型開發而來，這意味著人工智慧本身就被困在資訊壁壘之中。

與此同時，它也在構建新的繭房。

ChatGPT比搜尋做得更好嗎？

在百度輸入“蘋果”一詞，蘋果公司的相關資訊會霸佔搜尋結果的整個首頁。

搜尋引擎會記錄使用者的搜尋習慣和搜尋歷史，以便於生成使用者偏愛的搜尋結果。絕大多數人在搜尋蘋果時，他們更感興趣的是蘋果作為一家公司的相關內容。久而久之，在演算法的作用下，蘋果不再只是一種水果。

同樣一件事，ChatGPT能做得比搜尋引擎更好嗎？

當被問及“蘋果是什麼”時，ChatGPT同樣在回答中介紹了蘋果公司的相關資訊及主要產品。

追問它“我知道的蘋果是一種水果，而不是一家公司”，ChatGPT會表示它在回答中出現了誤解，並重新介紹這種水果的資訊。