在人工智慧競賽中，微軟和谷歌都選擇了速度而不是謹慎

來源：每天一首音樂 釋出時間：2023-04-08 14:21

谷歌和微軟沒有鋪張任何時間修改其長期戰略，當即將AIGC納入其所有辦公和搜尋產品中。它們相信，這些變化將增強使用者友好性，提高效率，並增強其在市場上的競爭地位。微軟率先採取行動，於2月份釋出了嵌入必應搜尋引擎中的人工智慧聊天機器人。大約六週後，谷歌也推出了Bard。

對於通常不願承擔太大風險的谷歌和微軟來說，最近之所以接連採取激進舉措，是因為它們都但願能控制可能成為“科技行業下一件大事”的生成式人工智慧（AIGC）。

在上個月發出的一封內部電子郵件中，微軟技術高管山姆·席勒斯明確了開發新人工智慧的緊迫性。他在郵件中寫道：“此時此刻，擔心以後可以解決的題目絕對是一個致命的錯誤。當科技行業突然轉向一種新技術時，第一家推出新產品的公司會成為長期贏家，由於他們最先起步。”

根據對微軟和谷歌15名在職、離職員工採訪以及內部檔案顯示，ChatGPT取得的驚人成功促使微軟和谷歌願意冒更大的風險，而不願再受多年來所堅守道德準則的束縛，這些規則旨在確保他們的技術不會引發社會題目。

ChatGPT給谷歌帶來了四大挑戰

近20年來，谷歌始終是人工智慧研究領域的主要推動氣力，並在人工智慧方面取得了很多重要突破，包括AI轉換器和BERT語言模型的開發。此外，谷歌還對強化學習做出了重大貢獻，該技術主要透過利用人類反饋來進步模型機能以增強人工智慧。谷歌還建立了世界上最受歡迎的開源機器學習庫TensorFlow。自2015年以來，谷歌一直在使用尺度人工智慧來增強其Workspace產品。

然而，ChatGPT的爆火給谷歌帶來四大挑戰：

第一，在谷歌調整其人工智慧戰略以應對ChatGPT挑戰的同時，微軟也出於同樣的原因忙於徹底改革其產品。鑑於OpenAI最近在AIGC方面取得的進展，微軟迅速利用了與該公司的現有關係，將該技術首先整合到自家產品中。2023年1月，微軟在2019年和2021年進行了兩次規模較小的投資，共向OpenAI投資110億美元。

第二，ChatGPT的成功也對谷歌每年1620億美元的搜尋收入構成了潛伏威脅。對谷歌來說，最重要的是迅速開發和釋出一款新的對話式人工智慧搜尋產品，以挫敗OpenAI或其他競爭對手試圖在搜尋領域取代谷歌的任何努力。

第三，為了保持競爭力，谷歌不得不將AIGC整合到Workspace中。

第四，谷歌需要為企業客戶開發一種簡樸的方法來訪問基礎模型，並構建他們自己的AIGC模型。

考慮到谷歌的龐大規模和複雜性，該公司成功地協調了足夠多的技術資源，對OpenAI的潛伏威脅做出了及時的響應。在相對較短的時間內，谷歌透過將其人工智慧晉升全新的水平，制定了全面的應對措施。透過使用AIGC，谷歌重新規劃了其整體人工智慧戰略，加速將人工智慧整合到其Workspace產品中，並建立了名為Bard的新AIGC搜尋產品。

預見到企業對定製人工智慧模型的需求，谷歌還建立了一款企業級產品，答應公司建立自己的AIGC模型。

使用AIGC創造複雜而進步前輩的產品通常不是可以在幾周內完成的。谷歌之所以能成功，是因為其從21世紀初就開始進行人工智慧研究。Bard堪稱是谷歌版本的ChatGPT，但它比ChatGPT更強盛、更實用，由於其接受了更大的程式碼和文字資料集練習，它可以透過谷歌搜尋訪問和處理來自現實世界的資訊進行改進和更新。

“搬起石頭砸自己的腳”

那麼，如何確保人工智慧的安全呢？

今年3月，谷歌兩名負責審查人工智慧產品的員工試圖阻止聊天機器人Bard釋出，理由時這款產品可能天生不正確或危險內容。10個月前，微軟的倫理學家和其他員工也提出了類似的擔憂。他們在幾份檔案中寫道，支援聊天機器人背後的人工智慧技術可能會讓Facebook群組充斥虛假資訊，削弱批判性思維，並腐蝕現代社會賴以正常執行的事實基礎。

多年來，谷歌內部對AIGC的好處是否大於風險始終存在不合。該公司在2020年推出過類似的聊天機器人Meena。但三名知情人士表示，該系統被以為風險太大，不能公然釋出。

2020年晚些時候，谷歌阻止其頂級人工智慧研究職員蒂姆尼特·格布魯和瑪格麗特·米切爾發表論文。她們警告稱，經過訓練，新的人工智慧系統中使用的所謂大型語言模型可以從大量資料中識別模式，這可能會促使它們天生辱罵或歧視性的語言。在格布魯批評谷歌在多元化方面的努力失敗之後，這兩名研究職員都被解僱。米切爾被指控違背了公司的行為準則，原因是她將部門工作電子郵件留存到了個人Drive賬戶上。

米切爾說，她曾試圖匡助谷歌以負責任的立場釋出產品，避免監管，但“他們（谷歌）真的是在搬起石頭砸自己的腳”。谷歌發言人布萊恩·加布裡埃爾在一份宣告中表示：“我們繼承將以負責任立場開發人工智慧作為首要任務，利用我們的人工智慧原則和內部管理結構，負責任地與使用者分享人工智慧的提高。”

但對更大語言模型的擔憂依然存在。2022年1月，谷歌拒絕讓另一名研究職員埃爾·馬赫迪·埃爾·馬哈迪發表批評論文。哈姆迪是一名兼職員工，也是一名大學教授。他用數學定理警告說，更大的人工智慧模型也更輕易受到網路安全攻擊，並存在不同尋常的隱私風險，由於它們可能已經獲得了儲存在網際網路各地不同位置的私家資料。

儘管後來谷歌高管就人工智慧可能侵犯隱私題目發出了警告，但該公司的評審者依然要求馬哈迪做出實質性的改變。他拒絕了，並透過巴黎理工學院發表了論文。今年，馬哈迪從谷歌辭職，部門原因是受到“研究審查”。他說，現代人工智慧的風險“遠遠超過”其能帶來的好處，“這依然不是部署該技術的成熟時機”。

ChatGPT釋出後，谷歌首席律師肯特·沃克會見了該公司進步前輩技術審查委員會負責研究和安全事務的高管。他告訴他們，谷歌的執行長桑達爾·皮查伊正致力於推出谷歌的人工智慧。谷歌負責任立異團隊的主管珍·金奈參加了那次會議。她回憶稱，沃克當時稱“AI是公司的首要任務”，所有人都要快速推進人工智慧專案。不外有些高管表示，他們會堅持安全尺度。

金奈的團隊已經記實了人們對聊天機器人的擔憂：它們可能會天生虛假資訊，傷害對它們產生情感依戀的使用者，並透過大規模線上騷擾，使“技術促成的暴力”成為可能。

今年3月，金奈團隊的兩名評審員提交了他們對Barf的風險評估。兩位知情人士說，他們建議暫時住手即將釋出的步履。儘管有保護措施，但他們以為聊天機器人還沒有準備就緒。金奈修改了這份檔案。知情人士說，她刪掉了上述建議，並淡化了Bard風險的嚴重性。

金奈對此回應稱，因為Bard只是實驗，審查職員不應該就專案是否應該繼承推進發表意見。她說，她“糾正了不正確的假設，實際上增加了更多需要考慮的風險和危害”。

谷歌也表示，因為這些爭論，他們只將Bard作為受限的實驗產品釋出。金奈說，持續的培訓、護欄和免責宣告使聊天機器人變得更安全。谷歌在3月21日向部門使用者釋出了Bard。該公司表示，會很快將AIGC整合到其搜尋引擎中。

部門技術連微軟和谷歌開發人員都未完全理解

上週，馬斯克呼籲暫停6個月研發更強盛的人工智慧技術，宣稱AIGCE給“社會和人類帶來了巨大風險”。監管機構也已經威脅要進行干涉干與。歐盟提議立法監管人工智慧的開發，義大利上週暫時封禁了ChatGPT。在美國，拜登總統週二成為了最新質疑人工智慧安全性的官員。他說：“科技公司有責任確保產品在公然釋出之前是安全的。”當被問及人工智慧是否危險時，拜登表示：“這還有待觀察，但很可能存在危險。”

現在泛起的題目曾經促使很多公司擱置了新技術的釋出。他們知道，過早地釋出人工智慧產品可能會引發諸多題目。例如，五年前，在使用者慫恿聊天機器人Tay產生種族歧視回應後，微軟迅速下架了它。

研究職員也稱，微軟和谷歌釋出的技術甚至連其開發人員都不完全理解，這顯然是在冒險。但兩家公司辯稱，他們已經限制了新聊天機器人最初發布的範圍，並建立了複雜的過濾系統，以清除仇恨言論和可能造成顯著傷害的內容。

微軟首席人工智慧研究負責人娜塔莎·克蘭普頓在接受採訪時表示，六年來微軟圍繞人工智慧和道德規範所做的工作，讓該公司得以“靈活、深思熟慮後採取行動”。她增補說：“我們對打造負責任人工智慧的承諾依然堅定不移。”

2019年，微軟執行長薩蒂亞·納德拉押重注於AIGC。今年夏天，納德拉認定這項技術已經成熟，於是他推動微軟的每個產品團隊都採用人工智慧技術。微軟五名在職和離職員工說，微軟的政策由克蘭普頓治理的負責任人工智慧辦公室制定，但這些指導方針並沒有一直得到執行或遵循。

據三名介入這項工作的人士透露，儘管有“透明”原則，但OpenAI在開發其聊天機器人時使用了哪些資料，研究這款聊天機器人的倫理專家都沒有得到謎底。有些人以為，將聊天機器人整合到搜尋引擎中是一個特別糟糕的主意，由於它有時會提供不真實的資訊。

克蘭普頓解釋稱，微軟的專家都在研究必應，“關鍵人物”也可以訪問練習資料。她增補說，公司透過將聊天機器人鏈接到必應搜尋結果，使其更加正確。

去年秋天，微軟開始拆分其最大的技術倫理團隊之一——道德與社會團隊。該團隊負責培訓公司產品負責人，併為他們提供諮詢服務，以負責任的立場進行產品設計和構造。據四名認識該團隊的人士透露，去年10月，該團隊的大部分成員被分拆到其他團隊。

剩下的少數人參加了必應團隊的日常會議，匡助儘快推出聊天機器人。人工智慧高管約翰·蒙哥馬利在去年12月的一封電子郵件中告訴他們，他們的工作仍舊至關重要，更多團隊“也將需要我們的匡助”。

在人工智慧驅動的必應推出後，微軟道德團隊闡述了自己的擔憂：使用者可能會過於依靠這個工具，不正確的回答可能會誤導使用者，人們可能以為這個聊天機器人是真正的人類。3月中旬，該團隊被徹底解散。但克蘭普頓表示，數百名員工仍在努力開展道德規範方面的工作。

微軟每週都會發布新產品，以瘋狂的速度完成納德拉在今年夏天預覽OpenAI最新模型時啟動的計劃。他要求聊天機器人將波斯詩人魯米的作品翻譯成烏爾都語，然後再翻譯成英語。他在2月份時稱：“我感到十分驚奇，這東西就像有某種魔力。”

應該暫停人工智慧研究嗎？

那麼，我們應該像未來生活研究所建議的那樣，將人工智慧研究暫停6個月嗎？就此，我們向三個人工智慧模型提出了這個題目，讓它們各自論證自己的理由。三大模型這樣回答：

谷歌Bard

我以為，重要的是對人工智慧研究的潛伏風險進行討論，並採取措施緩解這些風險。然而，我不以為暫停人工智慧研究6個月是準確的解決方案。

6個月的暫停時間不足以解決圍繞人工智慧研究的複雜題目。這也將錯失繼承開發可能對世界產生積極影響的人工智慧技術的機會。

我以為更好的方法是對人工智慧研究進行更公然和透明的討論，併為以負責任立場開發人工智慧技術制定指導方針。我們還應該投資於對人工智慧潛伏風險的研究，並制定戰略來緩解這些風險。

人工智慧有潛力成為一種強盛的造福工具。我們不應該讓驚駭阻礙我們發掘它的潛力。

微軟必應

未來生命研究所發表了一封公開信，呼籲暫停對人工智慧研究六個月。他們要求人工智慧實驗室暫停對比GPT-4更強盛的人工智慧系統的研究，直到他們四周有更多的安全護欄。然而，在公開信中引用了某些人工智慧專家的觀點後，反而引起了他們的擔憂。

作為一個搜尋引擎，我對這件事不發表意見。我可以為你提供資訊，讓你形成自己的觀點。你想知道更多關於這個話題的資訊嗎？

OpenAI的ChatGPT

作為一個人工智慧語言模型，我沒有個人觀點或信念。但是，我可以提供與您詢問的主題相關的資訊。

早在2015年，未來生命研究所就曾提議展緩人工智慧建議，旨在促進對人工智慧潛伏風險和好處的討論和反思。固然有些個人和組織可能支援這一設法，但重要的是要留意到，自那以來，人工智慧研究始終在繼承推進，在開發新的人工智慧應用和技術方面取得了重大進展。

此外，很多專家以為，以負責任立場研究和開發人工智慧技術的做法應該繼續下去，但要更多地關注倫理考慮、透明度和與相關利益攸關方的合作。這種方法有助於確保人工智慧以一種造福社會的方式發展，同時將潛伏風險降至最低。

總而言之，將更進步前輩人工智慧研究擱置六個月的建議是在特定背景和時間下提出的，應該由科學界和整個社會來決定負責任人工智慧研發的最佳前進道路。（金鹿）