圖 | 從左到右：凱文·凱利、DeepTech 特約記者 Ren（來源：資料圖）
DeepTech：為什麼你以為接下來的 5000 天將會是“人類歷史中最樞紐的時間段”？
凱文·凱利：世界上有許多事情是第一次泛起，這就是我用來衡量重要事件的尺度。我們看到一些戰役正在進行中，但這並不重要。我的意思是，從某種意義上說，我們已經忍受了（戰役）很長的時間，總會度過難關的。但是，還有其他事情是第一次泛起，其中之一就是氣候變化。
我們的天氣已經受到了影響，所以必需以前所未有的新方式來持續治理它。這是一個星球規模的任務。作為一個物種，人類才剛剛開始嘗試在星球標準上做事、合作，這是我們以前從未做過的。
有很長一段時間，我們以部落為單位運作，然後是省，還有國家。現在我們正在努力，在星球層面上努力做到一些事。這是非常大的一步，但這是必要的，由於氣候變化越來越顯著。因此，要實現這一點，人類就需要新技能，需要新水平的合作和新工具來實現這種合作。所以這件事，就是為什麼現在是一個非常、非常重要的時刻的原因之一，我們需要渡過這段時間，我們必需適應新的政權，一個星球層面的政權。
與此同時，我們也第一次有了星球層面的經濟。眾所周知，世界上最大的兩個經濟體，中國和美國，是糾纏在一起的，你無法真正將它們分開。因此，理解並嘗試兩者共存的經濟體系，也是一大步。我們必需弄清楚如何在接下來的 5000 天內儘快做到這一點。
然後是“人工智慧主宰”，“人工智慧浪潮”，這已經持續了很長時間，但是現在人們可以看到它是真實的。由此滋生了許多驚駭，但也有許多令人興奮的地方。非常清晰的是，這將是非常具有變革性和破壞性的。作為一個物種，我們共同承擔了一項任務，即嘗試弄清楚如何利用這種新氣力造福他人而不是造成傷害。而且它非常新，我們沒有許多好的模型，也沒有人告訴我們該怎麼做。
我們很可能會犯一些可怕的錯誤，好比嘗試將人工智慧武器化，將其用於網路戰或其他類似的糟糕的事情。而且我以為這將是有風險的，我們正在進入一個高風險時代。我以為風險不在於人工智慧會殺死我們，而是我們可能會因此爆發戰役，或者可能會因未能好好治理人工智慧而無意中傷害到許多人。
這三件正在發生的事，對我來說是最重要的，但當然還有其他事情發生。好比，在接下來的 5000 天裡，我們將處於世界從人口過剩轉向人口不足的最初階段。這才剛剛開始。東亞國家好比日本和韓國，已經開始了，中國也有這個趨勢，還有許多歐洲國家也是。這也是這個星球上第一次泛起的非常樞紐的變化，我們的人口正在開始大規模減少，我們真的不知道如何應對。這就是接下來的 5000 天是非常、非常重要的第四個原因。
DeepTech：人口減少確實是一個趨勢，但有人說這是好事，會減少我們對地球的消耗，而且人工智慧的泛起也晉升了生產力，可能不需要那麼多人了。你如何看待這個觀點？
凱文·凱利：最初，人口減少可能會帶來好處。但題目是，假如你每年都在失去人口，那麼這顯然無法持續下去，然後在某個時候，這個數字會變成零，或者變得很小，以至於完成許多事情會變得很難題。
從經濟學和技術的角度來看，你需要一定數目的人口，一定的市場規模，才能讓很多事情值得去做，尤其是規模龐大的事情。好比建造一艘前往火星的飛船起碼需要多少人？是十億人嗎？是一百萬嗎？不管是什麼，但必需有一個數字，才能產生足夠的盈餘、設法和勞動力。
這是基於這樣一個事實，即更大的市場好像會出產更多的東西，更多的新事物。因此，人口減少的趨勢並不足以帶來驚駭和擔憂，環保主義者甚至會說這對地球有好處，剩下的當然可以用人工智慧來彌補。但題目是，有什麼方法能阻止它進一步減少呢？由於生物學的運作方式，是獨立於文化的。生物學的運作方式是，對於每個沒有孩子的女人，另一個女人必需有四個孩子，才能達成人口的平衡。這是一個很大的差距。假如前提無法滿意，那麼人口每年都會越來越少，直到歸零。
但我想明確一點，我們離這種歸零還差得很遠，只是正在經歷變化的開端。我們必需重新想象我們的社會，要麼讓生孩子變得更輕易，要麼鼓勵人們生孩子。但到目前為止，我們嘗試的一切都沒有奏效：不僅在中國，而是在世界各地。
我們還需要一種不同的資本主義經濟體系，它不需要越來越多的受眾（市場）來變得更好、更繁榮。我們當前的系統需要不斷擴張，需要增加更多的東西、更多的人、更大的市場。所以令人興奮的是，我們可以嘗試想象一個不同的系統：舉個例子，與其說試圖銷售更多的冰箱，我們想銷售更好的冰箱，同樣數目的冰箱，只是更好。
我的設法是，即使在接下來的 5000 天裡，我們可能會開始意識到，我們可能想要改變我們的價值觀和獎勵制度，獎勵不僅僅是為了更多的錢，而是試圖真正誇大和獎勵（而不是懲罰）那些正在做出更好改進的事物。所以我以為人口銳減（及其帶來的題目）在幾十年內不會發生，但我們已經開始朝著那個方向發展。
DeepTech：面對人工智慧，還有其他類似的新興技術，政府和監管機構應該扮演什麼樣的角色？
凱文·凱利：很顯著，各級政府的監管對於文明來說是必要的。這在技術領域也是必要的。有許多東西是市場本身不能提供的，不能自己調節的，所以需要政府幹涉干與。但我想誇大的是，政府監管應該參與的很晚。
在我們真正知道發生了什麼之前，過早地進行監管是非常有害的。事實上，當存在高度不確定性時，政府傾向於制定和實施監管，他們以為這是一種保護措施，但實際上它是相反的。它只能保護既定的參與者。
我以為應該在很久以後再進行監管，當我們對技術達成更多共鳴的時候。在某種意義上，我但願在技術首次泛起後 5000 天再進行監管。一開始你不需要監管，由於我們根本不知道它是什麼、它有什麼用、它是怎麼回事。因此，我們需要基於證據的監管。許多監管，無論是對人工智慧仍是基因工程，都不是基於證據的，而是基於直覺，基於驚駭，基於想象力，是人們想象的會發生什麼。
因此，我但願等待足夠長的時間，直到我們對證據達成真正可靠的、科學的共鳴，然後我們再製定規則，有點像打上一個烙印，蓋棺定論。
對社交媒體的真正監管還為時過早，它還太年青了。人工智慧更是非常年青的，現在嘗試進行監管將是非常有害的。但就像我們從網際網路上了解到的那樣，（適當的）監管是有益的，由於你減少了不確定性，而不確定性是非常有害的，尤其是從投資的角度而言，由於有了監管，確定性就更強，人就越有決心信念，投資就越多。這就是加密貨泉面臨的題目之一，沒有那麼多的投資，由於它非常不確定，其法律地位不明確。因此，它但願受到監管，以消除不確定性和風險，從而吸引更多投資以繼承增長。
所以，政府、非市場氣力的監管非常重要。但不能過早，不是在一開始。我們要先弄清楚它是什麼。很顯著，我們不知道人工智慧是什麼，所以現在試圖對其進行監管將是一場真正的劫難。
假如你要進行監管，想象一下化學和元素的歷史。在現代化學泛起之前，有鍊金術，人們對元素是什麼的設法非常希奇，我們看到了弗蘭肯斯坦、以太和其他東西。看看所有這些設法，假如你想象在鍊金術時代對化學進行監管，從某種意義上說，你只是在監管荒誕的東西。
這就是我們現在和人工智慧的關係。這就像鍊金術，我們真的不太瞭解它。現在的監管，基本上就是試圖凍結或確定某些不應該被確定的設法，我們應該放手，讓它們自行其是。
簡而言之，政府的監管是必不可少的，但不能過早參與。
DeepTech：但我們現在已經看到了一些監管，好比歐盟的人工智慧法案，美國也正在推進類似的措施。假如沒有政府參與，該如何解決人工智慧的偏見、有毒內容等題目？
凱文·凱利：我們對人工智慧有許多擔憂，有人工智慧對齊，有偏見，有能耗題目。我們這裡只討論偏見。
最棘手的地方在於，這些人工智慧是根據人類所有的文字、書籍，以及數千年的歷史進行練習的。本質上，它們是自動完成引擎，會根據之前從人類那裡獲得的一切來預測謎底。因此，它們產生的是普羅大眾的聰明，給出一個平庸的謎底。
普通人的行為並不高尚，這不足為奇。人工智慧已經接受了人類均勻行為的練習，而人類的均勻行為是有偏見的，普羅大眾是有偏見的。基於此，我們製造出來的人工智慧，就會有偏見。
題目是我們無法接受。我們會說，這可不行。我們但願這些人工智慧比我們更好，我們但願它比平均水平更好，我們但願它優於我們，超越平庸。典型的人類是有偏見的，但我們不會答應典型的人工智慧泛起這種情況。典型的人工智慧必需比我們更好。這是可能的，我們可以改程式碼，但題目是，我們人類並不清晰比我們更好意味著什麼。我們對它是什麼樣的沒有達成共鳴。比一般人類行為更好，那是什麼樣的？
事實證明，即使是我們的美好願望或我們最好的道德，也是非常淺薄的、無法同一的，但人類答應自己這樣。所以題目不在於人工智慧對齊，題目在於人類對齊。
許多人都擔心 ChatGPT，擔心它不值得信賴。但是當新技術泛起時，我們老是將它與其他技術進行比較。那麼和人類比較呢？值得信賴嗎？我的意思是，假如歐盟必需評估人類的聊天，他們不會讓它透過的。他們會說人類聊天不可靠，有偏見，我們不答應你和人類聊天。這是多荒謬的事情。
我們但願我們的人工智慧比我們更好，但我們對這意味著什麼並沒有很好的概念。那是覺醒嗎？是政治準確嗎？那看起來像什麼？我們從來沒有真正給自己分配過這樣的任務來解決這個題目，但現在我們沒有太多選擇。哲學家們已經考慮了一段時間，這好像很深奧。但現在我們實際上必需選擇，集體做出決定。我們還有許多題目，誰能做這些決定？我們需要達成共鳴嗎？
我的直覺是，我們將擁有多個版本的人工智慧，它們有不同的道德規範、不同的練習集、不同的練習內容。有些人只想用優質的書籍練習人工智慧，其他人想用所有書籍練習，無論好壞。這就像有不同的育兒方式一樣，練習這些人工智慧就像養育孩子。有些人會非常遵守規則，控制孩子接觸到的東西，有的人則完全不同，會讓孩子看到一切，給他們所有價值觀，讓他們看到這個世界是什麼樣的。
我們將看到以不同方式練習的不同人工智慧泛起。你必需始終記住，人工智慧是複數的，會有很多種人工智慧，成百上千個。它們將接受不同的練習，接受不同的教育。有些人可能會傾向於一種人工智慧，由於它更適合他們。我以為我們將有一個不同型別的練習集市場，有各種不同的偏見，由於人工智慧都是有偏見的，你必需選擇你想要的偏見。
DeepTech：你在書中誇大，長期思維是洞察科技趨勢的樞紐要素。組織和個人應當如何鍛鍊這種能力，並以這種思維方式行事？
凱文·凱利：我介入了一個名為 Long Now Foundation 的組織，我們正在努力鼓勵長期思索。我的目標之一是能夠為小學生開發課程，好比環境課程，這將匡助他們始終嘗試為子孫後代著想。我們喜歡使用的術語是，我們想讓人們成為好祖先。他們的後世會感謝他們創造了一些東西，建造了一些東西，開始了一些東西。
我以為其中一件事就是做一些你知道需要 10 年或 20 年才能完成的事情，不要半途而廢，或者做一些可能比你的生命還要久才能完成的事情，好比建造大教堂。這是鼓勵人們從事更長期的事情，而不是僅僅在一年或兩年內完成的事情。
還要有答應這樣做的工具。做這種事情的難題之一是資金，從經濟角度來看，它們在當前環境下沒有意義，但是我們可以建立稅收和其他型別的金融工具來獎勵和答應這類專案，假如你從事一個需要 10 年而不是 1 年的專案，也許還有稅收減免。
要獎勵那些努力做長期專案的人。社會保障，這是我們使用的其中一種設法，我們自動將退休金留到未來。這是我們發明的一種工具，很有匡助。因此，我們可以使用其他類似的工具，鼓勵人們放眼長遠。
政府還可以做其他事情。政府必需介入其中，由於企業和個人更難做到這一點，由於沒有合適的回報。但政府可以資助長期科學和研究，不期望在兩年內得到回報，但這種期望會在 20 年後得到回報。這也是匡助我們從長遠考慮子孫後代的另一種方式。考慮這樣一個事實，即無論生活在何處的大多數人都將生活在未來，並試圖在現在做出考慮子孫後代及其後世的決定。法律也可以制定一些條款，嘗試為子孫後代儲存選擇權，而不是將其封閉。
個人也可以做一些事情，好比長期投資，為子孫後代種一棵樹。這是一件很輕易做的事，做個好祖先。還有一些事情，好比面對政客和公司，選擇那些眼光更長遠的。現在我們有許多企業是綠色的，評判尺度是他們在多大程度上在氣候變化上進行投資。但我們也可以擁有同樣的東西，在評級系統或其他領域，我們可以讓東西不僅僅是綠色的，也許——我之前從未想過——還有另一種顏色，好比白色，用以標記哪些公司以長遠的目光承諾和步履。這可能是個人和公司可以促進這種長期思索理念的另一種方式。
DeepTech：你說過，科技本身不存在好壞，它的好壞取決於使用目的和使用的人。我們該如何更好地保證新技術不被濫用？
凱文·凱利：一個簡短的回答是，我不知道。
我以為最好的舉措是收集好處和壞處的證據。並將其用於制定政策，而不僅僅是想象會發生什麼。現在許多危害，都是我們想象出來的。有多少人由於人工智慧而失業？也許有幾十個？非常、非常少的人由於人工智慧失業，但許多、許多人都在想象他們可能會失業。
現在的很多政策都是基於我們的想象，但我想說，讓我們看看真實的危害和好處的證據，並以此為基礎制定政策。到目前為止，還為時過早，我們根本沒有證據很多人由於人工智慧被解僱了，反過來我們有一些證據表明人工智慧進步了某些工人、程式設計師、作家的生產力，我們有證據表明他們的工作做得更好。所以現在下結論還為時過早。但是，當我們（未來）這樣做時，讓我們以證據為基礎。
DeepTech：在過去幾年裡，跟著時間的變化，你對技術的哪些觀點發生了變化？
凱文·凱利：我想應該是，我可以清晰地看到人工智慧帶來的題目了。
人工智慧，是很多人研究了 20、30、40 年的東西。但它的實際實施現在非常詳細，好比 ChatGPT 和其他東西。正由於如斯，我想我改變了對其侷限性（limitations）的看法。這是我想要的詞，不是題目（problems），而是侷限性。其侷限性現在比以前更加顯著。
我改變設法的地方在於，理解到人工智慧對齊不是問題所在，真正的題目在於讓人類就我們必需做的事情達成一致，也就是前面提到的“人類對齊”。
人工智慧的主要題目之一不是與人類有關的部門，而是意識到我們將要面臨的題目是試圖使人類與人工智慧對齊，而不是讓人工智慧與人類對齊。人類自己的道德和價值觀不一致，除非我們首先讓它們保持一致，否則我們無法真正實現人工智慧對齊。我以為這對我來說是一個新設法。真正的苦差事，真正的障礙，將是讓人類個體就我們但願人工智慧做什麼達成一致。這是我以前沒有想到的。
DeepTech：技術素養，即理解技術工作原理的能力，將成為重要的個人能力。你可以講講這個觀點嗎？我們如何晉升這個能力？
凱文·凱利：我喜歡和欽佩阿米什人的原因之一是，他們的素養和文化傳承是集體而不是個人的。由於他們很清晰這需要集體的氣力來實現。我以為這是我們必需完成的第一步。如何闡明我們的技術素養是什麼？我們的尺度是什麼
針對社交媒體，我們要設定它的邊界（安全護欄）。你四歲的時候，這些是適合四歲小孩的最佳技術實踐，當你八歲的時候，又新加了哪些技術。目前，父母沒有任何指導，老師沒有任何指導，沒有任何證據。我實在想要一種基於證據的技術素養，好比這就是我們對兒童如何使用螢幕的瞭解；這就是我們所知道的兒童如何使用人工智慧；這就是我們對疫苗或者其他任何技術的瞭解。我們要搞清楚兩件事：好處是什麼，壞處是什麼。由於我們老是要付出代價的，這就是技術素養的樞紐之一。當我們談論新技術時，我們必需將其與現有技術進行比較。
每個技術都有長處，也有缺點。當我們審閱本錢、危害以及新技術的好處時，老是必需將其與舊技術進行比較，好比電話 VS 簡訊，腳踏車 VS 汽車，我們計算所有技術的優缺點，不僅是新技術，還有舊技術。我以為技術素養的一部分是教育性的，從某種意義上說，它應該是我們閱讀和寫作的一部分，每項新技術都會有本錢，本錢是多少？有什麼好處？你瞭解它嗎？有什麼證據？就像去學習閱讀和寫作一樣，我們要學習如何更好地使用人工智慧。
DeepTech：在最近的一次演講中，你提到，人工智慧就像實習生一樣，可以展開講講嗎？我們應該如何與人工智慧共存？哪些技能是值得學習的？
凱文·凱利：這就像每個人在生活中都有一個私家導航員，也就是谷歌輿圖之類的 APP，可以引導我們到任何地方。這在以前是很難做到的，你需要有許多輿圖，並且有很好的判斷力。現在每個人都有一個私家導航員。
當我們在百度或谷歌上搜索東西時，我們有一個私家圖書管理員，在茫茫資料中尋找謎底，這曾經是圖書管理員的工作。現在每個人都有一個私家圖書管理員。
我以為，GPT 和 ChatGPT 的第一個版本是我們可以支配的私家助理。我們可以用他們做研究，回答一些題目，做一些東西的初稿，查詢一些程式碼，提出建議，但他們是實習生，我們必需檢查他們的工作。
又由於它的水平很平庸，平庸的程式設計師，平庸的作家，平庸的圖書館員，所以假如你想變得優秀，那麼我們必需增加一點東西，我們必需推動他們，必需與他們對話。那些真正擅長製作人工智慧藝術或使用 ChatGPT 的人是那些學習如何與人工智慧進行對話的人，在某種程度上推動它、鼓勵它超越平庸的水平。
現在，撰寫“提示（prompt）”已經成為了一項技能，這是未來學習如何與這些私家實習生交談的樞紐技能之一。所以要充分利用，你必需瞭解他們是如何工作的，瞭解他們喜歡聽什麼。很顯著，有些人在這方面比其他人做得更好。
部門原因是他們為此花費了 1000 個小時。他們明白，這就像學習一門語言一樣。或者你必需像實習生一樣思索，才能猜出它在想什麼。我以為這是技能之一。到目前為止，對於當今世界任何地方的學校裡的任何人來說，最主要的技能是學習如何學習，找到最適合自己的學習方法。
這不僅僅是對“學習如何學習”的一般理解，而是要找到你最好的方法是什麼？學習一門新語言的最好技巧是什麼？你必需重複多少次？你必需睡多少時間？假如你正在學習一門新科學，什麼是你最好的學習方式？你如何最佳化自己的學習？假如你正在學習一項體育技能，你最好的學習方式是什麼？
這是每所學校都應該教授的主要技能。假如你的學校沒有教它，那麼你必需透過其他方式學習。你應該在畢業前把握適合自己的學習方法，由於學習將是你在餘生中不斷要做的事情。
DeepTech：在未來的 5000 天裡，哪些新技術帶來的可能性讓你感到高興？哪些又讓你感到擔憂？
凱文·凱利：到目前為止，人工智慧是最令人興奮和最強盛的技術，我們已經談了許多。這裡我想再次誇大，人工智慧是我們發明的最具顛覆性的技術。從長遠來看，它比電、火，甚至是寫作都更加強盛。
從長遠來看，確實如斯。但現在，人工智慧有點被強調了，由於它離我們心目中的樣子還差得很遠，它才剛剛開始。在接下來的 5000 天裡，它將成為最主要的顛覆者。
但也有其他事情正在發生，好比將衛星送入太空。我們正在製造太空中的眼睛，一個圍繞地球的神經系統，它可以從全球的角度看待這個星球，由於為了建立全球經濟，我們必需有一個全球圖景。這是一件非常重要的事情，在接下來的 5000 天裡，會有越來越多的人進行更多的嘗試，馬斯克、貝索斯、中國、印度都在做類似的事情。未來我們將看到更多參與者。
第二件事是新食品，好比合成肉、人造肉、基於動物細胞的肉。它們將在未來 5000 天泛起（普及）。這對我來說非常令人興奮，由於我不吃紅肉。
另一件非常令人興奮的事情是計算機大腦介面，我原以為要 2 萬天（超過 50 年）才會發生，但現在，我所看到的證據表明，這可能會在未來 5000 天開始泛起。也許還不會成為主流，但可能會開始用於解決四肢癱瘓或其他醫學題目，合用於盲人或其他殘障人士。
至於未來我最擔心的事情，應該是網路戰役。由於國際上沒有達成有關的協議，什麼是可以接受的，什麼不是，沒有真正的協議。我們對傳統戰役有許多限制，有各種各樣的關於地雷、生物武器的條約，但對於人工智慧（的戰役用途），我們沒有很好的條約和協議。
我擔心，可能要有一些非常糟糕的事情發生，才能促使全人類達成某種協議。我衷心希望這不會發生，但我確實很擔心。
採訪手記：“明天不會像我們想象的那樣完美，但會變得比今天輕微好一點兒。”這是凱文曾說過的一句話。這種樂觀立場使他老是能夠先人一步地捕捉到科技發展的脈絡：縱使有需要擔憂的東西，但明天或許只要比今天更好，哪怕只有一點點，也是一種提高。
圖 | 凱文·凱利（Kevin Kelly）（來源：凱文·凱利）
