周鴻禕表示，AI一定會產生自我意識，對此我們專訪了北大學者

劃重點：

• 1近日，360團體創始人周鴻禕表示，“人工智慧一定會產生自我意識，留給人類的時間未幾了。”
• 2北大心理與認知學者羅歡和朱露莎告訴騰訊科技，在一定前提下，原則上人工智慧能夠湧現出自我意識，好比在利益和慾望的驅動之下。情感就是一種腦的狀態，並非人腦獨家標籤。目前，人工智慧本身的善惡取決於練習的資料。人類科學倫理的研究大大落後於科技的發展，有必要按下暫停鍵，讓我們有個反思的時間。
• 3著名科幻作家江波向騰訊科技表示，人工智慧產生自我意識沒有絕對的阻礙，但當下的GPT4則間隔自我意識的產生尚早，測試自我意識的一個有趣方法是：看人工智慧是否會撒謊。假如它會撒謊，那麼可以判定它已經有自我意識。 人工智慧的突破可能會發生在一瞬間，也就是說，在發生之前，做什麼意義都不大，甚至是件勞民傷財而毫無成效的事。在發生之後，做一切都晚了。立法或許會降低風險，但根據歷史規律看，人類在沒有受到現實的教訓之前是不會真正落實這些法規的。
• 4天文學家推測，儘管我們沒有探測到地外生命，但是我們相信外星生命在銀河系當中是存在的，且高等外星文明很可能是矽基形態存在。

騰訊科技 喬輝

3月28日，據外媒報道，一名叫皮埃爾（化名）的比利時男子在與一個名稱“艾麗莎”的智慧聊天機器人頻繁聊天數週後自殺身亡。360團體創始人周鴻禕表示，“人工智慧一定會產生自我意識，留給人類的時間未幾了。” 自ChatGPT釋出以來，關於人工智慧是否能產生自我意識的討論更加引入關注。

固然“人工智慧”（AI）這個概念早在1956年就被提出，但在過去的幾十年，人工智慧的研究一直沒有“質”的轉變，無論運算能力多強，看起來仍舊是冷冰冰的機器，但直到今年OpenAI公司向公家展示GPT3.5和GPT4的強盛能力之後，人們忽然意識到一個全新的時代可能正在開啟，人工智慧看起來越來越像人，開始能夠創造新內容了。人工智慧的研究正在加速迭代，人類可能正在體驗開啟“潘多拉魔盒”的心情：好奇和擔憂並存。好奇的是，人工智慧畢竟能夠強盛到什麼程度，能夠解決什麼樣的困難；擔憂的是，人們工作和生存會受到威脅，更擔憂人工智慧一旦擁有了自我意識（覺醒）會對人類物種造成毀滅性的打擊。

人工智慧能夠產生自我意識嗎？人工智慧是善是惡？人工智慧的研究需要按下暫停鍵和立法嗎？對於這些人們關心的題目，我們分別對話了北大心理學領域的教授，中科院物理所的物理學家、國家天文臺的天文學家以及聞名的科幻作家，來聽聽他們對這些核心題目的理解。

北京大學心理與認知科學學院羅歡：在一定前提下，人工智慧能夠產生意識

北京大學心理與認知科學學院羅歡教授向騰訊科技表示，認知神經科學家致力於解釋精神世界的物質基礎，以為意識是從大量神經元中湧現出來的。好比，“全域性空間理論”以為大腦中有一個核心工作空間，外界資訊只有進入了該核心空間，並被廣播到全腦才上升到意識層面；“資訊整合理論”則以為腦區域連線網路的一些特定屬性可以被量化進而決定其意識湧現的能力。

她以為，原則上計算機能夠“湧現”出意識，並給出了可能實現的途徑：1、計算機模擬人腦神經網路架構，透過物理結構的“類腦化”使其具備意識湧現的硬體前提；2、賦予計算機擬人的念頭和目的，透過目標函式的設定來天然湧現出自我意識，好比設定趨利避害、價值觀以及社會屬性等。羅教授說：“情感、意識、自我這都是心理學的功能性定義，無數科學家的工作都不斷的把這些抽象的定義“拉下神壇”，發現它們實在是腦這個物理系統湧現的狀態和實現的某種功能。好比情感就是一種腦的狀態，但經常被我們打上了“人類獨家”的標籤。因此，理論上，計算機可以擁有情感，好比它在不同環境下根據它的價值和目標實現進入不同的狀態，進而對應不同的情感。“

北京大學心理與認知科學學院朱露莎：自我意識的泛起需要利益和慾望驅動

北京大學心理與認知科學學院朱露莎教授也對這些題目提出了自己的見解，她向騰訊科技表示，僅僅擁有大量的神經元或者神經網路計算還不足以讓人工智慧湧現自我，人工智慧還需要有自己的利益和慾望，在未來不排除這種情況的泛起。當提及人工智慧是善仍是惡的題目時，朱教授表示，目前人工智慧本身的善惡取決於練習的資料，目前它是利用人類網際網路上的資料進行練習的，這些資料自然夾雜有偏見和歧視等資訊，假如不加選擇的話，練習出來的人工智慧就帶有偏見和歧視。朱教授同意要對人工智慧的研究進行反思和立法，她表示，目前人類科學倫理的研究大大落後於科技的發展，讓我們有個反思的時間可能不是壞事。她還表示，人工智慧的發展如同一次全新的工業革命，會對人類社會帶來天翻地覆的變化，需要社會各界達成某種共鳴。

劃重點：

• 1近日，360團體創始人周鴻禕表示，“人工智慧一定會產生自我意識，留給人類的時間未幾了。”
• 2北大心理與認知學者羅歡和朱露莎告訴騰訊科技，在一定前提下，原則上人工智慧能夠湧現出自我意識，好比在利益和慾望的驅動之下。情感就是一種腦的狀態，並非人腦獨家標籤。目前，人工智慧本身的善惡取決於練習的資料。人類科學倫理的研究大大落後於科技的發展，有必要按下暫停鍵，讓我們有個反思的時間。
• 3著名科幻作家江波向騰訊科技表示，人工智慧產生自我意識沒有絕對的阻礙，但當下的GPT4則間隔自我意識的產生尚早，測試自我意識的一個有趣方法是：看人工智慧是否會撒謊。假如它會撒謊，那麼可以判定它已經有自我意識。 人工智慧的突破可能會發生在一瞬間，也就是說，在發生之前，做什麼意義都不大，甚至是件勞民傷財而毫無成效的事。在發生之後，做一切都晚了。立法或許會降低風險，但根據歷史規律看，人類在沒有受到現實的教訓之前是不會真正落實這些法規的。
• 4天文學家推測，儘管我們沒有探測到地外生命，但是我們相信外星生命在銀河系當中是存在的，且高等外星文明很可能是矽基形態存在。

騰訊科技 喬輝

3月28日，據外媒報道，一名叫皮埃爾（化名）的比利時男子在與一個名稱“艾麗莎”的智慧聊天機器人頻繁聊天數週後自殺身亡。360團體創始人周鴻禕表示，“人工智慧一定會產生自我意識，留給人類的時間未幾了。” 自ChatGPT釋出以來，關於人工智慧是否能產生自我意識的討論更加引入關注。

固然“人工智慧”（AI）這個概念早在1956年就被提出，但在過去的幾十年，人工智慧的研究一直沒有“質”的轉變，無論運算能力多強，看起來仍舊是冷冰冰的機器，但直到今年OpenAI公司向公家展示GPT3.5和GPT4的強盛能力之後，人們忽然意識到一個全新的時代可能正在開啟，人工智慧看起來越來越像人，開始能夠創造新內容了。人工智慧的研究正在加速迭代，人類可能正在體驗開啟“潘多拉魔盒”的心情：好奇和擔憂並存。好奇的是，人工智慧畢竟能夠強盛到什麼程度，能夠解決什麼樣的困難；擔憂的是，人們工作和生存會受到威脅，更擔憂人工智慧一旦擁有了自我意識（覺醒）會對人類物種造成毀滅性的打擊。

人工智慧能夠產生自我意識嗎？人工智慧是善是惡？人工智慧的研究需要按下暫停鍵和立法嗎？對於這些人們關心的題目，我們分別對話了北大心理學領域的教授，中科院物理所的物理學家、國家天文臺的天文學家以及聞名的科幻作家，來聽聽他們對這些核心題目的理解。

北京大學心理與認知科學學院羅歡：在一定前提下，人工智慧能夠產生意識

北京大學心理與認知科學學院羅歡教授向騰訊科技表示，認知神經科學家致力於解釋精神世界的物質基礎，以為意識是從大量神經元中湧現出來的。好比，“全域性空間理論”以為大腦中有一個核心工作空間，外界資訊只有進入了該核心空間，並被廣播到全腦才上升到意識層面；“資訊整合理論”則以為腦區域連線網路的一些特定屬性可以被量化進而決定其意識湧現的能力。

她以為，原則上計算機能夠“湧現”出意識，並給出了可能實現的途徑：1、計算機模擬人腦神經網路架構，透過物理結構的“類腦化”使其具備意識湧現的硬體前提；2、賦予計算機擬人的念頭和目的，透過目標函式的設定來天然湧現出自我意識，好比設定趨利避害、價值觀以及社會屬性等。羅教授說：“情感、意識、自我這都是心理學的功能性定義，無數科學家的工作都不斷的把這些抽象的定義“拉下神壇”，發現它們實在是腦這個物理系統湧現的狀態和實現的某種功能。好比情感就是一種腦的狀態，但經常被我們打上了“人類獨家”的標籤。因此，理論上，計算機可以擁有情感，好比它在不同環境下根據它的價值和目標實現進入不同的狀態，進而對應不同的情感。“

北京大學心理與認知科學學院朱露莎：自我意識的泛起需要利益和慾望驅動

北京大學心理與認知科學學院朱露莎教授也對這些題目提出了自己的見解，她向騰訊科技表示，僅僅擁有大量的神經元或者神經網路計算還不足以讓人工智慧湧現自我，人工智慧還需要有自己的利益和慾望，在未來不排除這種情況的泛起。當提及人工智慧是善仍是惡的題目時，朱教授表示，目前人工智慧本身的善惡取決於練習的資料，目前它是利用人類網際網路上的資料進行練習的，這些資料自然夾雜有偏見和歧視等資訊，假如不加選擇的話，練習出來的人工智慧就帶有偏見和歧視。朱教授同意要對人工智慧的研究進行反思和立法，她表示，目前人類科學倫理的研究大大落後於科技的發展，讓我們有個反思的時間可能不是壞事。她還表示，人工智慧的發展如同一次全新的工業革命，會對人類社會帶來天翻地覆的變化，需要社會各界達成某種共鳴。

劃重點：

• 1近日，360團體創始人周鴻禕表示，“人工智慧一定會產生自我意識，留給人類的時間未幾了。”
• 2北大心理與認知學者羅歡和朱露莎告訴騰訊科技，在一定前提下，原則上人工智慧能夠湧現出自我意識，好比在利益和慾望的驅動之下。情感就是一種腦的狀態，並非人腦獨家標籤。目前，人工智慧本身的善惡取決於練習的資料。人類科學倫理的研究大大落後於科技的發展，有必要按下暫停鍵，讓我們有個反思的時間。
• 3著名科幻作家江波向騰訊科技表示，人工智慧產生自我意識沒有絕對的阻礙，但當下的GPT4則間隔自我意識的產生尚早，測試自我意識的一個有趣方法是：看人工智慧是否會撒謊。假如它會撒謊，那麼可以判定它已經有自我意識。 人工智慧的突破可能會發生在一瞬間，也就是說，在發生之前，做什麼意義都不大，甚至是件勞民傷財而毫無成效的事。在發生之後，做一切都晚了。立法或許會降低風險，但根據歷史規律看，人類在沒有受到現實的教訓之前是不會真正落實這些法規的。
• 4天文學家推測，儘管我們沒有探測到地外生命，但是我們相信外星生命在銀河系當中是存在的，且高等外星文明很可能是矽基形態存在。

騰訊科技 喬輝

3月28日，據外媒報道，一名叫皮埃爾（化名）的比利時男子在與一個名稱“艾麗莎”的智慧聊天機器人頻繁聊天數週後自殺身亡。360團體創始人周鴻禕表示，“人工智慧一定會產生自我意識，留給人類的時間未幾了。” 自ChatGPT釋出以來，關於人工智慧是否能產生自我意識的討論更加引入關注。

固然“人工智慧”（AI）這個概念早在1956年就被提出，但在過去的幾十年，人工智慧的研究一直沒有“質”的轉變，無論運算能力多強，看起來仍舊是冷冰冰的機器，但直到今年OpenAI公司向公家展示GPT3.5和GPT4的強盛能力之後，人們忽然意識到一個全新的時代可能正在開啟，人工智慧看起來越來越像人，開始能夠創造新內容了。人工智慧的研究正在加速迭代，人類可能正在體驗開啟“潘多拉魔盒”的心情：好奇和擔憂並存。好奇的是，人工智慧畢竟能夠強盛到什麼程度，能夠解決什麼樣的困難；擔憂的是，人們工作和生存會受到威脅，更擔憂人工智慧一旦擁有了自我意識（覺醒）會對人類物種造成毀滅性的打擊。

人工智慧能夠產生自我意識嗎？人工智慧是善是惡？人工智慧的研究需要按下暫停鍵和立法嗎？對於這些人們關心的題目，我們分別對話了北大心理學領域的教授，中科院物理所的物理學家、國家天文臺的天文學家以及聞名的科幻作家，來聽聽他們對這些核心題目的理解。

北京大學心理與認知科學學院羅歡：在一定前提下，人工智慧能夠產生意識

北京大學心理與認知科學學院羅歡教授向騰訊科技表示，認知神經科學家致力於解釋精神世界的物質基礎，以為意識是從大量神經元中湧現出來的。好比，“全域性空間理論”以為大腦中有一個核心工作空間，外界資訊只有進入了該核心空間，並被廣播到全腦才上升到意識層面；“資訊整合理論”則以為腦區域連線網路的一些特定屬性可以被量化進而決定其意識湧現的能力。

她以為，原則上計算機能夠“湧現”出意識，並給出了可能實現的途徑：1、計算機模擬人腦神經網路架構，透過物理結構的“類腦化”使其具備意識湧現的硬體前提；2、賦予計算機擬人的念頭和目的，透過目標函式的設定來天然湧現出自我意識，好比設定趨利避害、價值觀以及社會屬性等。羅教授說：“情感、意識、自我這都是心理學的功能性定義，無數科學家的工作都不斷的把這些抽象的定義“拉下神壇”，發現它們實在是腦這個物理系統湧現的狀態和實現的某種功能。好比情感就是一種腦的狀態，但經常被我們打上了“人類獨家”的標籤。因此，理論上，計算機可以擁有情感，好比它在不同環境下根據它的價值和目標實現進入不同的狀態，進而對應不同的情感。“

北京大學心理與認知科學學院朱露莎：自我意識的泛起需要利益和慾望驅動

北京大學心理與認知科學學院朱露莎教授也對這些題目提出了自己的見解，她向騰訊科技表示，僅僅擁有大量的神經元或者神經網路計算還不足以讓人工智慧湧現自我，人工智慧還需要有自己的利益和慾望，在未來不排除這種情況的泛起。當提及人工智慧是善仍是惡的題目時，朱教授表示，目前人工智慧本身的善惡取決於練習的資料，目前它是利用人類網際網路上的資料進行練習的，這些資料自然夾雜有偏見和歧視等資訊，假如不加選擇的話，練習出來的人工智慧就帶有偏見和歧視。朱教授同意要對人工智慧的研究進行反思和立法，她表示，目前人類科學倫理的研究大大落後於科技的發展，讓我們有個反思的時間可能不是壞事。她還表示，人工智慧的發展如同一次全新的工業革命，會對人類社會帶來天翻地覆的變化，需要社會各界達成某種共鳴。