每經編纂：畢陸名

為了控制、引導超級智慧對齊題目，OpenAI週三（5日）表示，組建了一支人工智慧對齊團隊Superalignment。同時該團隊也是對OpenAI現有工作的增補，可晉升ChatGPT等產品的安全性，在4年內解決超級智慧對齊題目。

超級智慧將是人類發明的最具影響力的技術之一，可以匡助我們解決世界上很多困難。但超級智慧的巨大力量也可能非常危險，並導致人類失去控制權，甚至滅絕人類。固然超級智慧還很遙遠，但OpenAI以為，10年之內就很有可能實現。

目前，OpenAI還沒有一個明確的解決方案來引導或控制超級人工智慧。當下可控制的人工智慧技術，例如，根據人類反饋進行強化學習，依賴於人類監視的AI能力等。但人類無法可靠地監視，比我們智慧多的AI系統，因此，我們目前的對齊技術無法擴充套件到超級智慧，需要新的科學技術突破。

20%算力用來解決AI失控題目

為了控制、引導超級智慧對齊題目，OpenAI組建了一支由Ilya Sutskever（OpenAI聯合創始人兼首席科學家）和Jan Leike領導的人工智慧對齊團隊——Superalignment。

同時該團隊也是對OpenAI現有工作的增補，可晉升ChatGPT等產品的安全性，包括非法濫用、經濟破壞、虛假資訊、偏見和歧視、資料隱私和其他可能泛起的題目。

他們猜測，超智慧AI（即比人類更智慧的系統）可能在這個十年（2030年前）就會到來，人類將需要比目前更好的技術來控制超智慧AI，因此需要在所謂的“一致性研究”方面取得突破，該研究的重點是確保人工智慧對人類有益。

根據他們的說法，在微軟（Microsoft）的支援下，OpenAI將拿出未來四年所獲算力的20%用於解決AI失控的題目。此外，該公司正在組建一個新的團隊來組織這項工作，稱為超級一致性團隊。

據悉，該團隊的目標是建立一個“人類級別”的AI研究職員，然後透過大量的計算能力進行擴充套件。OpenAI表示，這意味著他們將使用人類反饋來練習AI系統，練習AI系統來輔助人類評估，然後終極練習AI系統進行實際的一致性研究。

每經編纂：畢陸名

為了控制、引導超級智慧對齊題目，OpenAI週三（5日）表示，組建了一支人工智慧對齊團隊Superalignment。同時該團隊也是對OpenAI現有工作的增補，可晉升ChatGPT等產品的安全性，在4年內解決超級智慧對齊題目。

超級智慧將是人類發明的最具影響力的技術之一，可以匡助我們解決世界上很多困難。但超級智慧的巨大力量也可能非常危險，並導致人類失去控制權，甚至滅絕人類。固然超級智慧還很遙遠，但OpenAI以為，10年之內就很有可能實現。

目前，OpenAI還沒有一個明確的解決方案來引導或控制超級人工智慧。當下可控制的人工智慧技術，例如，根據人類反饋進行強化學習，依賴於人類監視的AI能力等。但人類無法可靠地監視，比我們智慧多的AI系統，因此，我們目前的對齊技術無法擴充套件到超級智慧，需要新的科學技術突破。

20%算力用來解決AI失控題目

為了控制、引導超級智慧對齊題目，OpenAI組建了一支由Ilya Sutskever（OpenAI聯合創始人兼首席科學家）和Jan Leike領導的人工智慧對齊團隊——Superalignment。

同時該團隊也是對OpenAI現有工作的增補，可晉升ChatGPT等產品的安全性，包括非法濫用、經濟破壞、虛假資訊、偏見和歧視、資料隱私和其他可能泛起的題目。

他們猜測，超智慧AI（即比人類更智慧的系統）可能在這個十年（2030年前）就會到來，人類將需要比目前更好的技術來控制超智慧AI，因此需要在所謂的“一致性研究”方面取得突破，該研究的重點是確保人工智慧對人類有益。

根據他們的說法，在微軟（Microsoft）的支援下，OpenAI將拿出未來四年所獲算力的20%用於解決AI失控的題目。此外，該公司正在組建一個新的團隊來組織這項工作，稱為超級一致性團隊。

據悉，該團隊的目標是建立一個“人類級別”的AI研究職員，然後透過大量的計算能力進行擴充套件。OpenAI表示，這意味著他們將使用人類反饋來練習AI系統，練習AI系統來輔助人類評估，然後終極練習AI系統進行實際的一致性研究。

每經編纂：畢陸名

為了控制、引導超級智慧對齊題目，OpenAI週三（5日）表示，組建了一支人工智慧對齊團隊Superalignment。同時該團隊也是對OpenAI現有工作的增補，可晉升ChatGPT等產品的安全性，在4年內解決超級智慧對齊題目。

超級智慧將是人類發明的最具影響力的技術之一，可以匡助我們解決世界上很多困難。但超級智慧的巨大力量也可能非常危險，並導致人類失去控制權，甚至滅絕人類。固然超級智慧還很遙遠，但OpenAI以為，10年之內就很有可能實現。

目前，OpenAI還沒有一個明確的解決方案來引導或控制超級人工智慧。當下可控制的人工智慧技術，例如，根據人類反饋進行強化學習，依賴於人類監視的AI能力等。但人類無法可靠地監視，比我們智慧多的AI系統，因此，我們目前的對齊技術無法擴充套件到超級智慧，需要新的科學技術突破。

20%算力用來解決AI失控題目

為了控制、引導超級智慧對齊題目，OpenAI組建了一支由Ilya Sutskever（OpenAI聯合創始人兼首席科學家）和Jan Leike領導的人工智慧對齊團隊——Superalignment。

同時該團隊也是對OpenAI現有工作的增補，可晉升ChatGPT等產品的安全性，包括非法濫用、經濟破壞、虛假資訊、偏見和歧視、資料隱私和其他可能泛起的題目。

他們猜測，超智慧AI（即比人類更智慧的系統）可能在這個十年（2030年前）就會到來，人類將需要比目前更好的技術來控制超智慧AI，因此需要在所謂的“一致性研究”方面取得突破，該研究的重點是確保人工智慧對人類有益。

根據他們的說法，在微軟（Microsoft）的支援下，OpenAI將拿出未來四年所獲算力的20%用於解決AI失控的題目。此外，該公司正在組建一個新的團隊來組織這項工作，稱為超級一致性團隊。

據悉，該團隊的目標是建立一個“人類級別”的AI研究職員，然後透過大量的計算能力進行擴充套件。OpenAI表示，這意味著他們將使用人類反饋來練習AI系統，練習AI系統來輔助人類評估，然後終極練習AI系統進行實際的一致性研究。

每經編纂：畢陸名

為了控制、引導超級智慧對齊題目，OpenAI週三（5日）表示，組建了一支人工智慧對齊團隊Superalignment。同時該團隊也是對OpenAI現有工作的增補，可晉升ChatGPT等產品的安全性，在4年內解決超級智慧對齊題目。

超級智慧將是人類發明的最具影響力的技術之一，可以匡助我們解決世界上很多困難。但超級智慧的巨大力量也可能非常危險，並導致人類失去控制權，甚至滅絕人類。固然超級智慧還很遙遠，但OpenAI以為，10年之內就很有可能實現。

目前，OpenAI還沒有一個明確的解決方案來引導或控制超級人工智慧。當下可控制的人工智慧技術，例如，根據人類反饋進行強化學習，依賴於人類監視的AI能力等。但人類無法可靠地監視，比我們智慧多的AI系統，因此，我們目前的對齊技術無法擴充套件到超級智慧，需要新的科學技術突破。

20%算力用來解決AI失控題目

為了控制、引導超級智慧對齊題目，OpenAI組建了一支由Ilya Sutskever（OpenAI聯合創始人兼首席科學家）和Jan Leike領導的人工智慧對齊團隊——Superalignment。

同時該團隊也是對OpenAI現有工作的增補，可晉升ChatGPT等產品的安全性，包括非法濫用、經濟破壞、虛假資訊、偏見和歧視、資料隱私和其他可能泛起的題目。

他們猜測，超智慧AI（即比人類更智慧的系統）可能在這個十年（2030年前）就會到來，人類將需要比目前更好的技術來控制超智慧AI，因此需要在所謂的“一致性研究”方面取得突破，該研究的重點是確保人工智慧對人類有益。

根據他們的說法，在微軟（Microsoft）的支援下，OpenAI將拿出未來四年所獲算力的20%用於解決AI失控的題目。此外，該公司正在組建一個新的團隊來組織這項工作，稱為超級一致性團隊。

據悉，該團隊的目標是建立一個“人類級別”的AI研究職員，然後透過大量的計算能力進行擴充套件。OpenAI表示，這意味著他們將使用人類反饋來練習AI系統，練習AI系統來輔助人類評估，然後終極練習AI系統進行實際的一致性研究。