呂歸亞
近日，歐洲議會、歐盟成員國和歐盟委員會三方，就《人工智慧法案》達成協議。這一法案將成為全球首部人工智慧領域的全面監管法規，但立法實在並不順暢，過程中受到諸多質疑並歷經反覆。
《人工智慧法案》進一步完善了歐盟的新興數字規則手冊，該手冊包含《通用資料保護條例》、《數字服務法》和《數字市場法》等法案，對數字經濟的不同方面進行了規範。《人工智慧法案》立法始於2021年。去年6月，空中客車和西門子等多家歐洲大型企業表示，法案過於嚴苛，不利於培育立異和匡助本土工業。此前，法、德、意也曾表示反對草案的一些劃定，以為這些法案會影響本國人工智慧初創公司的發展。
此次關於《人工智慧法案》主要有兩個重要爭議點，一是包括面部識別在內的實時生物識別技術在公共場所的使用；二是基礎模型及通用人工智慧（AGI）的監管。有關生物識別技術，最棘手的談判難點是對實時生物識別工具的限制程度。除了維護國家安全和執法等個別情況外，此次法案原則上禁止實施生物識別，所以在公共場所使用該技術有許多限制護欄，這裡不再贅述。下面主要談對大模型及通用人工智慧的監管。
歐盟《人工智慧法案》的核心是風險分類系統，即根據人工智慧系統對人的健康、安全和基本權利構成的風險程度對其進行監管。風險分為四類：不可接受、高、有限和最低/無。通用人工智慧的提供者將承擔與高風險人工智慧系統類似的義務。開發者必需滿意各種要求，證實其技術及其使用不會對健康、安全和基本權利構成重大威脅。開發者需提供風險管理和資料管理方案、監控和記實留存實踐、具體的文件記實，並保障人工智慧的透明度和人工監視義務，以確保人工智慧的準確性及穩健性達到網路安全尺度。高風險人工智慧系統還必需在歐盟範圍內的公共資料庫中註冊。
大語言模型開發人員存在基本的透明度要求。那些構成系統性風險的生成式人工智慧應用的開發者將需要簽署自願行為準則，相關的尺度涉及算力、貿易使用者數量和模型引數。將計算能力在10—25（GPU的數目）以上練習的AI模型定性為基礎模型，超過這些閾值的模型將面臨額外的義務，包括嚴格的評估、系統性風險評估、網路安全措施和能源消耗表露等。
作為全球首部人工智慧領域的全面監管法規，歐盟方案可以給我們帶來一些啟示。首先，該法案體現了歐盟但願在人工智慧領域實現彎道超車。美國已經在網際網路行業形成“天然壟斷”，但相較之下，新興的人工智慧行業目前還處於百家爭鳴的階段。固然美國的微軟等科技巨頭有一定的先發上風，但新創企業依然可以在新賽道中勝出。假如《人工智慧法案》限制了立異，就可能會重蹈DeepMind被迫賣給Google的覆轍。德國初創企業Aleph Alpha GmbH上月剛融資超過5億美元，法國的Mistral AI也在新賽道領先。假如歐盟此時澆滅創業之火，那無異於自毀長城。
其次，像人工智慧這樣的新興技術，政府部門很難進行全面監管，由於目前還無法正確猜測人工智慧技術帶來的影響。正如人類無法在第一輛汽車還在設計測試階段就制定詳盡的交規。開發期間的繁雜監管可能也會導致技術發展的延後。為兼顧發展和監管，不妨將技術和應用分開監管，放鬆對技術開發的初期限制。
此前，美國政府同包括微軟和OpenAI在內的7家頭部人工智慧企業簽署自發性的資訊透明協議，而歐盟在此次立法中進一步強制人工智慧企業在開發通用人工智慧時簽署自我透明協議，兩者本質上都是把社會的監管變成企業內部的自我監管。因此人工智慧頭部企業的內部管理特別重要。這些公司董事會需要由不同價值觀的專家平衡介入，以達到內部制衡的效果。
他山之石，可以攻玉。歐盟《人工智慧法案》關於發展和監管的平衡，頭部企業的內部監督、頭部企業董事會的專家介入機制等也許可以為不同國家人工智慧的監管提供鑑戒意義。（作者是奇安信團體人員）▲
呂歸亞
近日，歐洲議會、歐盟成員國和歐盟委員會三方，就《人工智慧法案》達成協議。這一法案將成為全球首部人工智慧領域的全面監管法規，但立法實在並不順暢，過程中受到諸多質疑並歷經反覆。
《人工智慧法案》進一步完善了歐盟的新興數字規則手冊，該手冊包含《通用資料保護條例》、《數字服務法》和《數字市場法》等法案，對數字經濟的不同方面進行了規範。《人工智慧法案》立法始於2021年。去年6月，空中客車和西門子等多家歐洲大型企業表示，法案過於嚴苛，不利於培育立異和匡助本土工業。此前，法、德、意也曾表示反對草案的一些劃定，以為這些法案會影響本國人工智慧初創公司的發展。
此次關於《人工智慧法案》主要有兩個重要爭議點，一是包括面部識別在內的實時生物識別技術在公共場所的使用；二是基礎模型及通用人工智慧（AGI）的監管。有關生物識別技術，最棘手的談判難點是對實時生物識別工具的限制程度。除了維護國家安全和執法等個別情況外，此次法案原則上禁止實施生物識別，所以在公共場所使用該技術有許多限制護欄，這裡不再贅述。下面主要談對大模型及通用人工智慧的監管。
歐盟《人工智慧法案》的核心是風險分類系統，即根據人工智慧系統對人的健康、安全和基本權利構成的風險程度對其進行監管。風險分為四類：不可接受、高、有限和最低/無。通用人工智慧的提供者將承擔與高風險人工智慧系統類似的義務。開發者必需滿意各種要求，證實其技術及其使用不會對健康、安全和基本權利構成重大威脅。開發者需提供風險管理和資料管理方案、監控和記實留存實踐、具體的文件記實，並保障人工智慧的透明度和人工監視義務，以確保人工智慧的準確性及穩健性達到網路安全尺度。高風險人工智慧系統還必需在歐盟範圍內的公共資料庫中註冊。
大語言模型開發人員存在基本的透明度要求。那些構成系統性風險的生成式人工智慧應用的開發者將需要簽署自願行為準則，相關的尺度涉及算力、貿易使用者數量和模型引數。將計算能力在10—25（GPU的數目）以上練習的AI模型定性為基礎模型，超過這些閾值的模型將面臨額外的義務，包括嚴格的評估、系統性風險評估、網路安全措施和能源消耗表露等。
作為全球首部人工智慧領域的全面監管法規，歐盟方案可以給我們帶來一些啟示。首先，該法案體現了歐盟但願在人工智慧領域實現彎道超車。美國已經在網際網路行業形成“天然壟斷”，但相較之下，新興的人工智慧行業目前還處於百家爭鳴的階段。固然美國的微軟等科技巨頭有一定的先發上風，但新創企業依然可以在新賽道中勝出。假如《人工智慧法案》限制了立異，就可能會重蹈DeepMind被迫賣給Google的覆轍。德國初創企業Aleph Alpha GmbH上月剛融資超過5億美元，法國的Mistral AI也在新賽道領先。假如歐盟此時澆滅創業之火，那無異於自毀長城。
其次，像人工智慧這樣的新興技術，政府部門很難進行全面監管，由於目前還無法正確猜測人工智慧技術帶來的影響。正如人類無法在第一輛汽車還在設計測試階段就制定詳盡的交規。開發期間的繁雜監管可能也會導致技術發展的延後。為兼顧發展和監管，不妨將技術和應用分開監管，放鬆對技術開發的初期限制。
此前，美國政府同包括微軟和OpenAI在內的7家頭部人工智慧企業簽署自發性的資訊透明協議，而歐盟在此次立法中進一步強制人工智慧企業在開發通用人工智慧時簽署自我透明協議，兩者本質上都是把社會的監管變成企業內部的自我監管。因此人工智慧頭部企業的內部管理特別重要。這些公司董事會需要由不同價值觀的專家平衡介入，以達到內部制衡的效果。
他山之石，可以攻玉。歐盟《人工智慧法案》關於發展和監管的平衡，頭部企業的內部監督、頭部企業董事會的專家介入機制等也許可以為不同國家人工智慧的監管提供鑑戒意義。（作者是奇安信團體人員）▲
呂歸亞
近日，歐洲議會、歐盟成員國和歐盟委員會三方，就《人工智慧法案》達成協議。這一法案將成為全球首部人工智慧領域的全面監管法規，但立法實在並不順暢，過程中受到諸多質疑並歷經反覆。
《人工智慧法案》進一步完善了歐盟的新興數字規則手冊，該手冊包含《通用資料保護條例》、《數字服務法》和《數字市場法》等法案，對數字經濟的不同方面進行了規範。《人工智慧法案》立法始於2021年。去年6月，空中客車和西門子等多家歐洲大型企業表示，法案過於嚴苛，不利於培育立異和匡助本土工業。此前，法、德、意也曾表示反對草案的一些劃定，以為這些法案會影響本國人工智慧初創公司的發展。
此次關於《人工智慧法案》主要有兩個重要爭議點，一是包括面部識別在內的實時生物識別技術在公共場所的使用；二是基礎模型及通用人工智慧（AGI）的監管。有關生物識別技術，最棘手的談判難點是對實時生物識別工具的限制程度。除了維護國家安全和執法等個別情況外，此次法案原則上禁止實施生物識別，所以在公共場所使用該技術有許多限制護欄，這裡不再贅述。下面主要談對大模型及通用人工智慧的監管。
歐盟《人工智慧法案》的核心是風險分類系統，即根據人工智慧系統對人的健康、安全和基本權利構成的風險程度對其進行監管。風險分為四類：不可接受、高、有限和最低/無。通用人工智慧的提供者將承擔與高風險人工智慧系統類似的義務。開發者必需滿意各種要求，證實其技術及其使用不會對健康、安全和基本權利構成重大威脅。開發者需提供風險管理和資料管理方案、監控和記實留存實踐、具體的文件記實，並保障人工智慧的透明度和人工監視義務，以確保人工智慧的準確性及穩健性達到網路安全尺度。高風險人工智慧系統還必需在歐盟範圍內的公共資料庫中註冊。
大語言模型開發人員存在基本的透明度要求。那些構成系統性風險的生成式人工智慧應用的開發者將需要簽署自願行為準則，相關的尺度涉及算力、貿易使用者數量和模型引數。將計算能力在10—25（GPU的數目）以上練習的AI模型定性為基礎模型，超過這些閾值的模型將面臨額外的義務，包括嚴格的評估、系統性風險評估、網路安全措施和能源消耗表露等。
作為全球首部人工智慧領域的全面監管法規，歐盟方案可以給我們帶來一些啟示。首先，該法案體現了歐盟但願在人工智慧領域實現彎道超車。美國已經在網際網路行業形成“天然壟斷”，但相較之下，新興的人工智慧行業目前還處於百家爭鳴的階段。固然美國的微軟等科技巨頭有一定的先發上風，但新創企業依然可以在新賽道中勝出。假如《人工智慧法案》限制了立異，就可能會重蹈DeepMind被迫賣給Google的覆轍。德國初創企業Aleph Alpha GmbH上月剛融資超過5億美元，法國的Mistral AI也在新賽道領先。假如歐盟此時澆滅創業之火，那無異於自毀長城。
其次，像人工智慧這樣的新興技術，政府部門很難進行全面監管，由於目前還無法正確猜測人工智慧技術帶來的影響。正如人類無法在第一輛汽車還在設計測試階段就制定詳盡的交規。開發期間的繁雜監管可能也會導致技術發展的延後。為兼顧發展和監管，不妨將技術和應用分開監管，放鬆對技術開發的初期限制。
此前，美國政府同包括微軟和OpenAI在內的7家頭部人工智慧企業簽署自發性的資訊透明協議，而歐盟在此次立法中進一步強制人工智慧企業在開發通用人工智慧時簽署自我透明協議，兩者本質上都是把社會的監管變成企業內部的自我監管。因此人工智慧頭部企業的內部管理特別重要。這些公司董事會需要由不同價值觀的專家平衡介入，以達到內部制衡的效果。
他山之石，可以攻玉。歐盟《人工智慧法案》關於發展和監管的平衡，頭部企業的內部監督、頭部企業董事會的專家介入機制等也許可以為不同國家人工智慧的監管提供鑑戒意義。（作者是奇安信團體人員）▲
呂歸亞
近日，歐洲議會、歐盟成員國和歐盟委員會三方，就《人工智慧法案》達成協議。這一法案將成為全球首部人工智慧領域的全面監管法規，但立法實在並不順暢，過程中受到諸多質疑並歷經反覆。
《人工智慧法案》進一步完善了歐盟的新興數字規則手冊，該手冊包含《通用資料保護條例》、《數字服務法》和《數字市場法》等法案，對數字經濟的不同方面進行了規範。《人工智慧法案》立法始於2021年。去年6月，空中客車和西門子等多家歐洲大型企業表示，法案過於嚴苛，不利於培育立異和匡助本土工業。此前，法、德、意也曾表示反對草案的一些劃定，以為這些法案會影響本國人工智慧初創公司的發展。
此次關於《人工智慧法案》主要有兩個重要爭議點，一是包括面部識別在內的實時生物識別技術在公共場所的使用；二是基礎模型及通用人工智慧（AGI）的監管。有關生物識別技術，最棘手的談判難點是對實時生物識別工具的限制程度。除了維護國家安全和執法等個別情況外，此次法案原則上禁止實施生物識別，所以在公共場所使用該技術有許多限制護欄，這裡不再贅述。下面主要談對大模型及通用人工智慧的監管。
歐盟《人工智慧法案》的核心是風險分類系統，即根據人工智慧系統對人的健康、安全和基本權利構成的風險程度對其進行監管。風險分為四類：不可接受、高、有限和最低/無。通用人工智慧的提供者將承擔與高風險人工智慧系統類似的義務。開發者必需滿意各種要求，證實其技術及其使用不會對健康、安全和基本權利構成重大威脅。開發者需提供風險管理和資料管理方案、監控和記實留存實踐、具體的文件記實，並保障人工智慧的透明度和人工監視義務，以確保人工智慧的準確性及穩健性達到網路安全尺度。高風險人工智慧系統還必需在歐盟範圍內的公共資料庫中註冊。
大語言模型開發人員存在基本的透明度要求。那些構成系統性風險的生成式人工智慧應用的開發者將需要簽署自願行為準則，相關的尺度涉及算力、貿易使用者數量和模型引數。將計算能力在10—25（GPU的數目）以上練習的AI模型定性為基礎模型，超過這些閾值的模型將面臨額外的義務，包括嚴格的評估、系統性風險評估、網路安全措施和能源消耗表露等。
作為全球首部人工智慧領域的全面監管法規，歐盟方案可以給我們帶來一些啟示。首先，該法案體現了歐盟但願在人工智慧領域實現彎道超車。美國已經在網際網路行業形成“天然壟斷”，但相較之下，新興的人工智慧行業目前還處於百家爭鳴的階段。固然美國的微軟等科技巨頭有一定的先發上風，但新創企業依然可以在新賽道中勝出。假如《人工智慧法案》限制了立異，就可能會重蹈DeepMind被迫賣給Google的覆轍。德國初創企業Aleph Alpha GmbH上月剛融資超過5億美元，法國的Mistral AI也在新賽道領先。假如歐盟此時澆滅創業之火，那無異於自毀長城。
其次，像人工智慧這樣的新興技術，政府部門很難進行全面監管，由於目前還無法正確猜測人工智慧技術帶來的影響。正如人類無法在第一輛汽車還在設計測試階段就制定詳盡的交規。開發期間的繁雜監管可能也會導致技術發展的延後。為兼顧發展和監管，不妨將技術和應用分開監管，放鬆對技術開發的初期限制。
此前，美國政府同包括微軟和OpenAI在內的7家頭部人工智慧企業簽署自發性的資訊透明協議，而歐盟在此次立法中進一步強制人工智慧企業在開發通用人工智慧時簽署自我透明協議，兩者本質上都是把社會的監管變成企業內部的自我監管。因此人工智慧頭部企業的內部管理特別重要。這些公司董事會需要由不同價值觀的專家平衡介入，以達到內部制衡的效果。
他山之石，可以攻玉。歐盟《人工智慧法案》關於發展和監管的平衡，頭部企業的內部監督、頭部企業董事會的專家介入機制等也許可以為不同國家人工智慧的監管提供鑑戒意義。（作者是奇安信團體人員）▲
呂歸亞
近日，歐洲議會、歐盟成員國和歐盟委員會三方，就《人工智慧法案》達成協議。這一法案將成為全球首部人工智慧領域的全面監管法規，但立法實在並不順暢，過程中受到諸多質疑並歷經反覆。
《人工智慧法案》進一步完善了歐盟的新興數字規則手冊，該手冊包含《通用資料保護條例》、《數字服務法》和《數字市場法》等法案，對數字經濟的不同方面進行了規範。《人工智慧法案》立法始於2021年。去年6月，空中客車和西門子等多家歐洲大型企業表示，法案過於嚴苛，不利於培育立異和匡助本土工業。此前，法、德、意也曾表示反對草案的一些劃定，以為這些法案會影響本國人工智慧初創公司的發展。
此次關於《人工智慧法案》主要有兩個重要爭議點，一是包括面部識別在內的實時生物識別技術在公共場所的使用；二是基礎模型及通用人工智慧（AGI）的監管。有關生物識別技術，最棘手的談判難點是對實時生物識別工具的限制程度。除了維護國家安全和執法等個別情況外，此次法案原則上禁止實施生物識別，所以在公共場所使用該技術有許多限制護欄，這裡不再贅述。下面主要談對大模型及通用人工智慧的監管。
歐盟《人工智慧法案》的核心是風險分類系統，即根據人工智慧系統對人的健康、安全和基本權利構成的風險程度對其進行監管。風險分為四類：不可接受、高、有限和最低/無。通用人工智慧的提供者將承擔與高風險人工智慧系統類似的義務。開發者必需滿意各種要求，證實其技術及其使用不會對健康、安全和基本權利構成重大威脅。開發者需提供風險管理和資料管理方案、監控和記實留存實踐、具體的文件記實，並保障人工智慧的透明度和人工監視義務，以確保人工智慧的準確性及穩健性達到網路安全尺度。高風險人工智慧系統還必需在歐盟範圍內的公共資料庫中註冊。
大語言模型開發人員存在基本的透明度要求。那些構成系統性風險的生成式人工智慧應用的開發者將需要簽署自願行為準則，相關的尺度涉及算力、貿易使用者數量和模型引數。將計算能力在10—25（GPU的數目）以上練習的AI模型定性為基礎模型，超過這些閾值的模型將面臨額外的義務，包括嚴格的評估、系統性風險評估、網路安全措施和能源消耗表露等。
作為全球首部人工智慧領域的全面監管法規，歐盟方案可以給我們帶來一些啟示。首先，該法案體現了歐盟但願在人工智慧領域實現彎道超車。美國已經在網際網路行業形成“天然壟斷”，但相較之下，新興的人工智慧行業目前還處於百家爭鳴的階段。固然美國的微軟等科技巨頭有一定的先發上風，但新創企業依然可以在新賽道中勝出。假如《人工智慧法案》限制了立異，就可能會重蹈DeepMind被迫賣給Google的覆轍。德國初創企業Aleph Alpha GmbH上月剛融資超過5億美元，法國的Mistral AI也在新賽道領先。假如歐盟此時澆滅創業之火，那無異於自毀長城。
其次，像人工智慧這樣的新興技術，政府部門很難進行全面監管，由於目前還無法正確猜測人工智慧技術帶來的影響。正如人類無法在第一輛汽車還在設計測試階段就制定詳盡的交規。開發期間的繁雜監管可能也會導致技術發展的延後。為兼顧發展和監管，不妨將技術和應用分開監管，放鬆對技術開發的初期限制。
此前，美國政府同包括微軟和OpenAI在內的7家頭部人工智慧企業簽署自發性的資訊透明協議，而歐盟在此次立法中進一步強制人工智慧企業在開發通用人工智慧時簽署自我透明協議，兩者本質上都是把社會的監管變成企業內部的自我監管。因此人工智慧頭部企業的內部管理特別重要。這些公司董事會需要由不同價值觀的專家平衡介入，以達到內部制衡的效果。
他山之石，可以攻玉。歐盟《人工智慧法案》關於發展和監管的平衡，頭部企業的內部監督、頭部企業董事會的專家介入機制等也許可以為不同國家人工智慧的監管提供鑑戒意義。（作者是奇安信團體人員）▲
