全國政協委員齊向東：AI加劇安全威脅深刻改變國家安全格局

來源：飛行的小豬釋出時間：2024-03-04 14:23

全國政協委員齊向東：AI加劇安全威脅深刻改變國家安全格局

騰訊財經訊 2024年兩會，全國政協委員、全國工商聯副主席、奇安信董事長齊向東將提案聚焦在了“AI+安全”上。

他認為，人工智慧（AI）是新一輪科技革命和產業變革的核心技術，將為推進中國式現代化注入強大動力。隨著AI技術不斷發展，資料洩露、“深偽”詐騙等安全威脅加劇，針對和利用AI的網路攻擊、AI武器化等安全問題日益凸顯，安全防護難度激增，但AI同時賦能網路安全行業，在促進攻防技術升級上有大作用，越來越多國家和機構加速佈局網路安全與AI技術的融合。

建議大力探索“AI+安全”創新應用，搶佔國家安全的人工智慧戰略制高點，提高我國應對網路空間安全風險與不確定性的能力，護航中國式現代化行穩致遠。

以下為齊向東提案具體內容：

一、人工智慧促進生產力躍升，蘊含極大的安全挑戰，深刻改變國家安全格局。

1、AI加劇安全威脅，如資料洩露、欺詐攻擊、社會治理安全等。以 ChatGPT 為代表的生成式 AI 能快速生成釣魚郵件、編寫惡意軟體與程式碼等，導致攻擊數量增加，AI 欺詐事件頻發。資料顯示，ChatGPT等生成式 AI 導致網路釣魚郵件攻擊增長 135%。生成式AI還帶來了資料非法獲取、資料洩露及惡意濫用等資料安全問題，如ChatGPT在對話互動過程中能獲取使用者資料，加劇資料洩露風險。不法分子還能利用“深度偽造”換臉變聲、偽造影片，“眼見未必為實”將成為常態，網路詐騙大增，甚至引發社會認知混亂。

2、AI加劇攻防失衡，利用和針對 AI的攻擊層出不窮，網路安全“易攻難守”。在AI惡意利用方面，人工智慧大幅降低了網路攻擊門檻，不懂程式碼、不懂技術的普通人也能成為駭客，增加了網路攻擊數量，專業的駭客組織可以利用人工智慧對網路攻擊進行改造升級，比如，利用AI製作惡意軟體、生成規避防毒軟體檢測的程式碼等，網路攻擊能力將出現躍升；在針對 AI 演算法攻擊方面，機器視覺攻擊、資料來源汙染等攻擊頻發，攻擊者能透過對抗樣本、資料投毒、模型竊取等方式對AI演算法進行攻擊，使其產生錯誤判斷，同時由於演算法黑箱和演算法漏洞的存在，這些攻擊往往難以檢測和防範。

3、AI加劇軍事威脅，AI武器化趨勢顯現。一方面，人工智慧可以被用在“機器人殺手”等致命性自主武器(LAW)上，透過自主識別攻擊目標、遠端自動化操作等，隱藏攻擊者來源、建立對抗優勢；另一方面，人工智慧可以將網路、決策者和操作者相連線，讓軍事行動針對性更強、目標更明確、打擊範圍更廣，越來越多國家開始探索AI在軍事領域的應用。資料顯示，2024財年，美國國防部計劃增加與AI相關的網路安全投資，總額約2457億美元，其中674億美元用於網路IT和電子戰能力。

二、抓住三個關鍵，創新發展“AI+安全”，提高應對網路空間安全風險與不確定性的能力，護航中國式現代化。

1. 從供給側看，開展聯合創新，圍繞攻防實戰和應用場景實現“AI+安全”尖端技術研發突破。技術創新產品需要在應用中更新迭代走向成熟，特別是人工智慧大模型，資料樣本越豐富，成長速度越快。建議鼓勵各行業頭部企業與專業安全廠商結成創新聯合體，在關鍵行業選取典型場景開展聯合創新，共同探索大模型安全創新產品在威脅檢測、漏洞挖掘、指揮研判等方面的應用，在實戰中推動“AI+安全”進入越用越強的良性迴圈。

2. 從需求側看，強化政策牽引，推動“AI+安全”技術創新產品在各行業落地應用。把AI用於網路安全防護是新事物，政企機構面對大模型安全創新產品產生疑慮是正常的。積極的政策引導是推動新事物落地應用、成長壯大的催化劑。以新能源汽車產業的發展為例，最初消費者對其安全性有疑慮，密集出臺的財稅補貼、“雙積分”制度等一系列政策，逐步改變了消費者觀念，拉動了新能源汽車產業的發展和技術進步。建議像支援新能源汽車的發展一樣，支援“AI+安全”發展，設定專項基金，對研發創新“AI+安全”產品的企業，給予政府基金、貼息貸款或科研專案等支援；對率先取得技術突破，實現成果轉化的科研機構和企業給予獎勵；對積極使用相關技術、產品和服務的企業給予相應補貼，推動“AI+安全”相關產業取得更多科技創新成果。

3.從人才側看，壯大“AI+安全”領域的實戰型、複合型人才隊伍。隨著AI技術的普及和應用領域的不斷擴充套件，我國AI人才嚴重短缺。工信部資料顯示，人工智慧不同技術方向崗位的人才供需比均低於0.4，其中智慧語音和計算機視覺的崗位人才供需比分別為0.08、0.09，相關人才極度稀缺。建議充分發揮民營企業在人才培養上的優勢，鼓勵成立校企共同體，在實踐中培養更多大資料、人工智慧、網路安全等新興產業領軍人才，為我國搶抓人工智慧機遇培育人才。