人工智能正日益成為新質(zhì)生產(chǎn)力的重要要素和核心驅(qū)動力，推動生產(chǎn)方式和生產(chǎn)關系發(fā)生深刻變革。當前，一系列人工智能交叉領域的重大突破正在重新定義人類社會的數(shù)據(jù)交互、多模態(tài)生成、智能制造、信息連接和智算資源范式。以Vision Pro為代表的空間計算、以Sora為代表的生成式人工智能、以Figure01為代表的具身機器人、以Starlink為代表的天地一體化網(wǎng)絡和以GB200為代表的算力基礎設施，都昭示著以人工智能為代表的戰(zhàn)略性新興科技產(chǎn)業(yè)集群對傳統(tǒng)生產(chǎn)力和生產(chǎn)關系格局的重塑已成為不可逆轉(zhuǎn)的趨勢。人工智能新質(zhì)生產(chǎn)力急速崛起，數(shù)字技術與實體經(jīng)濟加速融合，智能化發(fā)展成為社會共識。
人工智能技術的廣泛應用，在促進數(shù)字社會發(fā)展的同時，也為網(wǎng)絡攻擊帶來了新的途徑和手段，并引發(fā)一系列亟待應對的安全挑戰(zhàn)，比如，“奶奶漏洞”可以繞過人工智能倫理提示詞攻擊、GPU算力芯片可被側信道攻擊、大模型深度偽造詐騙、生成式人工智能生成虛假新聞等，這些網(wǎng)絡安全事件都暴露出人工智能安全問題的新變化。導致網(wǎng)絡攻擊加劇主要有以下三方面原因：一是人工智能賦能網(wǎng)絡攻擊手段升級。網(wǎng)絡攻防技術呈現(xiàn)自動化、智能化、體系化快速演進等趨勢，網(wǎng)絡攻擊更加隱蔽高效；二是人工智能系統(tǒng)自身安全挑戰(zhàn)凸顯。人工智能系統(tǒng)自身也面臨數(shù)據(jù)中毒、模型竊取、算法歧視等諸多安全風險，網(wǎng)絡攻擊更加多變難溯；三是人工智能引發(fā)的倫理與社會風險加劇。人工智能誤判、濫用、失控、操縱等引發(fā)的連鎖反應極可能導致災難性后果，網(wǎng)絡攻擊更加未知。
人工智能發(fā)展帶來的網(wǎng)絡安全新挑戰(zhàn)不容忽視，既有技術層面的攻防對抗，也有系統(tǒng)自身的脆弱性，更有深層次的倫理困境。如何筑牢人工智能安全防線，維護人工智能健康發(fā)展，事關國家安全、經(jīng)濟運行和社會穩(wěn)定大局。
人工智能快速發(fā)展將使未來數(shù)字世界具有時空超越性和快速演進性兩大新特征，目前已有的伴生性網(wǎng)絡安全防護已無法有效解決網(wǎng)絡攻擊加劇的新挑戰(zhàn)，亟須加快推動人工智能安全屏障的建設。一是堅持系統(tǒng)思維方式，從國家發(fā)展戰(zhàn)略全局審視新興安全挑戰(zhàn)，注重人工智能安全韌性風險評估，提升戰(zhàn)略威脅預知能力。二是提出新生網(wǎng)絡安全理念，由伴生防護向內(nèi)生防御至新生防范轉(zhuǎn)變，強化主動縱深防御體系。三是凝聚創(chuàng)新聯(lián)合生態(tài)，匯聚交叉科學戰(zhàn)略專家、技術團隊和產(chǎn)業(yè)力量，集中攻研人工智能、數(shù)字孿生、網(wǎng)絡安全等關鍵技術，形成國家戰(zhàn)略科技新力量。四是建設關鍵數(shù)字基礎設施，優(yōu)先面向人工智能+產(chǎn)業(yè)數(shù)字化新場景，加快開展人工智能+先行先試試驗平臺能力建設，提高人工智能安全水平。
堅持高水平科技自立自強，積極開展人工智能安全領域技術攻關。網(wǎng)絡攻擊當前難以徹底根除，應優(yōu)先構建網(wǎng)安事件持續(xù)跟蹤分析能力，可從人、機、物、態(tài)四個方面做安全風險評估，建立一套人工智能產(chǎn)業(yè)安全韌性指標體系，針對不同行業(yè)周期性指數(shù)評估排名，發(fā)揮長處、補齊短板，在考慮技術演進和業(yè)務迭代的前提下，充分結合不同行業(yè)的業(yè)務屬性和技術特征，部署構建功能完備的數(shù)字孿生實驗場景，開展網(wǎng)絡安全能力評估工作。主動謀劃、超前布局，積極達成我國戰(zhàn)略威脅預知能力的實質(zhì)性躍變目標。
未來網(wǎng)絡空間將從靜態(tài)的“場”走向動態(tài)的“境”，人工智能安全需要從單點式、場景化防御方式向全鏈條、情境化的主動防御能力轉(zhuǎn)變?？梢允狼?、國情、民情為基點，從存量、增量、變量三個方面系統(tǒng)性部署網(wǎng)絡安全攻防場景，遵循“孿生—擬生—派生—演生—新生”的邏輯路徑，運用生成式人工智能布置規(guī)劃網(wǎng)絡安全對抗系統(tǒng)，通過情境模擬動態(tài)評估未知安全態(tài)勢變化，持續(xù)提升人工智能安全的風險感知、應急響應、快速處置能力，強化主動縱深防御體系，為構建高質(zhì)量人工智能安全生態(tài)提供堅實保障。
人工智能領域具有強前沿交叉科學屬性，人工智能安全隊伍建設更需要跨領域、跨學科、跨行業(yè)乃至跨國界的人才聚合和交流，應充分發(fā)揮體制優(yōu)勢，積極構建人工智能安全產(chǎn)學研創(chuàng)新聯(lián)合體，逐步打通人才鏈的微循環(huán)、內(nèi)循環(huán)、外循環(huán)和大循環(huán)，加速形成人工智能安全技術創(chuàng)新鏈和未來產(chǎn)業(yè)鏈，為數(shù)字經(jīng)濟做強做優(yōu)做大提供高質(zhì)量人才隊伍。
當前人工智能安全領域的探索大多還處于實驗室研究階段，到應用場景的“最后一公里”有待進一步打通。應加快推進實驗成果向真實場景的延伸，搭建人工智能安全攻防對抗試驗平臺，開展全流程、高頻次的攻防演練，在實戰(zhàn)環(huán)境中檢驗攻防技術，不斷完善人工智能安全防護體系。通過從實驗到試驗的轉(zhuǎn)變，夯實人工智能安全標準規(guī)范、法律法規(guī)的現(xiàn)實基礎，為全面推進以人工智能為代表的未來產(chǎn)業(yè)健康發(fā)展保駕護航。
未來應掌握“場景到情境、存量到變量、孿生到新生、實驗到試驗”的技術路徑演進規(guī)律，加快建設基于數(shù)智孿生的人工智能安全應用技術試驗場，夯實人工智能安全基座，實現(xiàn)對人工智能風險的提早預防、實時監(jiān)測、快速響應和持續(xù)應對，推動人工智能安全治理體系和治理能力的不斷提高，為數(shù)字經(jīng)濟高質(zhì)量發(fā)展筑牢安全之基。
