IDC數(shù)據顯示，2022年中國網絡安全軟件市場規(guī)模達39.2億美元，同比增長12.5%。

　　12.5%

　　8月9日，以“安全即服務 開啟人工智能時代數(shù)字安全新范式”為主題的“ISC 2023第十一屆互聯(lián)網安全大會”在北京開幕。與會嘉賓表示，人工智能時代的數(shù)據安全問題尤為突出，解決AI大模型安全問題需要技術、監(jiān)管共同發(fā)力；應前瞻布局人工智能與網絡安全技術融合創(chuàng)新，增強產業(yè)鏈、供應鏈韌性和安全水平。

　　AI大模型安全成熱點

　　當前，AI大模型安全問題成為影響AI行業(yè)深入發(fā)展的熱點話題。中央網信辦網絡安全協(xié)調局副局長羅鋒盈表示，生成式人工智能大力推動我國經濟社會發(fā)展，同時存在生成信息準確性、真實性等亟需解決的問題。中國工程院院士鄔江興表示，AI大模型存在“三不可”內生安全個性問題，以及漏洞、后門等內生安全共性問題。

　　“人工智能的應用系統(tǒng)由基礎軟硬件、數(shù)據系統(tǒng)和人工智能算法、模型和上層應用組成，自身存在內生安全問題?！编w江興介紹，深度學習AI模型存在“三不可”內生安全個性問題，這也是AI技術的基因缺陷。一是神經網絡“黑箱”特點導致人工智能存在不可解釋性；二是深度學習對訓練樣本過度依賴，導致學習結果的不可判定性；三是神經網絡前向推進過程的不可逆，導致結果不可推論性。

　　此外，內生安全共性問題不可忽視?！癆I應用系統(tǒng)硬件環(huán)境總要放在服務器上，有操作系統(tǒng)、CPU、存儲器等，這些數(shù)據軟硬件環(huán)節(jié)存在漏洞、后門等內生安全共性問題。內生安全個性和共性問題往往是交織存在的，使得AI應用系統(tǒng)的安全問題變得極其復雜，給政府、企業(yè)使用和維護應用帶來前所未有的挑戰(zhàn)?！编w江興表示。

　　“人工智能時代的數(shù)據安全問題尤為突出?！敝袊こ淘涸菏?、ISC名譽主席鄔賀銓認為，大模型訓練依托海量數(shù)據，開源數(shù)據集、互聯(lián)網數(shù)據容易得到，但數(shù)據集的質量值得推敲。如果拿這些數(shù)據來訓練，內容風險程度可想而知。如果用企業(yè)自有數(shù)據進行大模型訓練，就要考慮數(shù)據泄露的安全風險。

　　羅鋒盈表示，要把數(shù)據資源真正轉換成數(shù)字經濟的發(fā)展動力，不僅要看地區(qū)總量上存儲的數(shù)據規(guī)模有多大，還要看真正可提供、可共享給企業(yè)、機構、個人的數(shù)據有多少。

　　鄔賀銓稱，當前AI安全評估工作主要由企業(yè)自己負責，不少互聯(lián)網公司有安全評估資質，國家也有安全評估中心，但仍有很多安全問題沒有被評估出來?！叭斯ぶ悄芗夹g發(fā)展和它帶來的安全問題，我們認識還不夠?！编w賀銓坦言。

　　堅持協(xié)同創(chuàng)新

　　業(yè)內人士表示，AI大模型安全問題需要企業(yè)、監(jiān)管部門共同發(fā)力。

　　從技術解決辦法來看，網絡安全企業(yè)、參與AI大模型技術研發(fā)和產品開發(fā)的企業(yè)是解決安全問題的主力軍。

　　“AI大模型安全超越許多傳統(tǒng)安全經驗，不能用解決網絡安全的思想解決數(shù)據安全問題，不能簡單利用解決數(shù)據安全的思路解決人工智能安全。”360集團創(chuàng)始人周鴻祎表示，解決AI大模型安全問題需要技術跨界，讓具備AI大模型研發(fā)能力和網絡安全建設能力的企業(yè)在其中發(fā)揮作用。越了解AI大模型工作原理，越有能力解決它的安全風險。

　　鄔江興提出了一個新思路，即利用內生安全理論中的動態(tài)異構冗余（DHR）構造方法，賦能AI應用系統(tǒng)內生安全實驗。

　　鄔江興表示，紫金山實驗室將在今年四季度舉辦第六屆國際精英挑戰(zhàn)賽，并新設AI應用系統(tǒng)安全賽道，這是世界上首次針對AI應用系統(tǒng)內生安全問題進行人機對抗的比賽。他呼吁更多的專家學者和企業(yè)界人士參與到AI應用系統(tǒng)內生安全研究和實踐中來，共同推動AI時代的網絡空間安全發(fā)展。

　　安全監(jiān)管方面，羅鋒盈表示，在AI大模型安全問題受到廣泛重視的背景下，中央網信辦會同相關部門起草并發(fā)布了《生成式人工智能服務管理暫行辦法》，辦法將于8月15日正式施行。

　　“在起草過程中，我們始終把推進人工智能等新技術發(fā)展應用作為工作的重要出發(fā)點和落腳點，支持和促進人工智能產業(yè)發(fā)展。將規(guī)范的范圍限制在生成式人工智能，自動駕駛等其他人工智能應用不受影響，并且只規(guī)范向公眾提供服務的情形，企業(yè)、科研機構、高校等開展科研攻關不在監(jiān)管之列?！绷_鋒盈稱。

　　中國互聯(lián)網協(xié)會理事長尚冰建議，解決生成式人工智能帶來的網絡安全新挑戰(zhàn)，要堅持協(xié)同創(chuàng)新。互聯(lián)網龍頭企業(yè)要積極開展原創(chuàng)性、引領性、基礎性安全技術攻關，延伸技術領域拓展產品服務范圍，完善產品矩陣。互聯(lián)網初創(chuàng)企業(yè)要發(fā)揮快速靈活、資源集中的特點，以創(chuàng)新技術和產品切入細分領域，推動產品服務和行業(yè)發(fā)展緊密結合。堅持合規(guī)發(fā)展，提升安全治理水平。互聯(lián)網企業(yè)應嚴格落實網絡安全相關法律法規(guī)和政策文件要求，加強自身安全能力建設，構建全流程、全環(huán)節(jié)隱私合規(guī)體系。

　　網絡安全市場逐步擴容

　　中國網絡安全市場規(guī)模穩(wěn)步擴大。IDC數(shù)據顯示，2022年中國網絡安全軟件市場規(guī)模達39.2億美元，同比增長12.5%。

　　尚冰表示，我國網絡安全產業(yè)發(fā)展動能強勁。數(shù)據顯示，2022年，我國網絡安全產業(yè)規(guī)模近2200億元。網絡安全企業(yè)主體日益壯大。截至2022年底，中國已有21家網絡安全企業(yè)上市，越來越多的互聯(lián)網企業(yè)、設備廠商、電信運營商成為網絡安全領域新生力量。

　　AI大模型浪潮為網絡安全產業(yè)帶來發(fā)展新機遇。據中國證券報記者統(tǒng)計，360集團、安恒信息、綠盟科技、啟明星辰、中國移動等A股上市公司，阿里巴巴、騰訊、百度等互聯(lián)網企業(yè)深度參與AI安全市場。

　　同時，AI大模型也為網絡安全產業(yè)發(fā)展賦能。周鴻祎表示，360集團正在研發(fā)安全大模型。360有全球最大的網絡安全攻擊樣本庫和攻擊過程全記錄知識庫，通過訓練安全知識集，360旨在打造“安全萬事通”和安全垂直領域專家。“當系統(tǒng)遇到攻擊報警時，不再由人做判斷，而是由大模型來判斷這是一次攻擊還是誤報。目前，判斷準確率已經提升到超96%，待超99%的時候便可投入使用?！?/p>

　　工業(yè)和信息化部網絡安全管理局局長隋靜表示，創(chuàng)新是網絡安全保障能力提升的根本動力。要健全科技創(chuàng)新體系，強化企業(yè)創(chuàng)新主體地位，全面激發(fā)企業(yè)創(chuàng)新活力。前瞻布局人工智能與網絡安全技術融合創(chuàng)新，增強產業(yè)鏈、供應鏈韌性和安全水平。要完善支持產業(yè)發(fā)展的政策措施，引導供給不斷提升，需求充分釋放，構建供需雙向發(fā)力，產業(yè)鏈協(xié)同聯(lián)動的高水平動態(tài)平衡。要創(chuàng)新網絡安全服務模式，引導資本加大對產業(yè)的支持力度，加快培育一批網絡安全“專精特新”企業(yè)。要充分發(fā)揮聯(lián)盟協(xié)會紐帶作用，培育壯大產業(yè)生態(tài)，推動網絡安全產業(yè)高質量發(fā)展。

● 本報記者 彭思雨