郭嫻：深化大模型賦能工業領域網絡安全 推進融合應用護航新型工業化
時間：2024-07-02
一、大模型掀起賦能千行百業新浪潮
大模型泛指具有大規模參數和計算能力的深度學習模型，由數十億及以上參數規模的深度神經網絡構建而成。大模型通過訓練大量語料，可獲得類似人類的思考能力，理解文本、代碼、圖片等信息，實現文本生成、推理問答、科學預測等功能。當前OpenAI公司的GPT-3大模型的參數量為1750億，GPT-4參數量約為1.8萬億，華為公司盤古大模型3.0的參數量為1000億，百度文心一言大模型為2600億。
大模型可分為通用大模型和行業大模型。通用大模型普遍基于大規模、多樣化的數據集進行訓練，具有更廣泛的應用領域和知識覆蓋能力，但針對特定行業的專業性和精準度不足。通用大模型大部分閉源，如OpenAI的GPT、百度的文心一言、華為的盤古大模型等。行業大模型基于通用大模型底座，結合行業數據進行二次訓練和微調，在特定領域具有更高的專業性。
近年來，大模型深度賦能垂直行業趨勢越發凸顯，目前已廣泛賦能智能制造、智慧能源、智慧鋼鐵、智慧鐵路、智慧金融、智慧醫療、智慧城市、氣象預報等應用領域，帶動千行百業智能化升級。如冠捷科技應用基于盤古大模型的印刷電路板組裝（PCBA）智能質檢解決方案，實現缺陷檢出率穩定保持在99.9%以上，降低工廠和車間側模型適配和運維成本超80%，降低人力成本80%。中國國家氣象中心應用氣象大模型，實現中長期氣象預報精度首次超過傳統數值方法，速度提升1萬倍以上。
二、“大模型+安全”驅動防護手段升級
工業領域網絡安全大模型是行業大模型的具體分支。目前國內外網絡安全公司普遍使用開源的通用大模型作為基礎模型，結合安全業務場景數據進行二次訓練和微調，形成相關網絡安全大模型產品，參數量多在100億-700億之間。基于大模型的語義分析、代碼理解、復雜推理等能力，可驅動工業領域網絡安全工具、產品和服務智能化升級，對于保障數字化轉型過程的網絡安全具有巨大潛力和廣闊空間。
（一）賦能安全運營，支撐打造智能化自動化運營體系
安全運營指企業通過運營已部署的各類安全產品，綜合分析多維安全數據，研判整體安全狀況，實現滲透測試、威脅研判、攻擊鏈路還原、脆弱性掃描、響應處置等目標。安全運營對于維護業務連續性和穩定性意義重大。傳統安全運營方式有兩種。一是人工運營，其應用最為廣泛，但完全依賴于技術人員精力和技能。二是以安全編排自動化與響應（SOAR）為核心的自動化運營，通過人工設定運營腳本，按腳本流程調用各類安全設備接口。該方式只適用于重復出現的簡單場景，且仍依賴人工。
基于大模型的語義分析和復雜推理能力，通過學習海量安全知識，可拆解復雜任務目標，自動化設計運營工作流程、調用安全工具和API接口，能夠滿足復雜運營場景需求。如在網站滲透測試場景下，大模型將依次調用資產探測、漏洞掃描、漏洞利用等工具，執行資產架構摸排、脆弱性掃描、控制權限獲取等任務，以實現滲透目標、自動輸出測試報告。美國微軟、谷歌等科技公司，將大模型廣泛運用于安全智能運營、攻擊路徑還原、虛擬專家培育、安全事件響應等領域，為政企合作強化網絡安全防護能力創造有利條件。
（二）賦能漏洞挖掘，助力加固產業鏈供應鏈安全基石
漏洞挖掘指通過分析、測試等方式發現軟件、系統或網絡中存在的未知安全漏洞，是識別工業控制產品安全隱患、防范網絡威脅的關鍵手段。漏洞挖掘能力關乎工業領域產業鏈供應鏈安全水平。與信息技術產品相比，工業控制產品專業程度高、協議封閉性強、行業差別大，涉及品牌、型號眾多，基于白盒的漏洞挖掘通過人工分析開展源代碼審計，嚴重依賴測試人員對代碼的理解水平且漏洞挖掘效率低下。
基于大模型的代碼理解等能力，結合工業業務場景、通信協議等專業知識，充分學習工業控制產品漏洞特征、代碼語義特征，可自動化檢測未知漏洞或開展代碼審計，實現漏洞補丁識別、二進制代碼比對和模糊測試等，大幅提高漏洞挖掘效率和檢測準確率。美國發起“人工智能網絡挑戰賽”（AIxCC），設立2000萬美元獎金池，通過技術競賽探索大模型等人工智能網絡安全解決方案，以挖掘和修復關鍵基礎設施領域重要軟件的漏洞。鑒于大模型對二進制函數語義特征的保留更加完整，在未知網絡協議漏洞挖掘方面的優勢將更加顯著。
（三）賦能威脅情報，有效提升網絡攻防對抗制勝優勢
威脅情報是各類有價值的網絡威脅信息的集合，是為還原已發生攻擊和預測未知攻擊所需的一切線索。常見的威脅情報信息有APT組織信息、惡意域名、惡意IP、釣魚郵箱地址等。威脅情報搜集、分析和利用能力是在工業領域網絡安全攻防對抗中制勝的關鍵因素。在大模型出現之前，人工智能中的自然語言處理技術已對情報預處理起到關鍵作用，可自動提取情報要點，方便用戶檢索。
基于大模型的語義分析、深度學習等能力，可顯著強化威脅情報檢索、歸類、要點提取、整合分析水平，更快速、準確地對來源不同、結構各異的海量模糊信息進行智能分析，自動研判、處置或預測安全威脅。美國網絡安全和基礎設施安全局（CISA）將大模型等人工智能技術應用于“網絡威脅情報源關聯分析”等業務系統中，提高安全防御水平。美國情報公司Recorded
Future利用大模型收集海量的威脅情報數據，進行特征提取和聚類分析，幫助用戶更好地識別安全威脅、預測攻擊行為。美國安全公司SentinelOne基于大語言模型推出網絡安全威脅搜索工具，簡化搜索復雜度，擴大搜索規模，有效提高威脅情報搜集分析效率。
三、融合應用面臨技術瓶頸與安全挑戰
（一）部分安全應用場景落地難，當前成效較為有限
盡管工業領域網絡安全是大模型理想的應用領域，但落地好用有效的安全行業大模型依然道阻且長。一是大模型流量檢測速度較低，難以滿足實時性要求，且可能提高威脅誤報率。因此在實際應用中，威脅特征比對和機器學習小模型分析仍然是主要的流量威脅檢測手段。二是大模型在漏洞挖掘領域的應用成效高度依賴于通用大模型底座的代碼理解水平，安全行業大模型成效提升較為有限。三是在威脅情報應用場景下，由于威脅情報的質量取決于情報信息本身，而非預處理過程，且安全行業大模型語義分析能力高度依賴于通用大模型底座基礎，強化其應用效果存在瓶頸。
（二）安全運營成重點布局領域，技術難題仍待破解
從大模型賦能工業領域網絡安全的細分領域來看，目前安全運營是布局最多的領域，具有良好的應用前景，如360、齊安信、綠盟、安恒信息、啟明星辰、金睛云華、長亭科技等企業的大模型均布局在該領域。然而，大模型應用于安全運營領域仍面臨三大難題。一是缺乏高質量的安全專業數據。安全行業大模型高度依賴訓練數據的質量，且部分數據在訓練前需結合實際場景人工進行分類和標注，用于訓練的安全數據集匱乏是目前亟需攻克的難點。二是大模型訓練和推理算力消耗大、成本高。以部分安全公司采用的LLaMA大模型為例，其訓練一個65B的模型，所需的GPU多達2048塊、耗時長達21天；在用戶側執行單次復雜任務推理時，也需較高的算力資源和時間成本。三是大模型推理結果可信度不穩定。大模型是黑盒模型，其決策過程和判斷依據缺乏可解釋性，生成答案的可信度無法保證。若直接依賴生成結果開展安全運營，可能導致錯誤判斷和決策。
（三）大模型自身存在脆弱性，或引發網絡安全風險
一是大模型“中毒”風險。大模型因應用的開源工具存在安全漏洞、在研發和迭代過程中易引入安全缺陷等，存在算法脆弱性。攻擊者可利用這些漏洞，通過“投毒”修改或創建大模型訓練數據，可能導致工業生產計劃、物料供給、生產監測等輸出數據發生錯誤，輕則致使生產延誤，重則引發安全事故。二是應用接口不可用風險。調用應用接口是大模型服務的顯著特征。一旦攻擊者利用僵尸網絡對大模型應用接口發起大量請求，將造成服務器和網絡資源緊張，使得正常服務無法響應。三是大規模數據泄露風險。大模型的訓練數據通常包含大量的敏感信息或高價值數據，如果這些數據被泄露或濫用，將對數據安全造成嚴重威脅。四是基礎大模型級聯風險。一旦基礎大模型存在安全漏洞，或訓練數據被惡意篡改，相關安全風險將傳導至安全行業大模型以及用戶細分場景模型，干擾工業領域模型決策，級聯效應所引發的后果將不可估量。
四、新形勢下推進大模型安全應用的思路
在全球各國加快搶占人工智能制高點、我國制造業數字化智能化轉型如火如荼的背景下，亟需把握“人工智能+”機遇，以大模型等人工智能技術賦能工業領域網絡安全，有效應對嚴峻安全形勢，護航新型工業化發展。
一是完善政策標準體系，促進大模型安全發展。在推動落實《網絡安全法》《數據安全法》等法規文件的基礎上，針對大模型帶來的新問題新挑戰，研究制定配套政策標準，圍繞大模型安全測評、大模型訓練工業數據安全、大模型服務工業領域網絡安全防護等方面，指導行業有序發展。突出重點行業企業網絡安全防護主體責任，細化大模型應用場景的防護要求，指導企業提升風險防范應對能力。
二是強化業界協同攻關，推進大模型技術創新。鼓勵業界共同構建網絡安全行業高水平語料庫，推動訓練數據規范化共享，解決高質量安全數據缺乏難題，提高大模型在工業領域網絡安全場景下的基礎分析能力。研究突破運營場景下的大模型推理加速、可信度提升等方法，降低對人工智能加速卡的算力依賴，減小訓練數據中不準確信息對模型的影響，持續提高大模型的易用性、準確度和安全水平。
三是加速安全產品迭代，釋放大模型應用效能。推進大模型在安全運營、滲透測試、漏洞挖掘等方面與現有人工智能小模型、常規自動化技術有機結合，融合攻擊矩陣精準還原網絡攻擊鏈路，加快形成并推廣應用整體安全解決方案，切實增強工業領域網絡安全威脅發現、應急響應和溯源反制等能力，助力工業企業進一步提升智能化安全防護水平。
（作者：郭嫻 國家工業信息安全發展研究中心監測應急所所長，正高級工程師。長期從事工業信息安全相關政策標準研究、技術保障能力建設、行業咨詢等工作。）
來源：工信安全之窗