“白帽子” 人工智能投身網絡安全攻防戰

面對計算機系統和網絡的缺陷和漏洞，黑客們找準機會實施攻擊，白帽黑客則利用黑客技術來測試網絡和系統的性能以判定它們能夠承受入侵的強弱程度。短短幾年時間，人工智能已進駐多個行業，落地無數場景。其中一些行業和場景已為大家所熟知，還有一些正在進入我們的視野，在網絡安全領域，AI“白帽”正成為網絡安全工程師的得力助手。

據報道，近日美國市場調研公司CB Insights發布報告預測了2019年人工智能行業的發展趨勢，其中一個趨勢便是用人工智能發現網絡威脅。

正在賦能網絡安全

“人工智能技術的蓬勃發展，為網絡安全攻防帶來的，不僅有機遇，也有挑戰。”北京理工大學網絡攻防對抗技術研究所所長閆懷志接受科技日報記者采訪時說。

先說好的一面。360安全研究院鄒權臣博士告訴科技日報記者，目前人工智能已經應用于惡意代碼檢測、惡意流量檢測、威脅情報收集、軟件漏洞挖掘等網絡安全領域。

“例如在惡意代碼檢測方面，人工智能通過對惡意程序的API調用序列、系統CPU利用率、收發的數據包等信息，自動識別惡意代碼的特征，進而判定分類。”鄒權臣介紹，相比于傳統的基于動靜態分析的特征檢測、啟發式檢測技術，人工智能可以大幅度提升檢測的準確率。

360安全研究院研究員張德岳介紹，在軟件漏洞挖掘方面，采用人工智能技術從漏洞相關的數據中提取經驗和知識，并用訓練好的模型提高漏洞挖掘的精度和效率，可以緩解當前該領域研究遇到的一些瓶頸問題，具體應用場景包括漏洞程序篩選、源代碼漏洞點預測等。

“人工智能在網絡安全領域的應用日益廣泛，運用人工智能賦能網絡空間安全，主要體現在主動防御、威脅分析、策略生成、態勢感知、攻防對抗等諸多方面。”閆懷志說，其中包括采用人工神經網絡技術，來檢測入侵行為、蠕蟲病毒等安全風險源;采用專家系統技術，進行安全規劃、安全運行中心管理等;此外人工智能方法還有助于網絡空間安全環境的治理，比如打擊網絡詐騙。

具備明顯“過人之處”

與傳統的應對網絡安全的方式相比，人工智能確實展示了其“過人之處”。

在閆懷志看來，人工智能方法在解決人力所不及的安全大數據統計和抽取規律方面具備天然優勢，它能夠全面提高威脅攻擊的識別、響應和反制速度，提升風險防范的預見性和準確性。特別是在異常行為檢測等應用場景模糊的非精確識別和匹配方面，更是如此。

“人工智能針對未知威脅和攻擊的檢測也更出色。因為傳統的特征匹配方法對未知威脅幾乎無能為力，而人工智能方法有時不需要先驗知識，對未知威脅的檢測能力較強。”閆懷志說。

不得不說，人工智能系統還具備成本效益優勢。閆懷志認為，人工智能可以在第一時間發現和識別預防威脅，并立即啟動應急響應，高效的智能檢測流程有助于減少人工參與、簡化流程、降低成本、減小損失。

“傳統的應對網絡安全的方法依賴于人工硬編碼定義、提取特征的方式完成相關任務，而人工智能可以直接對原始數據進行訓練，從大量的數據中提取特征，自動完成分類判定的工作。”張德岳說，如此一來后者既可以提高網絡安全中預測、防范、檢測、銷控等各個風險環節的自動化和智能化程度，又能提升響應速度和判定的準確率。

不能靠它包打天下

“雖然人工智能攪動了網絡安全領域的一池春水，但是應該理性看待人工智能在應對網絡安全方面的優缺點，不能指望全靠人工智能來包打天下。”閆懷志說，人工智能在應對網絡安全問題時，也有較強的局限性。

鄒權臣分析，這一方面受限于人工智能算法本身的能力。因為傳統的機器學習技術依賴特征提取，而算法的效果和性能又依賴識別和提取特征的準確性。深度學習具有在高維數據中自動提取特征的能力，同時面臨著持續學習、數據饑餓、可解釋性等問題。

“另一方面機器學習、特別是深度學習過分依賴數據，但在惡意代碼檢測、軟件漏洞挖掘等領域，目前仍然存在數據收集困難的問題，缺少較好的數據集用于訓練，影響對相關領域的研究。”鄒權臣補充說，另外人工智能嚴重依賴于耗費計算資源，復雜的深度學習網絡需要同時計算成百上千萬次的計算，需要強大的人工智能芯片計算力的支撐。

閆懷志則從不同方面總結了人工智能的不足。比如，易于忽視或者拋棄人類專家在網絡安全領域的知識和經驗積累，對網絡安全的復雜應用場景考慮不足，對于已知威脅的檢測效率遠低于傳統的精確特征識別方法等。

“使用神經網絡和深度學習等算法，能夠較好地識別出未知攻擊威脅風險，達到‘知其然’的目的，但是這些算法通常無法揭示產生這種安全風險的基本機理，也就是‘不知其所以然’，從而為從源頭防御這種攻擊風險帶來極大障礙。”閆懷志說。

脆弱面帶來安全風險

人工智能在應對網絡安全問題時，有時甚至會展現出脆弱的一面。

“一個真實環境中的人工智能系統，會面臨數據安全、模型/算法安全、實現安全等多方面的安全威脅。”張德岳告訴科技日報記者。

張德岳舉例說，在數據安全方面，在數據收集與標注時出現錯誤或注入惡意數據，將導致數據污染攻擊;在模型/算法安全方面，針對人工智能算法存在黑盒和白盒對抗樣本攻擊，可導致識別系統出現混亂;在實現安全方面，除了人工智能系統本身的代碼實現，其所基于的人工智能框架以及所依賴的第三方軟件庫中的軟件實現漏洞，也都可能導致嚴重安全問題。

“人工智能對現有網絡安全格局的影響，離不開算法、數據和計算能力3個方面，其容易遭受攻擊的弱點也來自于此。”閆懷志總結說。

對于防范人工智能的脆弱性所帶來的安全風險，閆懷志指出：首先要從體系架構、系統算法容錯容侵設計、漏洞檢測和修復、安全配置等方面來增強人工智能系統自身的安全性;其次，要用其所長，盡量減小其暴露給外界的潛在攻擊面;最后要構建網絡空間安全綜合防御體系，從安全技術和安全管理等層面來協同防范安全攻擊，間接減緩攻擊者直接針對人工智能系統發起攻擊以及攻擊成功的可能性。

來自360安全研究院的專家也給出多個建議，其中包括：在數據獲取過程中，要加強對數據來源的控制與過濾，在一定程度上保證數據安全可靠;在數據傳輸過程中，要使用更加安全的傳輸協議與加密算法;在人工智能系統的實現中，要保證代碼質量并進行完善的測試，此外還要及時更新或修補框架或依賴庫中存在的漏洞等。