在有關新一代網路安全技術的討論中，AI無疑是一個高頻出現的詞彙，總是被反覆提及。當前的網路攻擊形勢愈發嚴峻，安全人員對於利用AI技術保護數字資產表現出了極大熱情。而AI技術開發人員更是對「AI能夠增強網路安全防禦能力」這一願景持樂觀態度。他們認為，人為錯誤是不可避免的，而AI技術可以利用大資料和機器學習持續性觀察和監控威脅發展趨勢，從而最佳化提升某些防禦行為。
但事物總是具有雙面性，隨著對AI技術應用效果的觀察，很多使用者和安全專家發現，目前的AI技術還並不能成為網路安全領域的「救世主」，至少並非像很多安全廠商宣傳的那樣。人們往往只關注AI的好處，卻有意或無意地忽略了它的應用缺陷。這種對AI看法的偏見引起了一些研究人員的擔憂，他們認為，尚不成熟的AI技術應用，正在為網路攻擊者製造新的漏洞。
研究人員發現，AI技術在網路安全方面的應用弊端主要包括以下幾點：
1、過度依賴大資料
掌握充分的資料是AI技術應用的基礎，如果不考慮資料質量和充分性，AI的準確性就會無法保證。如果組織希望利用AI技術檢測網路威脅、預測攻擊並做出相應的反應，就必須通過機器學習演算法模型提供大量的真實資料訓練它。對於大型組織來說，這可能不是問題，因為他們本身就擁有大量資料。但是，對於那些只想保護自己的網路安全的中小型企業使用者呢？目前，安全廠商正在給使用者營造的印象是，AI技術是包羅萬象的，但事實卻並非如此，因為對那些缺少大資料資源的企業或組織而言，幾乎無法有效使用AI技術。
2、資料洩露
就保護資料隱私而言，處理資料的人越少越好。因為在網路安全領域為實施AI技術創建基礎環境既不容易也不便宜，它需要高水平專業技術技能支撐。當企業無法自己管理運營基於AI技術的安全解決方案時，將不得不將其外包給第三方供應商，雖然相關供應商可能會做出「保密」的承諾，但事實上，這個過程增加了企業的資料暴露面和攻擊面。同時，第三方供應商也可能為了自身利益而濫用客戶資料，並且難以被監控審計。
3、駭客的目標
網路犯罪分子也在將緊跟網路安全趨勢視為首要任務。隨著AI技術在網路安全方面應用受到廣泛關注，他們正竭盡所能地利用這一趨勢。當安全專家嘗試用最新的演算法加強安全防禦時，網路犯罪分子很可能已經在這些演算法中發現了新的安全漏洞。在網路安全領域，沒人能壟斷AI技術，獨享其帶來的優勢。入侵者和防禦者之間存在一場利益爭奪。如果入侵者沒能搶在防禦者前面，他們的惡意企圖就不會得逞，所以入侵者也同樣會努力保持領先。
4、AI應用技能不足
擁有一個良好的網路安全環境並不是只靠部署最新的技術就能實現，而是需要能夠理解安全防護技術的原理並有效地利用它。除非是專業的網路安全人士，否則很難具備徹底使用AI技術的知識和技能。即便僱傭了AI專業人士來管理網路安全，但如果相關負責人員不了解演算法及其工作原理，也無法獲得理想的結果。而且，供應商所使用的演算法模型可能並不適合企業的網路，如果企業對此並不了解，也將無法獲悉這一點。
5、沒有創造力和自發性
網路安全技術的目標是為了解決安全問題，因此並不存在完全通用的網路安全方法。就好像在「地面」部署的防禦機制可能阻止不了來之「空中」的打擊。為了能夠及時找出惡意活動，必須要能夠應用自發策略來管理特定的攻擊。網路專業人士擁有實時遏制網路攻擊的專業知識，他們可以用自己的創造力和自發性來應對獨特的環境。而這一點正是AI技術所缺乏的，因為它主要是通過持續訓練來養成分析和處置行為的。當一些未經過AI演算法訓練的惡意活動出現時，它將無法保護您的系統，因為AI技術缺乏人類即興發揮、隨機應變的第六感。
6、不切實際的期望
AI技術在網路安全領域的過度炒作讓很多使用者產生了不切實際的期望。似乎有了AI，就可以不用擔心網路攻擊了。但這是一個不能實現的承諾，因為AI技術遠非完美。AI安全系統是由人設計的，因此根本無法避免漏洞的存在。儘管，AI演算法可以為企業提供更好的決策和分析所需的資料，但它並不能為組織的網路安全需求提供「萬能的」解決方案。因此，企業在應用AI技術前，必須準確了解它可以為自身的網路安全增加哪些價值，以及應如何實現這種價值。
參考連結：
https://www.makeuseof.com/downsides-artificial-intelligence-cybersecurity/