在不斷發(fā)展的網(wǎng)絡威脅環(huán)境中，防病毒程序和防火墻被視為古代工具，公司目前正在尋找所有技術更先進的方法來保護機密和敏感數(shù)據(jù)。人工智能(AI)正在接受這種情況，以應對全球范圍內(nèi)的數(shù)字威脅。它已成為軍事領域的主流，但是安全組織也正在整合AI技術，以使用深度學習來發(fā)現(xiàn)數(shù)據(jù)集中的相似之處和差異。像Microsoft這樣的組織正在向基于AI的組織投入10億美元，例如Open AI。

正如ESG研究表明的那樣，有29%的安全專家希望利用AI創(chuàng)新來加速病毒檢測過程。此外，有27%的企業(yè)希望通過這種創(chuàng)新來縮短事件響應時間。對AI安全性的興趣源于AI可以在短時間內(nèi)進行分析的代碼的復雜性。

盡管AI可以在網(wǎng)絡安全領域發(fā)揮作用，但在大多數(shù)情況下，并不是由AI驅動這些解決方案。通常，受過訓練的機器學習和AI是令人困惑的術語。在沒有合法編程的情況下，人工智能和機器學習的思考能力有所不同。安全組織利用機器學習為這些技術編寫復雜的算法，以最好地識別安全漏洞。但是，AI系統(tǒng)可以達到新的分辨率，而不會滋養(yǎng)任何新的算法或數(shù)據(jù)。

安全領域中機器學習的挑戰(zhàn)是惡意軟件代碼在不斷變化，這意味著機器學習網(wǎng)絡安全創(chuàng)新背后的編碼人員應始終保持完美，并更改算法以向創(chuàng)新展示如何檢測這些新代碼。但是，防御者能否真正保持對黑客的了解?當然，這是乞求被證明是錯誤的。這是AI可以理解的問題。如果有意識的機器能夠以其惡意軟件合作伙伴的速度發(fā)展，我們就可以更好地防御它。

人工智能具有融合新的，復雜但尚未嘗試的武器的能力，例如網(wǎng)絡攻擊能力。這種進步令人震驚，因為網(wǎng)絡進攻性武器具有破壞主要國家之間軍事力量均等化的能力。隨著人工智能和機器學習技術的出現(xiàn)，網(wǎng)絡攻擊已成為關鍵基礎設施(如機場航班跟蹤，銀行系統(tǒng)，醫(yī)院記錄以及運行該國基本基礎設施和核反應堆的程序)越來越普遍的危險。

阿拉伯聯(lián)合酋長國人工智能國務部長奧馬爾·奧拉瑪(Omar Al Olama)警告說，各國政府對采取積極措施以確保AI框架安全的失望“將再次侵蝕我們”。研究建議最值得注意的問題之一是網(wǎng)絡武器的不穩(wěn)定影響，而人工智能技術對區(qū)域力量平衡的影響越來越大。

盡管沒有確切證據(jù)表明關鍵基礎設施的指揮和控制系統(tǒng)傾向于網(wǎng)絡攻擊，但由于這些系統(tǒng)的數(shù)字化，因此存在漏洞。人工智能網(wǎng)絡武器的不穩(wěn)定影響仍然是每個國家關注的重大問題。毫無疑問，防范這些武器并保護該國的軟件，硬件和私人信息免受網(wǎng)絡攻擊已成為國家安全的重要問題。

與眾不同的是，利用機器學習來發(fā)展網(wǎng)絡威脅的同時，也在利用這些進步來進行安全性和保護，同時明確地生成新的惡意軟件樣本。預計程序員將利用這些技術來修改新樣本中的代碼，具體取決于安全系統(tǒng)如何識別更多較老的疾病。由于它將變得更小并且越來越難以檢測，因此可以延長系統(tǒng)感染的壽命。

政策制定者應與技術專家密切合作，以調(diào)查，預防和應對潛在的威脅性AI使用。研究建議制造AI零時差漏洞，此漏洞目前尚不為人所知，因此，在第一個實驗之前很難建立其修復程序。此外，在AI領域進行紅色團隊演練，例如DARPA網(wǎng)絡大挑戰(zhàn)賽，同樣會更好地幫助您了解進行攻擊和查找障礙的級別。當前在公共領域的研究僅限于白帽黑客，其計劃是利用機器學習來發(fā)現(xiàn)漏洞并提出修復建議。