2024年重塑網(wǎng)絡(luò)安全的主要人工智能趨勢

未來幾年，人工智能將成為網(wǎng)絡(luò)威脅和公司應(yīng)對這些威脅的主要因素。以下是應(yīng)對這些新威脅以及決定如何將人工智能融入網(wǎng)絡(luò)安全運營時需要牢記的一些主要趨勢。

人工智能極大地加快了網(wǎng)絡(luò)威脅形勢的變化速度。它大大降低了全球網(wǎng)絡(luò)犯罪分子的進(jìn)入門檻，從廣泛使用的強(qiáng)大社交工程工具（如大型語言模型(LLM)和深度偽造）到人工智能驅(qū)動的監(jiān)控和數(shù)據(jù)分析。與此同時，企業(yè)越來越多地使用人工智能通過漏洞評估、補救和自動化安全任務(wù)來加強(qiáng)其網(wǎng)絡(luò)防御。

趨勢一：人工智能將推動新一波社會工程攻擊

LLM和深度偽造的出現(xiàn)將使社會工程變得更加有效。根據(jù)《2024年數(shù)據(jù)泄露調(diào)查報告》，68%的泄露事件涉及人為因素。這就是為什么網(wǎng)絡(luò)犯罪分子利用其武器庫中的新AI武器來欺騙和操縱員工以滲透網(wǎng)絡(luò)、竊取敏感信息并竊取資金。

例如，網(wǎng)絡(luò)犯罪分子正在使用LLM大量制作高度個性化且令人信服的網(wǎng)絡(luò)釣魚信息，受害者更有可能點擊這些信息。谷歌報告稱，公司應(yīng)該預(yù)料到LLM會被“用于網(wǎng)絡(luò)釣魚、短信和其他社會工程操作”。與此同時，微軟已經(jīng)觀察到全球主要網(wǎng)絡(luò)犯罪組織廣泛使用LLM。

網(wǎng)絡(luò)犯罪分子還利用深度偽造發(fā)起復(fù)雜的多層次網(wǎng)絡(luò)攻擊。例如，受害者收到網(wǎng)絡(luò)釣魚信息后，可能會打電話確認(rèn)，最終與深度偽造的對話者交談。

趨勢二：人工智能將迫使企業(yè)重新評估現(xiàn)有的網(wǎng)絡(luò)安全流程

雖然人工智能為企業(yè)提供了比以往更廣泛的網(wǎng)絡(luò)安全工具，但該技術(shù)的快速發(fā)展也引發(fā)了一場人工智能軍備競賽——隨著防御能力的提高，入侵方法也在不斷改進(jìn)。這意味著首席信息安全官和其他安全領(lǐng)導(dǎo)者將不得不重新評估幾種主要的網(wǎng)絡(luò)安全機(jī)制。

例如，深度偽造將使生物特征身份驗證變得不那么有效，最新研究發(fā)現(xiàn)，到2026年，30%的企業(yè)將不再認(rèn)為這些“身份驗證解決方案單獨來看是可靠的”。各家企業(yè)正在建立支持人工智能的“身份威脅檢測和響應(yīng)”工具，例如根據(jù)內(nèi)容、發(fā)件人憑證和電子郵件標(biāo)頭信息分析消息的網(wǎng)絡(luò)釣魚防御。但網(wǎng)絡(luò)犯罪分子也在借助LLM和其他人工智能工具開發(fā)變通方法，而網(wǎng)絡(luò)釣魚仍然是最常見且成本第二高的初始攻擊媒介。

預(yù)計到2025年，人工智能將要求企業(yè)在應(yīng)用和數(shù)據(jù)安全方面的支出至少增加15%。這與其他研究一致，例如普華永道最近的一份報告發(fā)現(xiàn)，79%的高管將在2024年增加網(wǎng)絡(luò)支出，高于2023年的64%。首席信息安全官和其他安全領(lǐng)導(dǎo)者必須確定如何盡可能有效地進(jìn)行這些投資。

趨勢三：人工智能將對供應(yīng)鏈網(wǎng)絡(luò)安全產(chǎn)生重大影響

供應(yīng)鏈泄露是最具破壞性的網(wǎng)絡(luò)攻擊之一。SolarWinds黑客攻擊是有史以來最大的入侵事件之一，該企業(yè)發(fā)現(xiàn)“最有可能的攻擊媒介是通過第三方應(yīng)用獲取憑證和/或訪問?！备鶕?jù)Verizon的最新數(shù)據(jù)，2023年至2024年間，涉及泄露的“供應(yīng)鏈互連”數(shù)量增加了68%。

預(yù)計到2025年，全球45%的組織將遭受針對其軟件供應(yīng)鏈的網(wǎng)絡(luò)攻擊，這一數(shù)字比2021年增加了三倍。供應(yīng)鏈網(wǎng)絡(luò)攻擊的新時代已經(jīng)到來。IBM報告稱，2023年27%的總違規(guī)行為可歸因于對軟件或業(yè)務(wù)合作伙伴供應(yīng)鏈的攻擊。

企業(yè)可以使用人工智能來運行模擬，以反映潛在的供應(yīng)鏈攻擊，檢測欺詐和惡意網(wǎng)絡(luò)活動，并幫助企業(yè)在發(fā)生違規(guī)時縮短響應(yīng)時間。但人工智能也允許網(wǎng)絡(luò)犯罪分子探測供應(yīng)鏈中潛在的薄弱環(huán)節(jié)，并發(fā)起社會工程攻擊，讓他們立足于關(guān)鍵接入點。這些提醒我們，在整個供應(yīng)鏈中實施正確的安全協(xié)議至關(guān)重要，從人工智能識別和響應(yīng)系統(tǒng)到高質(zhì)量的網(wǎng)絡(luò)安全意識培訓(xùn)。

趨勢四：人工智能時代，全面的網(wǎng)絡(luò)安全至關(guān)重要

人工智能軍備競賽愈演愈烈，企業(yè)不能再等待最新的網(wǎng)絡(luò)安全技術(shù)發(fā)布。在社交工程仍然是大多數(shù)網(wǎng)絡(luò)攻擊的首選策略的時代，安全領(lǐng)導(dǎo)者必須確保在企業(yè)的各個層面培養(yǎng)網(wǎng)絡(luò)安全文化，并為員工提供保護(hù)組織所需的資源。

IBM表示，員工培訓(xùn)是數(shù)據(jù)泄露總體成本中最重要的緩解因素之一，其作用超過了保險、加密、人工智能驅(qū)動的洞察力和其他資源。人工智能和網(wǎng)絡(luò)安全培訓(xùn)應(yīng)該相輔相成。預(yù)計到2028年，威脅檢測和事件響應(yīng)中的多智能體人工智能占人工智能實施的比例將從5%上升到70%，主要用于增強(qiáng)員工能力，而不是取代員工。

網(wǎng)絡(luò)安全意識培訓(xùn)必須不斷發(fā)展以滿足人工智能時代的需求。這不僅僅意味著培訓(xùn)員工識別復(fù)雜的LLM生成的網(wǎng)絡(luò)釣魚消息和深度偽造。它還意味著利用人工智能生成預(yù)測行為檔案，通過定制干預(yù)措施解決員工的特定弱點，并在員工不再信任自己的眼睛和耳朵的時代賦予員工阻止網(wǎng)絡(luò)攻擊的能力。企業(yè)必須優(yōu)先投資于人工智能增強(qiáng)員工隊伍，而不僅僅是任務(wù)自動化。為GenAI帶來的短期支出增加和長期技能需求變化做好準(zhǔn)備。

近90%的組織仍在研究或試用生成式人工智能，因此很難預(yù)測哪些技術(shù)和應(yīng)用會隨著炒作周期而消退，哪些技術(shù)和應(yīng)用會繼續(xù)存在。但企業(yè)可以通過制定全面的網(wǎng)絡(luò)安全戰(zhàn)略來應(yīng)對未來的任何情況，該戰(zhàn)略既能利用人工智能的力量，又能讓員工做好準(zhǔn)備，抵御這項革命性技術(shù)帶來的快速演變的威脅。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。