2024年人工智能將如何改變安全格局

了解攻擊者和防御者之間不斷變化的動(dòng)態(tài)的方法之一是通過(guò)外部因素的視角。在進(jìn)行此類(lèi)分析時(shí)，我們通常將主要因素縮寫(xiě)為“PESTLE”，這是政治、經(jīng)濟(jì)、社會(huì)、技術(shù)、法律和環(huán)境力量的首字母縮寫(xiě)詞。毫無(wú)疑問(wèn)，我們看到在網(wǎng)絡(luò)威脅領(lǐng)域引起最大波瀾的技術(shù)因素是人工智能的快速發(fā)展。

網(wǎng)絡(luò)犯罪分子越來(lái)越多地使用人工智能來(lái)提高攻擊的有效性和效率。同時(shí)，對(duì)于防御者來(lái)說(shuō)，人工智能被證明是安全團(tuán)隊(duì)的強(qiáng)大盟友，可以改善威脅檢測(cè)和補(bǔ)救。人工智能自動(dòng)化安全任務(wù)的需求來(lái)得正是時(shí)候。

預(yù)計(jì)今年人工智能在網(wǎng)絡(luò)安全領(lǐng)域的影響將顯著增長(zhǎng)。它將推動(dòng)網(wǎng)絡(luò)釣魚(yú)技術(shù)的發(fā)展，加速系統(tǒng)中漏洞的發(fā)現(xiàn)。人工智能還將加速網(wǎng)絡(luò)入侵的發(fā)展和應(yīng)對(duì)。為了領(lǐng)先于已經(jīng)開(kāi)始采用人工智能的對(duì)手，安全團(tuán)隊(duì)必須了解人工智能帶來(lái)的威脅，以及它有望改善網(wǎng)絡(luò)防御的機(jī)會(huì)。

2024年，各組織應(yīng)重點(diǎn)關(guān)注人工智能有望改變網(wǎng)絡(luò)安全的三個(gè)領(lǐng)域：

1.人工智能增強(qiáng)的社會(huì)工程攻擊

2024年，人工智能將進(jìn)一步擴(kuò)大社交工程攻擊的規(guī)模和有效性，在短短幾分鐘內(nèi)就能創(chuàng)建極具說(shuō)服力的網(wǎng)絡(luò)釣魚(yú)誘餌。網(wǎng)絡(luò)犯罪分子將利用人工智能，利用社交媒體和被入侵的電子郵件賬戶中的數(shù)據(jù)，制作個(gè)性化的網(wǎng)絡(luò)釣魚(yú)信息。這些復(fù)雜的誘餌將很難被發(fā)現(xiàn)，即使是訓(xùn)練有素的員工也難以發(fā)現(xiàn)。

此外，生成式人工智能將使網(wǎng)絡(luò)犯罪分子成為更厲害的騙子。人工智能將幫助攻擊者用不同的語(yǔ)言編寫(xiě)出文筆流暢、令人信服的網(wǎng)絡(luò)釣魚(yú)電子郵件和網(wǎng)站，使他們能夠?qū)⒐舴秶鷶U(kuò)大到各個(gè)地區(qū)。我們期望看到社會(huì)工程攻擊的質(zhì)量得到提高，使目標(biāo)和安全團(tuán)隊(duì)更難發(fā)現(xiàn)誘餌。因此，我們可能會(huì)看到與社會(huì)工程相關(guān)的風(fēng)險(xiǎn)和危害有所增加——從欺詐到網(wǎng)絡(luò)入侵。

隨著人工智能生成的電子郵件與合法電子郵件幾乎難以區(qū)分，僅依靠員工培訓(xùn)來(lái)保護(hù)用戶是不夠的。相反，安全團(tuán)隊(duì)?wèi)?yīng)該考慮隔離技術(shù)，如微虛擬化，它不依賴(lài)檢測(cè)來(lái)保護(hù)員工。這項(xiàng)技術(shù)在隔離的虛擬環(huán)境中打開(kāi)危險(xiǎn)文件和鏈接，防止惡意軟件和軟件漏洞（甚至零日威脅）感染設(shè)備。

2.本地大型語(yǔ)言模型（LLM）

隨著計(jì)算能力的提升，新一代計(jì)算機(jī)將能夠運(yùn)行本地LLM，而無(wú)需依賴(lài)強(qiáng)大的外部服務(wù)器。這將使計(jì)算機(jī)和用戶能夠充分受益于AI，重新定義人們與設(shè)備的交互方式。

這些本地LLM承諾提高效率和生產(chǎn)力，同時(shí)通過(guò)獨(dú)立于互聯(lián)網(wǎng)工作提供安全和隱私優(yōu)勢(shì)。然而，如果沒(méi)有得到妥善保護(hù)，本地模型及其處理的敏感數(shù)據(jù)可能會(huì)使端點(diǎn)成為攻擊者更大的目標(biāo)。

此外，許多企業(yè)正在部署基于LLM的聊天機(jī)器人，以提升和擴(kuò)展其客戶服務(wù)。但底層的人工智能技術(shù)可能會(huì)帶來(lái)新的信息安全和隱私風(fēng)險(xiǎn)，例如可能泄露敏感數(shù)據(jù)。今年，我們可能會(huì)看到網(wǎng)絡(luò)犯罪分子試圖操縱聊天機(jī)器人繞過(guò)安全措施來(lái)獲取機(jī)密信息。

3.高級(jí)固件和硬件攻擊

人工智能正在推動(dòng)技術(shù)民主化，幫助技能水平較低的用戶更高效地執(zhí)行更復(fù)雜的任務(wù)。然而，盡管人工智能提高了組織的防御能力，但它也有可能幫助惡意行為者對(duì)較低系統(tǒng)層（即固件和硬件）進(jìn)行攻擊，而近年來(lái)，對(duì)固件和硬件的攻擊力度一直在增加。

從歷史上看，此類(lèi)攻擊需要大量的技術(shù)專(zhuān)長(zhǎng)，但人工智能開(kāi)始有望降低這些障礙。這可能會(huì)導(dǎo)致更多人努力利用較低級(jí)別的系統(tǒng)，讓攻擊者在操作系統(tǒng)和業(yè)界最好的軟件安全防御之下立足。

隨著時(shí)間的推移，我們預(yù)計(jì)針對(duì)系統(tǒng)固件的惡意軟件的頻率會(huì)增加。這些攻擊依賴(lài)于利用操作系統(tǒng)下的弱點(diǎn)。專(zhuān)注于關(guān)閉硬件和固件攻擊面對(duì)于應(yīng)對(duì)這些威脅至關(guān)重要。

網(wǎng)絡(luò)安全的新前沿

人工智能將改變網(wǎng)絡(luò)安全，為安全團(tuán)隊(duì)提供大量機(jī)會(huì)來(lái)改善其威脅檢測(cè)和響應(yīng)。例如，人工智能將通過(guò)自動(dòng)檢測(cè)有針對(duì)性的網(wǎng)絡(luò)釣魚(yú)嘗試來(lái)幫助保護(hù)用戶。

2024年推出的計(jì)算機(jī)也將帶來(lái)安全優(yōu)勢(shì)，讓用戶可以在設(shè)備上安全地使用AI，而無(wú)需承擔(dān)將數(shù)據(jù)存儲(chǔ)在云端的風(fēng)險(xiǎn)。這些設(shè)備還將通過(guò)自動(dòng)鎖定和隱私屏幕等功能增強(qiáng)數(shù)據(jù)隱私。

然而，要有效使用人工智能，企業(yè)應(yīng)該首先考慮安全性。這意味著了解數(shù)據(jù)和環(huán)境，建立威脅模型以了解風(fēng)險(xiǎn)，選擇預(yù)防和檢測(cè)技術(shù)的平衡，并實(shí)施零信任原則以確保數(shù)據(jù)安全。最后，組織應(yīng)考慮與值得信賴(lài)的人工智能安全提供商合作，以充分利用人工智能，同時(shí)最大限度地降低其安全和隱私風(fēng)險(xiǎn)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。