生成式人工智能：網(wǎng)絡(luò)安全的福還是禍？

生成式人工智能：網(wǎng)絡(luò)安全的福還是禍？

上個(gè)月，Elon Musk寫(xiě)了一封公開(kāi)信，要求將人工智能系統(tǒng)的開(kāi)發(fā)暫停6個(gè)月，并警告稱“與人類競(jìng)爭(zhēng)的智能可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)”。雖然這聽(tīng)起來(lái)有些危言聳聽(tīng)，但生成式人工智能帶來(lái)的威脅是真實(shí)存在的，并且隨著人工智能生成的網(wǎng)絡(luò)釣魚(yú)電子郵件、惡意軟件和深度造假活動(dòng)的興起，這種威脅在網(wǎng)絡(luò)安全領(lǐng)域已經(jīng)非常明顯。隨著這項(xiàng)技術(shù)變得更加先進(jìn)，生成式人工智能將不可避免地繼續(xù)促進(jìn)網(wǎng)絡(luò)犯罪活動(dòng)，并賦予“想成為”網(wǎng)絡(luò)犯罪分子以越來(lái)越復(fù)雜的方式攻擊組織的能力，通常無(wú)需編寫(xiě)一行代碼。

毫無(wú)疑問(wèn)，組織應(yīng)該關(guān)注這個(gè)新的生成式人工智能時(shí)代帶來(lái)的風(fēng)險(xiǎn)。然而，這項(xiàng)技術(shù)也可用于防止惡意行為者，支持防病毒軟件、欺詐檢測(cè)以及身份和訪問(wèn)管理。

生成式人工智能將繼續(xù)存在，尤其是首席信息安全官（CISO），不能對(duì)這項(xiàng)新技術(shù)帶來(lái)的風(fēng)險(xiǎn)視而不見(jiàn)。那么，風(fēng)險(xiǎn)是什么？組織如何在新的生成式人工智能驅(qū)動(dòng)的威脅環(huán)境中保護(hù)自己？

網(wǎng)絡(luò)犯罪分子利用生成式人工智能

ChatGPT和類似的生成式人工智能模型的出現(xiàn)創(chuàng)造了一個(gè)新的威脅格局，幾乎任何人都可以對(duì)組織進(jìn)行惡意網(wǎng)絡(luò)活動(dòng)。網(wǎng)絡(luò)犯罪分子不再需要具備高級(jí)編碼知識(shí)或技能。其所需要的只是惡意，以及對(duì)ChatGPT的訪問(wèn)權(quán)限。

影響欺詐應(yīng)該是未來(lái)組織特別關(guān)注的領(lǐng)域。絕不是一個(gè)新的或新穎的概念。多年來(lái)，機(jī)器人一直被用來(lái)在社交媒體平臺(tái)和主流媒體評(píng)論區(qū)生成評(píng)論，以塑造政治話語(yǔ)。例如，在2016年總統(tǒng)大選前幾周，人們發(fā)現(xiàn)機(jī)器人轉(zhuǎn)發(fā)唐納德·特朗普的推文是希拉里·克林頓的十倍。但現(xiàn)在在生成式人工智能的時(shí)代，這種類型的欺騙——在歷史上是為高層政治欺詐而保留的——可能會(huì)滲透到組織層面。理論上，惡意行為者可以在幾秒鐘內(nèi)使用ChatGPT或Google Bard在社交媒體、主流新聞媒體或客戶服務(wù)頁(yè)面上生成數(shù)百萬(wàn)條有害信息。針對(duì)企業(yè)（包括其客戶和員工）的精心設(shè)計(jì)的攻擊可以以前所未有的規(guī)模和速度執(zhí)行。

組織的另一個(gè)主要擔(dān)憂是惡意機(jī)器人的激增。2021年，全球27.7%的互聯(lián)網(wǎng)流量由惡意機(jī)器人構(gòu)成，而在過(guò)去幾年中，這一數(shù)字只增不減。憑借其先進(jìn)的自然語(yǔ)言處理能力，ChatGPT可以生成真實(shí)的用戶代理字符串、瀏覽器指紋和其他屬性，使抓取機(jī)器人看起來(lái)更像合法用戶。事實(shí)上，根據(jù)最近的一份報(bào)告，GPT-4非常擅長(zhǎng)生成語(yǔ)言，其能讓一個(gè)人相信其是盲人，以便讓那個(gè)人為聊天機(jī)器人解決驗(yàn)證碼問(wèn)題。這對(duì)企業(yè)構(gòu)成了巨大的安全威脅，并且隨著生成式人工智能的發(fā)展，這將成為一個(gè)日益嚴(yán)重的問(wèn)題。

生成式人工智能可以成為首席信息安全官的福音

生成式人工智能帶來(lái)的風(fēng)險(xiǎn)無(wú)疑是令人擔(dān)憂的，但這項(xiàng)技術(shù)將繼續(xù)存在，并迅速發(fā)展。因此，首席信息安全官（CISO）必須利用生成式人工智能來(lái)加強(qiáng)其網(wǎng)絡(luò)安全策略，并開(kāi)發(fā)更強(qiáng)大的防御措施，以抵御新出現(xiàn)的復(fù)雜惡意攻擊。

CISO目前面臨的最大挑戰(zhàn)之一是網(wǎng)絡(luò)安全技能差距。到目前為止，全球大約有350萬(wàn)個(gè)網(wǎng)絡(luò)職位空缺。最終，如果沒(méi)有熟練的員工，組織根本無(wú)法保護(hù)自己免受威脅。然而，生成式人工智能為這一行業(yè)挑戰(zhàn)提供了解決方案，ChatGPT和Google Bard等工具可用于加快手工工作，減少網(wǎng)絡(luò)安全人員的工作流程。特別是，特別是ChatGPT可以幫助加速代碼開(kāi)發(fā)和檢測(cè)漏洞代碼，提高代碼的安全性。GPT-4代碼解釋器的引入改變了人員短缺的組織的游戲規(guī)則，因?yàn)榉爆嵅僮鞯淖詣?dòng)化可以騰出時(shí)間讓安全專家專注于戰(zhàn)略問(wèn)題。通過(guò)引入由GPT-4驅(qū)動(dòng)的Microsoft Security Copilot，Microsoft已經(jīng)在幫助網(wǎng)絡(luò)安全人員簡(jiǎn)化這些操作。

此外，人工智能聊天機(jī)器人工具可以支持事件響應(yīng)。例如，在發(fā)生機(jī)器人攻擊時(shí)，ChatGPT和Google Bard可以向安全團(tuán)隊(duì)提供實(shí)時(shí)信息并幫助協(xié)調(diào)響應(yīng)活動(dòng)。該技術(shù)還可以協(xié)助分析攻擊數(shù)據(jù)，幫助安全團(tuán)隊(duì)識(shí)別攻擊源，并采取適當(dāng)措施來(lái)控制和減輕其影響。

組織還可以使用ChatGPT和其他生成式人工智能模型來(lái)分析大量數(shù)據(jù)，以識(shí)別可能表明犯罪機(jī)器人存在的模式和異常情況。通過(guò)分析聊天記錄、社交媒體數(shù)據(jù)和其他信息來(lái)源，人工智能工具可以幫助檢測(cè)，并提醒安全團(tuán)隊(duì)注意潛在的機(jī)器人攻擊，以免造成重大損害。

新生成式人工智能時(shí)代的保護(hù)

我們現(xiàn)在已經(jīng)進(jìn)入了生成式人工智能時(shí)代，因此組織面臨著更加頻繁和復(fù)雜的網(wǎng)絡(luò)攻擊。CISO必須接受這一新現(xiàn)實(shí)，并利用人工智能的力量來(lái)對(duì)抗這些人工智能增強(qiáng)的網(wǎng)絡(luò)攻擊。未能實(shí)時(shí)使用機(jī)器學(xué)習(xí)的網(wǎng)絡(luò)安全解決方案最終注定要落后。

例如，我們知道，由于生成式人工智能，組織將見(jiàn)證試圖在其網(wǎng)站上進(jìn)行欺詐的惡意機(jī)器人數(shù)量激增。在一個(gè)惡意行為者使用機(jī)器人即服務(wù)來(lái)制造復(fù)雜、隱蔽威脅的世界中，選擇不利用機(jī)器學(xué)習(xí)來(lái)阻止這些威脅，就像在槍?xiě)?zhàn)中帶刀一樣。因此，現(xiàn)在比以往任何時(shí)候都更需要人工智能驅(qū)動(dòng)的機(jī)器人檢測(cè)和阻止工具來(lái)確保組織網(wǎng)絡(luò)安全。

一個(gè)恰當(dāng)?shù)睦邮牵簜鹘y(tǒng)的驗(yàn)證碼，長(zhǎng)期以來(lái)被認(rèn)為是一種值得信賴的網(wǎng)絡(luò)安全工具，無(wú)法與當(dāng)今的機(jī)器人相提并論。機(jī)器人現(xiàn)在使用人工智能來(lái)傳遞“老派”驗(yàn)證碼，如交通信號(hào)燈圖像，促使企業(yè)需要首先升級(jí)到挑戰(zhàn)流量的解決方案，將驗(yàn)證碼作為最后的手段，然后僅使用網(wǎng)絡(luò)安全豐富的驗(yàn)證碼。此外，組織可以通過(guò)實(shí)施多重身份驗(yàn)證和基于身份的訪問(wèn)控制來(lái)保護(hù)自己，這些訪問(wèn)控制通過(guò)用戶的生物識(shí)別數(shù)據(jù)授予用戶訪問(wèn)權(quán)限，這將有助于減少未經(jīng)授權(quán)的訪問(wèn)和濫用。

生成式人工智能給組織帶來(lái)了重大的安全風(fēng)險(xiǎn)，但如果使用得當(dāng)，也可以幫助減輕其所造成的威脅。網(wǎng)絡(luò)安全是一場(chǎng)貓捉老鼠的游戲，CISO需要領(lǐng)先一步，以保護(hù)其組織免受毀滅性的財(cái)務(wù)和聲譽(yù)損害，這些損害可能成為這種新的人工智能驅(qū)動(dòng)的威脅環(huán)境的一部分。通過(guò)了解威脅，并以有效的方式使用技術(shù)，CISO可以保護(hù)其組織免受生成式人工智能帶來(lái)的新出現(xiàn)的攻擊。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。