re:Inforce 2023大會(huì)觀察：生成式AI落地，安全先行

作為全球規(guī)模最大的公有云廠商，亞馬遜云科技擁有兩個(gè)業(yè)界聞名的大會(huì)。第一個(gè)就是被譽(yù)為云計(jì)算發(fā)展風(fēng)向標(biāo)的re:Invent大會(huì)，另一個(gè)就是聚焦安全領(lǐng)域動(dòng)向的re:Inforce大會(huì)。

今年，亞馬遜云科技re:Inforce大會(huì)首次登陸中國(guó)，亞馬遜云科技帶來(lái)了云安全領(lǐng)域的前瞻性思考和敏銳洞察，中國(guó)用戶全面感受到云安全領(lǐng)域的最新趨勢(shì)，以及亞馬遜云科技security of the cloud & security in the cloud核心理念在數(shù)智化時(shí)代的重要價(jià)值。

尤其是從去年興起的生成式AI浪潮，正在極大改變安全領(lǐng)域。隨著人工智能技術(shù)的飛速發(fā)展，安全已經(jīng)成為生成式AI應(yīng)用落地過(guò)程中不可回避的一個(gè)議題。只有做好數(shù)據(jù)、模型和應(yīng)用的安全防護(hù)，生成式AI才能在各行各業(yè)中落地開(kāi)花。正如亞馬遜云科技全球安全副總裁Paul Vixie向大家介紹了亞馬遜云科技在安全合規(guī)方面的成熟經(jīng)驗(yàn)，以助力用戶在AI時(shí)代共啟全面智能的安全。

安全已成不可回避的挑戰(zhàn)

今年以來(lái)，隨著生成式AI浪潮的到來(lái)，生成式AI應(yīng)用在金融、教育、交通等多個(gè)行業(yè)走向落地，與之相關(guān)的安全與風(fēng)險(xiǎn)話題也開(kāi)始涌現(xiàn)。例如，芯片企業(yè)使用ChatGPT導(dǎo)致芯片機(jī)密泄露、AI過(guò)渡采集用戶信息、人工智能應(yīng)用泄露隱私數(shù)據(jù)、黑客利用AI導(dǎo)致攻擊武器濫用……IDC調(diào)研數(shù)據(jù)也顯示，生成式AI的興起，企業(yè)組織在整個(gè)的數(shù)字化轉(zhuǎn)型過(guò)程中對(duì)于網(wǎng)絡(luò)安全的擔(dān)憂最大。

本質(zhì)上，生成式AI等人工智能趨勢(shì)的崛起，本身就對(duì)數(shù)據(jù)有著極強(qiáng)的依賴性，巨大參數(shù)量的大模型+海量數(shù)據(jù)+龐大的終端用戶群，任何一個(gè)環(huán)節(jié)的安全疏漏，都可能會(huì)導(dǎo)致企業(yè)自身數(shù)據(jù)及隱私的泄露，或者產(chǎn)生不準(zhǔn)確甚至錯(cuò)誤的結(jié)果。全球性安全組織OWASP指出，在大語(yǔ)言模型的應(yīng)用過(guò)程中，當(dāng)企業(yè)沒(méi)有規(guī)定好數(shù)據(jù)邊界、權(quán)限、應(yīng)用的API控制，就有可能成為新的數(shù)據(jù)泄露途徑。

顯然，生成式AI應(yīng)用已成為一把雙刃劍，既帶來(lái)了生產(chǎn)力的飛躍提升，又對(duì)數(shù)字安全產(chǎn)業(yè)將產(chǎn)生重大影響，攻擊側(cè)、防守側(cè)乃至監(jiān)管側(cè)都需要思考與應(yīng)對(duì)生成式AI等新技術(shù)趨勢(shì)帶來(lái)各種風(fēng)險(xiǎn)。

亞馬遜云科技強(qiáng)調(diào)，安全體系的建設(shè)需要跳出傳統(tǒng)框架，從應(yīng)用、數(shù)據(jù)、框架、基礎(chǔ)設(shè)施以及合規(guī)體系全棧視角來(lái)思考應(yīng)該如何建設(shè)好安全、合規(guī)的AI應(yīng)用。

“云計(jì)算大大地助力了大量激增的數(shù)據(jù)和大規(guī)?？捎玫挠?jì)算資源的實(shí)現(xiàn)，住退了人工智能高速迅速?，F(xiàn)在，安全已是企業(yè)AI戰(zhàn)略中的核心環(huán)節(jié)?！眮嗰R遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞直言道。

數(shù)據(jù)和模型安全是關(guān)鍵

眾所周知，生成式AI應(yīng)用背后是大語(yǔ)言模型。一個(gè)成功的大語(yǔ)言模型需要不斷的“投喂”海量非結(jié)構(gòu)化數(shù)據(jù)，并且在應(yīng)用中不斷進(jìn)行微調(diào)、優(yōu)化。

在亞馬遜云科技看來(lái)，數(shù)據(jù)和模型安全是構(gòu)建AI應(yīng)用的關(guān)鍵基礎(chǔ)。代聞介紹：“無(wú)論是一開(kāi)始的訓(xùn)練，還是后續(xù)的微調(diào)與優(yōu)化，靜態(tài)數(shù)據(jù)和動(dòng)態(tài)數(shù)據(jù)的存儲(chǔ)、傳輸以及使用都需要比之前更高的安全保護(hù)措施?！?/p>

具體來(lái)看，亞馬遜云科技的思路是以端到端的云原生數(shù)據(jù)戰(zhàn)略來(lái)為生成式AI 提供高質(zhì)量的數(shù)據(jù)支持，從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲(chǔ)和查詢，再到將數(shù)據(jù)傳輸給 AI平臺(tái)進(jìn)行模型的訓(xùn)練、調(diào)優(yōu)和推理，以及全面實(shí)施數(shù)據(jù)分類和治理。

比如，針對(duì)存儲(chǔ)中的數(shù)據(jù)，亞馬遜云科技實(shí)施安全密鑰管理、靜態(tài)數(shù)據(jù)加密、強(qiáng)制實(shí)施訪問(wèn)控制、利用機(jī)制限制數(shù)據(jù)訪問(wèn)，為存儲(chǔ)中的數(shù)據(jù)帶來(lái)全面的數(shù)據(jù)保護(hù)。

再如，大語(yǔ)言模型涉及到大量數(shù)據(jù)的傳輸。為此，亞馬遜云科技從實(shí)施安全密鑰和證書管理、執(zhí)行傳輸中加密、自動(dòng)檢測(cè)意外數(shù)據(jù)訪問(wèn)、對(duì)網(wǎng)絡(luò)通信進(jìn)行身份驗(yàn)證四個(gè)方面對(duì)傳輸中的數(shù)據(jù)進(jìn)行多層次保護(hù)。

還有，亞馬遜云科技從身份認(rèn)證、隔離環(huán)境、多方協(xié)作以及數(shù)據(jù)共享四個(gè)方面，進(jìn)行使用中的數(shù)據(jù)保護(hù)。

除了數(shù)據(jù)安全之外，模型本身的安全也非常重要。亞馬遜云科技認(rèn)為，模型訪問(wèn)策略是動(dòng)態(tài)和多次性的，需要不斷迭代與調(diào)優(yōu)，才能保證訪問(wèn)控制策略的有效?！跋啾扔趥鹘y(tǒng)機(jī)器學(xué)習(xí)模型，大語(yǔ)言模型的內(nèi)容更加不確定，準(zhǔn)確性不好把控?！贝勓a(bǔ)充道。

為了方便企業(yè)構(gòu)建和擴(kuò)展自己的生成式AI應(yīng)用程序，并且安全、高效地使用。亞馬遜云科技打造了Amazon Bedrock和多種生成式AI服務(wù)和功能。例如，Amazon Bedrock后面接入了基礎(chǔ)模型，通過(guò)API即可使用大模型加速生成式AI的應(yīng)用程序和開(kāi)發(fā)，無(wú)須管理底層的基礎(chǔ)設(shè)施；另外，Amazon Bedrock還與AI21Labs、Anthropic、Stability AI等合作，方便企業(yè)選擇最合適的基礎(chǔ)模型；Amazon Bedrock不會(huì)拿任何用戶的數(shù)據(jù)來(lái)訓(xùn)練自身。

代聞介紹，當(dāng)前已經(jīng)有超過(guò)130多個(gè)國(guó)家和地區(qū)制定和頒布了數(shù)據(jù)保護(hù)和隱私安全相關(guān)的法律法規(guī)，未來(lái)安全合規(guī)一定會(huì)越來(lái)越嚴(yán)格，包括大語(yǔ)言模型應(yīng)用帶來(lái)的安全挑戰(zhàn)。

應(yīng)用安全同樣不能忽視

在代聞看來(lái)，應(yīng)用可以用來(lái)創(chuàng)造價(jià)值，而應(yīng)用安全是實(shí)現(xiàn)AI價(jià)值的保障。

首先是開(kāi)發(fā)流程中的安全（DevSecOps）。亞馬遜云科技認(rèn)為，安全應(yīng)該貫穿到從開(kāi)發(fā)到持續(xù)集成、持續(xù)部署再到投產(chǎn)、監(jiān)控以及整個(gè)反饋的過(guò)程。在這方面，亞馬遜云科技積累了豐富的經(jīng)驗(yàn)，將AI防護(hù)應(yīng)用到軟件開(kāi)發(fā)的全生命周期。

例如，亞馬遜云科技的AI編程助手Amazon CodeWhisperer ，可根據(jù)開(kāi)發(fā)者指令利用內(nèi)嵌的基礎(chǔ)模型實(shí)時(shí)生成代碼建議，該服務(wù)內(nèi)置了代碼安全掃描功能，可幫助開(kāi)發(fā)者查找難以檢測(cè)的漏洞并提出補(bǔ)救建議。另外，亞馬遜云科技的Amazon CodeGuru Security則通過(guò)掃描代碼尋找漏洞，它基于API設(shè)計(jì)，非常方便地集成到開(kāi)發(fā)工作流里邊去，實(shí)現(xiàn)集中化和擴(kuò)展性。

其次，針對(duì)運(yùn)行中的安全。亞馬遜云科技的思路是采取零信任的應(yīng)用安全訪問(wèn)機(jī)制，對(duì)訪問(wèn)大模型的應(yīng)用進(jìn)行權(quán)限管理，確保只有在擁有特定權(quán)限的應(yīng)用。為此，亞馬遜云科技打造出Amazon Verified Access、Amazon Verified Permissions、Amazon Shield、Amazon GuardDuty等一系列工具，方便用戶建立起零信任的應(yīng)用安全機(jī)制。

顯然，亞馬遜云科技的應(yīng)用安全策略非常及時(shí)的。當(dāng)前，諸多行業(yè)用戶均渴望將大語(yǔ)言模型和生成式AI融入到業(yè)務(wù)場(chǎng)景之中，但又缺乏完善的AI應(yīng)用安全策略，亞馬遜云科技全面的產(chǎn)品、服務(wù)和方案可以很好地滿足行業(yè)用戶的需求。

AI讓合規(guī)讓無(wú)憂

眾所周知，大語(yǔ)言模型和生成式AI提供了橫向能力，最終會(huì)把能力輻射到很多不同的應(yīng)用中，過(guò)程會(huì)越來(lái)越復(fù)雜。亞馬遜云科技提供了一系列的技術(shù)、服務(wù)和工具，確保生成式AI技術(shù)應(yīng)用于其安全及合規(guī)服務(wù)中，從而以更智能的安全、合規(guī)服務(wù)應(yīng)對(duì)復(fù)雜的安全威脅、提高合規(guī)效率。

為此，亞馬遜云科技做好了充足準(zhǔn)備，不僅在全球獲得140多個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證，并將AI技術(shù)應(yīng)用到其安全及合規(guī)服務(wù)中；還打造出敏感數(shù)據(jù)保護(hù)解決方案，可實(shí)現(xiàn)對(duì)企業(yè)敏感數(shù)據(jù)的自動(dòng)化發(fā)現(xiàn)并在統(tǒng)一平臺(tái)管理數(shù)據(jù)資產(chǎn)。同時(shí)，亞馬遜云科技通過(guò)在其 500 多項(xiàng)自身合規(guī)審計(jì)控制項(xiàng)中使用 AI 技術(shù)，大幅提升了自身的合規(guī)效率，將審計(jì)時(shí)間節(jié)約了 53%。

顯然，亞馬遜云科技是業(yè)界率先采用人工智能技術(shù)融入到審查安全機(jī)制的廠商之一。這種好處就是，大幅減少手動(dòng)操作，降低人為錯(cuò)誤。另外，AI提供一個(gè)一致性判斷，同時(shí)人工智能和機(jī)器學(xué)習(xí)技術(shù)能夠預(yù)測(cè)和提供自動(dòng)審查。

IDC《2023中國(guó)公有云托管安全服務(wù)能力報(bào)告》顯示，亞馬遜云科技是獲得滿分最多的廠商之一，其中“生態(tài)建設(shè)”評(píng)估維度是唯一獲得滿分的廠商?？梢钥闯?，security of the cloud & security in the cloud核心理念絕非虛言，而是亞馬遜云科技一直在恪守的第一準(zhǔn)則。面向未來(lái)，隨著生成式AI和大語(yǔ)言模型在更多場(chǎng)景中落地，亞馬遜云科技的一些工具、服務(wù)和解決方案也必然會(huì)發(fā)揮出更大價(jià)值。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。