極客網(wǎng)·人工智能5月5日 最新調(diào)查報告顯示，在部署生成式AI方面，70%以上的企業(yè)仍然處在“探索” 階段。這意味著，開發(fā)大型語言模型的AI開發(fā)商需要確保他們的產(chǎn)品具有適當?shù)臄?shù)據(jù)安全機制，才能讓使企業(yè)用戶感到滿意。
近日，三星等大型企業(yè)出于對數(shù)據(jù)安全的擔憂，開始禁止員工使用ChatGPT等AI工具。一位分析師表示，像微軟這樣的供應(yīng)商如果希望這項技獲得成功，就需要設(shè)計和提供為企業(yè)量身定制的解決方案。
三星禁止員工使用ChatGPT，生成式AI存在數(shù)據(jù)泄露風險
由于源代碼在上個月泄露，三星已經(jīng)命令該公司員工避免使用聊天GPT、必應(yīng)和谷歌的Bard等AI工具。而在此前，其他科技公司也發(fā)表了類似的聲明，表達了對使用生成式AI的數(shù)據(jù)安全的擔憂。
OpenAI日前證實，正在為企業(yè)用戶開發(fā)特定版本的ChatGPT平臺，該平臺默認禁止企業(yè)用戶在ChatGPT再訓練中使用對話。目前尚不清楚這是否足以解決大型企業(yè)客戶擔憂的安全問題，但這些企業(yè)的高管顯然渴望采用這項技術(shù)。
根據(jù)Gartner對2500名行業(yè)高管進行的一項調(diào)查，45%的受訪者認為ChatGPT促進了AI投資，70%的受訪者表示他們的組織正在研究部署生成式AI的方法，19%的受訪者已經(jīng)處于試驗或生產(chǎn)階段。
Gartner副總裁分析師Frances Karamouzis表示：“用戶對于采用生成式AI的癡迷并沒有減弱的跡象。很多行業(yè)組織都在爭先恐后地決定投入多少資金使用生成式AI解決方案，哪些產(chǎn)品值得投資，何時開始以及如何降低這種新興技術(shù)帶來的風險。”
最能說明問題的是，68%的受訪者認為生成式AI的好處大于風險，只有5%的受訪者認為使用這種技術(shù)的風險大于好處。
隨著對生成式AI投資的深化，以及數(shù)據(jù)安全的影響變得更加明顯，這些情況可能會發(fā)生變化，就像三星面臨的安全困境情況一樣（該公司正在建立自己的AI模型）。
大勢所趨，避免采用生成式AI可能比部署AI更難
盡管全球經(jīng)濟放緩，科技行業(yè)大規(guī)模裁員，但只有17%的受訪者表示成本優(yōu)化是投資AI的主要原因，而客戶體驗是最重要的焦點。
隨著微軟等公司通過Copilot在其CRM和Office 365套件中部署AI，Salesforce也在其全套產(chǎn)品中添加了聊天機器人技術(shù)，避免采用生成式AI可能比部署AI更難。
Gartner副總裁兼分析師Avivah Litan表示，企業(yè)在使用公共大型語言模型時面臨多重風險，但有一些方法可以減輕風險，包括確保他們有能力自動過濾輸出的錯誤信息、幻覺和不需要的事實信息。
她表示，企業(yè)還需要確保大型語言模型供應(yīng)商提供可驗證的數(shù)據(jù)治理和安全保證，以確保傳輸給大型語言模型的企業(yè)機密信息不會受到損害。透明度方面也需要確保任何使用都符合GDPR法規(guī)和歐盟AI法案等立法。
她解釋說:“在滿足這些要求之前，我們看到的是，謹慎的企業(yè)或者限制員工對聊天的訪問權(quán)限(由于個人設(shè)備的存在，這是不可能執(zhí)行的)，或者允許有節(jié)制的嘗試性使用，從而避免向大型語言模型發(fā)送機密數(shù)據(jù)?！?nbsp;
人們對部署生成式AI這項技術(shù)的興趣在于其潛在的好處，特別是從昂貴而廣泛的數(shù)據(jù)集訓練的公共模型中獲益。Litan說，“OpenAI和第三方開發(fā)的大型語言模型的巨大價值在于訓練它們的大量數(shù)據(jù)，以及運行它們所需的巨大復(fù)雜的超級計算機功能。企業(yè)根本沒有資源來重建這些有價值的模型?！?nbsp;
對于OpenAI、微軟和任何想要部署這種技術(shù)的供應(yīng)商來說，其解決方案是通過共享安全責任協(xié)議創(chuàng)建技術(shù)工具。如果機密數(shù)據(jù)被泄露，供應(yīng)商應(yīng)該承擔責任，這也是他們前進的方向。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
