生成式人工智能的風(fēng)險(xiǎn)是什么？

生成式人工智能的風(fēng)險(xiǎn)是什么？

能夠生成內(nèi)容的人工智能實(shí)體稱為生成式人工智能。其利用機(jī)器學(xué)習(xí)技術(shù)根據(jù)數(shù)據(jù)趨勢自行生成內(nèi)容。鑒于人工智能潛力不斷增長，許多企業(yè)都在競相采用生成式人工智能，目標(biāo)是降低與人力相關(guān)的高昂維護(hù)成本。

盡管生成式人工智能已經(jīng)取得了長足進(jìn)步，但數(shù)據(jù)隱私和保密性方面仍然存在問題。生成式人工智能的應(yīng)用可能仍需要仔細(xì)評估所涉及的危險(xiǎn)，例如不準(zhǔn)確性、潛在欺詐和知識產(chǎn)權(quán)損失。一些專家建議企業(yè)不要試圖減少開支，而是要保護(hù)自己免受其利用。

根據(jù)Salesforce最近針對生成式人工智能的IT調(diào)查，33%的受訪者認(rèn)為該技術(shù)“被過度炒作”，并擔(dān)心存在偏見（73%）、安全漏洞（79%）和其他問題。本文總結(jié)了生成式人工智能的一些常見風(fēng)險(xiǎn)。

1. 知識產(chǎn)權(quán)——KPMG將知識產(chǎn)權(quán)問題列為使用生成式人工智能的主要問題之一。利用人工神經(jīng)網(wǎng)絡(luò)，可以對大量現(xiàn)有數(shù)據(jù)進(jìn)行訓(xùn)練，該技術(shù)可以生成音頻、圖像、視頻等新內(nèi)容，主要根據(jù)輸入模式做出響應(yīng)。輸入數(shù)據(jù)包含各種用戶的輸入，該工具會(huì)保留這些輸入以繼續(xù)學(xué)習(xí)和增長知識。此外，這些信息可用于解答個(gè)人提出的問題，從而向公眾披露私人或?qū)Ｓ行畔?。?jīng)常使用該技術(shù)的組織/個(gè)人，可能會(huì)面臨未經(jīng)授權(quán)的人員訪問其數(shù)據(jù)的可能性。

2. 數(shù)據(jù)中毒——根據(jù)用戶的要求，訓(xùn)練數(shù)據(jù)集被錯(cuò)誤信息利用，這就是數(shù)據(jù)中毒的過程。它包括各種使用數(shù)據(jù)中毒的攻擊。惡意軟件是攻擊者用來滲透的一種方式，它可以傳播不切實(shí)際的內(nèi)容。例如，研究人員最近發(fā)現(xiàn)許多上傳到開源人工智能平臺的受污染模型。每一個(gè)都可能讓攻擊者能夠用有害程序感染用戶計(jì)算機(jī)?？紤]到這些模型可能會(huì)被整合到其他系統(tǒng)中，這是一種供應(yīng)鏈限制。網(wǎng)絡(luò)釣魚攻擊也可以由攻擊者在數(shù)據(jù)中毒的幫助下進(jìn)行。在網(wǎng)絡(luò)釣魚場景中，黑客可能會(huì)感染一個(gè)人工智能驅(qū)動(dòng)的幫助臺，并對其進(jìn)行編程，將訪問者發(fā)送到其控制的網(wǎng)絡(luò)釣魚網(wǎng)站。如果攻擊者說服用戶啟用API接口，就可以簡單地竊取其欺騙用戶通過聊天機(jī)器人透露的任何數(shù)據(jù)。

3. 就業(yè)風(fēng)險(xiǎn)——人工智能的力量徹底改變了世界，顛覆了職業(yè)，并廢除了某些工作流程，這被認(rèn)為是一項(xiàng)重大的技術(shù)變革。這些變化導(dǎo)致單調(diào)乏味且需要大量人力的工作被取消。當(dāng)然，人工智能改變了某些工作所需的角色和職責(zé)的方法。然而，許多學(xué)者認(rèn)為大量失業(yè)可能被夸大了。根據(jù)國際貨幣基金組織專家的最新報(bào)告，人工智能可能會(huì)對全球勞動(dòng)力市場產(chǎn)生影響。在發(fā)達(dá)國家，約60%的就業(yè)崗位可能因人工智能而受到影響。超過一半的生產(chǎn)力可能會(huì)因人工智能的實(shí)施而提高。超過50%的勞動(dòng)力預(yù)計(jì)將減少勞動(dòng)力需求，導(dǎo)致工資下降和工作崗位短缺，因?yàn)槿斯ぶ悄芗夹g(shù)取代了目前個(gè)人實(shí)現(xiàn)的關(guān)鍵目標(biāo)。至少在某種情況下，一些工作崗位可能會(huì)消失。相比之下，預(yù)計(jì)人工智能在經(jīng)濟(jì)發(fā)達(dá)國家的影響將達(dá)到40%，而在經(jīng)濟(jì)落后國家的影響將達(dá)到26%。其結(jié)果是，貧窮的經(jīng)濟(jì)體和發(fā)展中市場較少受到人工智能的直接沖擊。此外，許多國家阻礙了對資源的需求，以利用人工智能的力量。

4. 偏見和道德問題——訓(xùn)練數(shù)據(jù)集應(yīng)該是人性化的、一致的和合法的。訓(xùn)練數(shù)據(jù)的質(zhì)量取決于可能影響輸出生成人工智能結(jié)果的因素，包括其可靠性和精度。生成式人工智能模型的缺點(diǎn)是缺乏標(biāo)準(zhǔn)值。因此，用于訓(xùn)練的有偏見的信息為算法奠定了基礎(chǔ)，而算法進(jìn)一步開發(fā)了不可信的數(shù)據(jù)。團(tuán)體利用這些信息制作虛假圖像、貶低內(nèi)容或虛假音頻，這些都可以用來損害任何個(gè)人的身份。由于訓(xùn)練數(shù)據(jù)可能包含個(gè)人身份信息(PII)，因此可能帶來道德挑戰(zhàn)。因?yàn)槠淇赡軙?huì)泄露個(gè)人的姓名、電話號碼、卡號、用戶名和密碼等，這些都被視為個(gè)人身份信息。隱私要求應(yīng)遵守?cái)?shù)據(jù)訓(xùn)練模型，并且必須確保不向生成式人工智能提供任何PII數(shù)據(jù)。人工智能驅(qū)動(dòng)的結(jié)果的優(yōu)勢可能會(huì)給員工帶來麻煩，因?yàn)槠鋾?huì)無意中泄露私人數(shù)據(jù)。

5. 生成式人工智能欺詐——人工智能時(shí)代重新定義了帶有生成式人工智能的欺詐活動(dòng)，俗稱生成式人工智能欺詐。個(gè)人利用神經(jīng)網(wǎng)絡(luò)制作的虛假內(nèi)容來傳播謠言。欺詐者可能會(huì)繞過驗(yàn)證過程，通過使用生成式人工智能制作真實(shí)個(gè)人的虛假自拍照、圖片和錄音來創(chuàng)建欺詐賬戶。

總結(jié)

盡管生成式人工智能技術(shù)的創(chuàng)新和進(jìn)步面臨各種挑戰(zhàn)和機(jī)遇，但個(gè)人/組織應(yīng)該意識到安全風(fēng)險(xiǎn)。這可能是人為錯(cuò)誤或無意中泄露私人信息、數(shù)據(jù)存儲(chǔ)挑戰(zhàn)、缺乏標(biāo)準(zhǔn)指南、國際法規(guī)問題和數(shù)據(jù)泄露的結(jié)果。即使存在眾多問題，企業(yè)也應(yīng)該采用生成式人工智能。在仔細(xì)考慮其風(fēng)險(xiǎn)后，專家建議組織/個(gè)人為企業(yè)制定全面的行動(dòng)計(jì)劃，強(qiáng)調(diào)風(fēng)險(xiǎn)管理、人工智能系統(tǒng)安全，從而培養(yǎng)人工智能信任。

常見問題解答：

1、什么是生成式人工智能？

答：人工智能生成新內(nèi)容的能力，如書面內(nèi)容、圖像、聲音、音頻和視頻，被稱為生成式人工智能。生成式人工智能采用機(jī)器學(xué)習(xí)模型，以識別人類開發(fā)的大量內(nèi)容數(shù)據(jù)集中的趨勢/模式和聯(lián)系。其通過結(jié)合所學(xué)的趨勢/模式進(jìn)一步生成新內(nèi)容。一種流行的學(xué)習(xí)方法是生成式人工智能模型中的監(jiān)督學(xué)習(xí)，其中片段與人類生成的內(nèi)容一起被輸入一組標(biāo)簽。因此，它獲得了開發(fā)具有人類產(chǎn)生的相似性的內(nèi)容的能力，并相應(yīng)地被考慮。

2、生成式人工智能應(yīng)用有哪些？

答：利用生成式人工智能，我們可以：

3、生成式人工智能是一項(xiàng)顛覆性技術(shù)嗎？

答：生成式人工智能是一種顛覆性技術(shù)，可實(shí)現(xiàn)日常任務(wù)的自動(dòng)化、加快軟件開發(fā)速度、豐富問題解決能力和用戶體驗(yàn)。這種生成式人工智能技術(shù)將鼓勵(lì)創(chuàng)造力和可靠性，同時(shí)幫助IT行業(yè)的個(gè)人應(yīng)對快速發(fā)展的數(shù)字時(shí)代的挑戰(zhàn)和機(jī)遇。IT行業(yè)的未來與生成式人工智能的變革潛力成正比。生成式人工智能通過定制界面、創(chuàng)意生成、服務(wù)/產(chǎn)品推薦和針對特定用戶需求的交互，改變IT組織的服務(wù)和產(chǎn)品，以適應(yīng)以用戶為中心的體驗(yàn)。IT行業(yè)將利用生成式人工智能的潛力，實(shí)現(xiàn)前所未有的成果之旅。

4、我們?nèi)绾未_保生成式人工智能的使用合乎道德？

答：組織/個(gè)人可以負(fù)責(zé)任地利用生成式人工智能的潛力，并在意外情況或后果中采取預(yù)防措施，通過了解技術(shù)缺點(diǎn)、保持透明度、解決可靠性問題、教育用戶、定期更新和建立標(biāo)準(zhǔn)指南來促進(jìn)道德人工智能。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。