生成式人工智能泡沫將于2024年破滅

生成式人工智能泡沫將于2024年破滅

由于法律挑戰(zhàn)、技術(shù)限制以及概念框架根本性轉(zhuǎn)變的需要，生成式人工智能泡沫將在2024年破滅。

像ChatGPT這樣的項(xiàng)目因其改變?nèi)祟惿罡鱾€(gè)方面的潛力而聞名，但由于預(yù)期的破壞似乎難以捉摸，因此面臨著審查。

隨著技術(shù)行業(yè)尋求克服眾多挑戰(zhàn)，有必要進(jìn)行重新調(diào)整，從過(guò)度炒作轉(zhuǎn)向?qū)嶋H功效，確保以道德考慮為核心的生成式人工智能的可持續(xù)發(fā)展。

生成人工智能的承諾與現(xiàn)實(shí)之間的差異

雖然生成式人工智能（GenAI）合成大量數(shù)據(jù)并在科學(xué)、經(jīng)濟(jì)和社會(huì)服務(wù)領(lǐng)域帶來(lái)突破的潛力受到吹捧，但觀察到的結(jié)果卻被商業(yè)過(guò)度炒作。

圖片來(lái)源：McKinsey

深度造假、虛假信息和表面互動(dòng)的盛行，引發(fā)了人們對(duì)生成式人工智能對(duì)這些領(lǐng)域的實(shí)際影響的質(zhì)疑。

生成式人工智能需要范式轉(zhuǎn)變

當(dāng)我們展望2024年時(shí)，有一個(gè)令人信服的論點(diǎn)認(rèn)為，GenAI的概念基礎(chǔ)將發(fā)生范式轉(zhuǎn)變。

模仿人類智能(包括身體、大腦、行為和商業(yè))的概念假設(shè)存在缺陷，這阻礙了生成式人工智能的真正潛力。從模仿向理解和利用“世界知識(shí)”過(guò)渡的呼吁變得勢(shì)在必行。

生成式人工智能依賴死記硬背和模式匹配，缺乏真正的智能、學(xué)習(xí)、類比或演繹，限制了其能力。

呼吁超越數(shù)學(xué)歸納和統(tǒng)計(jì)推斷，對(duì)于真正的進(jìn)步至關(guān)重要。

像ChatGPT這樣的生成式人工智能系統(tǒng)，在未經(jīng)許可的材料上進(jìn)行訓(xùn)練，在尋找原始來(lái)源材料方面面臨著嚴(yán)峻的挑戰(zhàn)。潛在的訴訟，和解金額從數(shù)百萬(wàn)美元到數(shù)十億美元不等，對(duì)GenAI的可持續(xù)性構(gòu)成了威脅。

圖片來(lái)源：Medium

這種有缺陷的商業(yè)模式，再加上訴訟所涉及的法律費(fèi)用，給(Microsoft或Google等大型技術(shù)企業(yè)造成了難以維持的局面。ChatGPT API的定價(jià)模式，盡管有預(yù)期的代幣利潤(rùn)，但引發(fā)了對(duì)GenAI領(lǐng)域經(jīng)濟(jì)可行性的擔(dān)憂。

從詞嵌入到世界嵌入的轉(zhuǎn)變引入了跨人工智能的概念，其中實(shí)體嵌入（EE）發(fā)揮著至關(guān)重要的作用。EE代表分類或序數(shù)變量，增強(qiáng)了人工智能與世界有效交互的能力，超越了以代幣為中心的表示。

世界嵌入使AI/ML/LLM模型能夠更有效地與世界交互，了解標(biāo)記之間的語(yǔ)義和句法關(guān)系。世界知識(shí)的整合，對(duì)于生成可理解的內(nèi)容很有幫助。

生成式人工智能并不完美

GenAI的承諾面臨著現(xiàn)實(shí)的考驗(yàn)，促使人們重新評(píng)估其基本概念和業(yè)務(wù)戰(zhàn)略。當(dāng)我們進(jìn)入2024年時(shí)，對(duì)世界嵌入的范式轉(zhuǎn)變和對(duì)世界復(fù)雜性的更深入理解的呼吁，成為生成式人工智能可持續(xù)發(fā)展的關(guān)鍵一步。從過(guò)度宣傳到實(shí)際效果的過(guò)程需要重新調(diào)整，包括真正的創(chuàng)新和道德考慮。

圖片來(lái)源：Everest Group

雖然生成式人工智能取得了顯著的進(jìn)步，但重要的是要承認(rèn)其并不完美。盡管其功能強(qiáng)大，但該技術(shù)仍存在固有的局限性和挑戰(zhàn)。需要考慮的一些關(guān)鍵方面包括：

1.偏見(jiàn)和公平問(wèn)題

生成式人工智能模型可能會(huì)無(wú)意中延續(xù)其訓(xùn)練數(shù)據(jù)中存在的偏見(jiàn)。如果訓(xùn)練數(shù)據(jù)反映了社會(huì)偏見(jiàn)，人工智能可能會(huì)產(chǎn)生有偏見(jiàn)或不公平的結(jié)果，引發(fā)道德?lián)鷳n。

2.缺乏常識(shí)

生成式人工智能可能會(huì)與常識(shí)推理發(fā)生沖突，導(dǎo)致輸出缺乏上下文或連貫性。這種限制可能會(huì)影響該技術(shù)在復(fù)雜的現(xiàn)實(shí)場(chǎng)景中的實(shí)際適用性。

3.情境理解薄弱

理解情境仍然是生成式人工智能的一個(gè)挑戰(zhàn)。該技術(shù)可能會(huì)生成情境不合適的內(nèi)容或誤解細(xì)微的信息，從而影響其輸出的準(zhǔn)確性。

4.道德問(wèn)題

生成式人工智能的道德使用帶來(lái)了挑戰(zhàn)，特別是在該技術(shù)可被利用來(lái)創(chuàng)建深度偽造或誤導(dǎo)性內(nèi)容的情況下。在創(chuàng)新和負(fù)責(zé)任的使用之間取得平衡是一個(gè)持續(xù)關(guān)注的問(wèn)題。

5.對(duì)訓(xùn)練數(shù)據(jù)的依賴

訓(xùn)練數(shù)據(jù)的質(zhì)量和代表性顯著影響生成式人工智能的性能。訓(xùn)練數(shù)據(jù)不充分或有偏差可能會(huì)導(dǎo)致結(jié)果不理想，并限制模型在不同場(chǎng)景中泛化的能力。

6.缺乏可解釋性

許多生成式人工智能模型都以黑匣子的方式運(yùn)行，因此很難理解其輸出背后的基本原理?？山忉屝詥?wèn)題阻礙了透明度，并可能在某些監(jiān)管或安全關(guān)鍵領(lǐng)域帶來(lái)挑戰(zhàn)。

7.對(duì)抗性攻擊的脆弱性

生成式人工智能模型可能容易受到對(duì)抗性攻擊，其中惡意輸入旨在誤導(dǎo)模型。防范此類攻擊需要不斷研究和開(kāi)發(fā)安全措施。

8.訓(xùn)練數(shù)據(jù)過(guò)度擬合

生成式人工智能模型可能會(huì)過(guò)度擬合訓(xùn)練數(shù)據(jù)中的特定模式，從而限制其適應(yīng)新的或未見(jiàn)過(guò)的場(chǎng)景的能力。這種過(guò)度擬合可能會(huì)導(dǎo)致輸出非常模仿訓(xùn)練數(shù)據(jù)，但可能缺乏泛化性。

認(rèn)識(shí)到這些缺陷對(duì)于負(fù)責(zé)任地部署和管理生成式人工智能技術(shù)至關(guān)重要。持續(xù)的研究和開(kāi)發(fā)工作，對(duì)于應(yīng)對(duì)這些挑戰(zhàn)并增強(qiáng)生成式人工智能在各種應(yīng)用中的穩(wěn)健性、公平性和道德使用至關(guān)重要。

相關(guān)推薦：

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。