如果任由低質(zhì)AIGC內(nèi)容泛濫 互聯(lián)網(wǎng)生態(tài)系統(tǒng)將會(huì)被摧毀

極客網(wǎng)·極客觀察7月4日 不久前ChatGPT突然走紅,用戶量迅速增加,很多人驚呼“生成式AI”革命已經(jīng)到來(lái),但最近幾個(gè)月它的熱度似乎在下降,用戶量增速已經(jīng)明顯放緩。

The Verge撰文稱,生成式AI必然會(huì)在科技史上留下一筆,但它帶來(lái)的消極影響也的確值得我們重視。

什么消極影響呢?有人用ChatGPT生成垃圾網(wǎng)站,網(wǎng)上到處都是AI生成的垃圾;聊天機(jī)器人勾連在一起,引用彼此的誤導(dǎo)信息;Snapchat和Instagram等社媒都希望用機(jī)器人陪你聊天……

關(guān)鍵的是,舊網(wǎng)絡(luò)正在死亡,但新的網(wǎng)絡(luò)還在掙扎,還沒(méi)有出生。

AIGC.jpg

網(wǎng)絡(luò)的死亡與重生

網(wǎng)絡(luò)一直在死亡中重生,比如APP改變了流量走向。2023年網(wǎng)絡(luò)再次走向死亡,這一次有了新元素參與,它就是AI。

多年前,網(wǎng)絡(luò)還是個(gè)體的天下,個(gè)體用戶制作主頁(yè)、論壇、郵件列表,金錢(qián)涌入,然后企業(yè)加入進(jìn)來(lái),創(chuàng)建功能豐富的平臺(tái),讓每一個(gè)人都可以加入進(jìn)來(lái)。現(xiàn)在AI正在改變舊格局。

有了金錢(qián)和算力,AI系統(tǒng)可以輕松擴(kuò)張。AI生成文本和圖片,很快將會(huì)制作音樂(lè)和視頻。以前我們依賴新聞、信息、娛樂(lè),它們創(chuàng)造了海量?jī)?nèi)容,但很快AI創(chuàng)造的內(nèi)容數(shù)量可能會(huì)遠(yuǎn)遠(yuǎn)超過(guò)它們。

可惜,目前的AI系統(tǒng)仍然不夠“聰明”,質(zhì)量低劣,還是“寄生蟲(chóng)”。訓(xùn)練AI的數(shù)據(jù)來(lái)自舊時(shí)代,AI只是進(jìn)行了再創(chuàng)造,這種創(chuàng)造還不完美。AI生成的內(nèi)容不太可靠,系統(tǒng)還沒(méi)有成熟,AI就與之前的舊平臺(tái)展開(kāi)了用戶注意力的爭(zhēng)奪。

內(nèi)容平臺(tái)首鼠兩端

在美國(guó),有些AI公司通過(guò)API獲取Reddit數(shù)據(jù),導(dǎo)致Reddit準(zhǔn)備提價(jià),讓它們支付更多使用費(fèi)。Reddit CEO Steve Huffman說(shuō):“Reddit數(shù)據(jù)庫(kù)很有價(jià)值,我們不會(huì)將所有價(jià)值免費(fèi)提供給一些大企業(yè)?!?/p>

Reddit準(zhǔn)備今年年末上市,它想從平臺(tái)中挖掘更多價(jià)值。AI企業(yè)瘋狂抓取數(shù)據(jù),這是機(jī)會(huì),也是威脅,有人擔(dān)心互聯(lián)網(wǎng)企業(yè)可能會(huì)重新思考平臺(tái)的開(kāi)放性問(wèn)題。

以前谷歌抓取維基百科信息不用付錢(qián),但現(xiàn)在要付費(fèi)了。維基百科對(duì)AI內(nèi)容持雙重看法,AI生成內(nèi)容速度快,覆蓋范圍廣,這是優(yōu)點(diǎn),但它們往往存在誤導(dǎo)。

去年ChatGPT推出后沒(méi)多久,Stack Overflow就給予“封殺”待遇。主要問(wèn)題在于ChatGPT在一般情況下看起來(lái)很好,答案也容易生成,但出錯(cuò)率太高,要給結(jié)果排序太費(fèi)神了,所以干脆禁止。

但后來(lái)Stack Overflow又改變態(tài)度,抬高了用戶發(fā)布AI內(nèi)容的門(mén)檻,讓他們承擔(dān)更多舉證責(zé)任,不再封殺。Stack Overflow也準(zhǔn)備向抓取數(shù)據(jù)的AI公司收費(fèi)。版主認(rèn)為AI內(nèi)容不可信,但Stack Overflow高管覺(jué)得冒點(diǎn)險(xiǎn)是值得的。

谷歌選擇至關(guān)重要

最值得的關(guān)注的可能還是谷歌的態(tài)度。谷歌搜索是現(xiàn)代網(wǎng)絡(luò)的支柱之一,它將注意力、金錢(qián)分散至龐大的網(wǎng)絡(luò)??吹奖貞?yīng)AI和ChatGPT走紅,谷歌搜索感受到威脅,它正在做實(shí)驗(yàn),想在搜索結(jié)果中增加AI內(nèi)容,如果計(jì)劃順利推廣,影響將是巨大的。

Tom’s Hardware主編Avram Piltch認(rèn)為,谷歌新開(kāi)發(fā)的系統(tǒng)從本質(zhì)上講是一個(gè)“剽竊引擎”。AI生成的內(nèi)容許多時(shí)候是從網(wǎng)絡(luò)一字不動(dòng)抄襲的,谷歌有時(shí)將這些抄襲的內(nèi)容放在源鏈接之上。

如果谷歌新引擎真的全面推廣,將會(huì)嚴(yán)重?fù)p害整個(gè)互聯(lián)網(wǎng)。未來(lái)那些財(cái)務(wù)欠佳的網(wǎng)站可能會(huì)倒閉,谷歌將耗盡人工生成內(nèi)容,最終殺死創(chuàng)造價(jià)值的生態(tài)系統(tǒng),或者以不可逆的方式改變生態(tài)系統(tǒng),然后反受其害,威脅到自身生存。

綜上,如果我們放任AI內(nèi)容肆意傳播將如何呢?從目前的證據(jù)看,網(wǎng)絡(luò)內(nèi)容的質(zhì)量會(huì)降低。AI雖然有能力重新組合文本,但創(chuàng)造底層數(shù)據(jù)的依然是人。

AI創(chuàng)造的內(nèi)容有許多錯(cuò)誤,這些錯(cuò)誤很難被發(fā)現(xiàn),它生成的誤導(dǎo)信息非?!敖苹?,這些信息并非依賴對(duì)真實(shí)世界的體驗(yàn)生產(chǎn),發(fā)現(xiàn)其中的錯(cuò)誤需要時(shí)間,需要專業(yè)知識(shí)。

人類也會(huì)制造許多誤導(dǎo)信息,但人類專業(yè)知識(shí)生存的平臺(tái)仍是積極力量,如果它們被AI系統(tǒng)擊潰,未來(lái)想糾正錯(cuò)誤將會(huì)變得更加困難。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2023-07-04
如果任由低質(zhì)AIGC內(nèi)容泛濫 互聯(lián)網(wǎng)生態(tài)系統(tǒng)將會(huì)被摧毀
關(guān)鍵的是,舊網(wǎng)絡(luò)正在死亡,但新的網(wǎng)絡(luò)還在掙扎,還沒(méi)有出生。

長(zhǎng)按掃碼 閱讀全文