谷歌AI搜索遭遇當(dāng)頭一棒:AI Overview結(jié)果紕漏百出

極客網(wǎng)·極客觀察6月3日 多年來,谷歌搜索基本沒有大的變化,但最近卻增加了新AI功能。谷歌的目標(biāo)很明確,它不想錯(cuò)過AI浪潮,想與微軟、OpenAI競(jìng)爭(zhēng)。

遺憾的是,谷歌新推出的AI Overview遠(yuǎn)遠(yuǎn)稱不上完美,它輸出的結(jié)果不精準(zhǔn),謊話連篇,甚至能逼瘋用戶。例如,AI Overview建議用戶用膠水作為披薩配料,建議食用石塊獲得營(yíng)養(yǎng)。嚴(yán)重的錯(cuò)誤已經(jīng)影響到谷歌聲譽(yù)。

全球有20億人依賴谷歌搜索,AI Overview提供的信息不可靠,后果當(dāng)然惡劣。雖然其它AI聊天機(jī)器人也會(huì)抽瘋,但公眾對(duì)谷歌的苛刻并非無理取鬧,他們希望谷歌搜索更負(fù)責(zé)一些。

谷歌AI,持續(xù)水逆

在過去一段時(shí)間,谷歌AI產(chǎn)品多次遭受抨擊。例如,2023年2月谷歌推出Bard,與ChatGPT競(jìng)爭(zhēng),雖然吹得極厲害,但它提供的信息同樣錯(cuò)漏百出。

年初時(shí)谷歌推出Gemini,它可以生成圖片,也可以變成用語音控制的數(shù)字助手。推出沒多久便有用戶發(fā)現(xiàn),Gemini不愿意生成以白人為主角的圖片,它對(duì)歷史人物的描述也嚴(yán)重不準(zhǔn)確。

錯(cuò)誤如此之多,如此之連續(xù),絕對(duì)不是偶然,要么是AI技術(shù)存在缺陷,要么是谷歌技術(shù)實(shí)力被夸大。金融分析師則認(rèn)為,投資者向谷歌施加太大壓力,逼迫谷歌加快創(chuàng)新速度,結(jié)果導(dǎo)致推出的產(chǎn)品不夠成熟。

Investing網(wǎng)站分析師Thomas Monteiro稱:“現(xiàn)在的谷歌別無選擇,企業(yè)必須快速前進(jìn),即使跳過幾個(gè)步驟也再所不惜?!?/p>

AI搜索,任重道遠(yuǎn)

谷歌新聞發(fā)言人Lara Levin認(rèn)為,AI Overview提供的大多查詢結(jié)果是高質(zhì)量信息,并且還附有鏈接,用來擴(kuò)充內(nèi)容。她還說,報(bào)告中提及的問題大多都出自非常規(guī)查詢,或者是人為操縱的案例,未來谷歌會(huì)繼續(xù)優(yōu)化系統(tǒng)。

自2022年ChatGPT獲得成功之后,谷歌努力將AI融入自家產(chǎn)品矩陣。問題在于,大模型是用海量線上數(shù)據(jù)訓(xùn)練的,這些數(shù)據(jù)充斥著虛假錯(cuò)誤信息。

雖然面臨諸多困難,谷歌仍然一往無前,最新推出的AI Overview是一個(gè)里程碑,它整合了Gemini模型,與搜索捆綁在一起。

按照設(shè)計(jì),AI Overview可以處理復(fù)雜查詢,比傳統(tǒng)搜索效率更高。雖然谷歌高調(diào)宣稱將AI Overview與搜索整合好處多多,但現(xiàn)實(shí)卻離宣傳有很長(zhǎng)一段距離。

AI Overview建議用戶在制作披薩時(shí)加入無毒膠水,因?yàn)樗梢苑乐鼓汤伊鲃?dòng)。為什么會(huì)給出如此荒誕的建議?因?yàn)?1年前有人在Reddit發(fā)帖,以開玩笑的口吻建議這樣做,AI完全無法識(shí)別它是不是玩笑,居然當(dāng)真了。

還有,AI Overview建議用戶每天要吃一塊石頭,攝取維生素和礦物質(zhì),這一謬論源自一篇諷刺性文章。

谷歌搜索追求的是關(guān)聯(lián)性、可信度、實(shí)用,AI Overviews不只沒有幫上忙,還破壞了搜索。

AI幻覺,難以根除

AI出現(xiàn)錯(cuò)誤并不稀奇,這就是所謂的“幻覺”,它將錯(cuò)誤、虛擬信息當(dāng)成正確。出現(xiàn)幻覺是訓(xùn)練數(shù)據(jù)存在缺陷、算法完美、誤解情境造成的。

數(shù)字營(yíng)銷公司Chelsea Digital的CEO Mike Grehan認(rèn)為,從本質(zhì)上講,大語言模型就是根據(jù)過去看到的東西對(duì)未來進(jìn)行統(tǒng)計(jì)預(yù)測(cè),所以“廢話進(jìn)去、廢話出來”的情況仍然存在。

AI Overviews相當(dāng)于給傳統(tǒng)搜索結(jié)果做總結(jié),然后將總結(jié)反饋給用戶。在輸出答案時(shí),它免不了收集一些惡搞信息、玩笑,所以很容易輸出一些似是而非的東西。

出版商、網(wǎng)站不喜歡AI Overviews,因?yàn)樗峁╅L(zhǎng)長(zhǎng)的摘要信息,然后將網(wǎng)站鏈接放在最后,用戶極可能沒耐心看到最后,點(diǎn)擊鏈接。

有人認(rèn)為,雖然AI Overviews不完美,會(huì)出現(xiàn)錯(cuò)誤,但大多時(shí)候是正確的,它遠(yuǎn)比普通人聰明,而且響應(yīng)速度很快,還有,即使現(xiàn)在不完美,未來也會(huì)變得接近完美。

真是這樣嗎?紐約大學(xué)教授Gary Marcus認(rèn)為,許多AI企業(yè)都在兜售“美夢(mèng)”,說準(zhǔn)確率將會(huì)從80%提升至100%,但是大家要明白,達(dá)到80%的準(zhǔn)確率相對(duì)容易,向AI喂入更多數(shù)據(jù)就行,但最后20%卻充滿挑戰(zhàn),這部分可能也是所有流程中最難的。

Gary Marcus稱:“你需要做出一些推理,然后還要做決定:這些信息真的有意義嗎?信息來源可靠嗎?你必須像人類一樣檢查信息真假。老實(shí)說,只有AGI才能做如此復(fù)雜的工作,現(xiàn)在的AI不行?!?/p>

與Meta人工智能主管Yann LeCun一樣,Gary Marcus也認(rèn)為依靠現(xiàn)在的大語言模型無法創(chuàng)造出AGI。

如果AI Overviews提供的是錯(cuò)誤答案,谷歌應(yīng)該負(fù)責(zé)嗎?按照美國1996年制定的《通信規(guī)范法》,谷歌不屬于出版商,不必為第三方內(nèi)容負(fù)責(zé)。

制定法律時(shí),美國沒有將AI生成的搜索結(jié)果信息考慮進(jìn)去,AI Overview受不受法規(guī)約束沒有定論,因?yàn)楹茈y判斷AI Overview內(nèi)容是不是谷歌創(chuàng)作的。(小刀)

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2024-06-03
谷歌AI搜索遭遇當(dāng)頭一棒:AI Overview結(jié)果紕漏百出
谷歌新推出的AI Overview遠(yuǎn)遠(yuǎn)稱不上完美,它輸出的結(jié)果不精準(zhǔn),謊話連篇,甚至能逼瘋用戶。

長(zhǎng)按掃碼 閱讀全文