新浪科技訊 北京時(shí)間4月21日早間消息,據(jù)報(bào)道,芯片行業(yè)研究公司SemiAnalysis首席分析師迪倫·帕特爾(Dylan Patel)表示,由于ChatGPT運(yùn)行在價(jià)格昂貴的計(jì)算基礎(chǔ)設(shè)施之上,OpenAI每天為運(yùn)行ChatGPT投入的成本可能高達(dá)70萬(wàn)美元。
帕特爾指出,ChatGPT需要龐大的算力,才能基于用戶的輸入信息做出反饋,包括撰寫(xiě)求職信、生成教學(xué)計(jì)劃,以及幫助用戶優(yōu)化個(gè)人資料等。他表示:“大部分成本都來(lái)自于昂貴的服務(wù)器?!?/p>
此外,帕特爾最初的估計(jì)基于OpenAI的GPT-3模型,而在采用最新的GPT-4模型之后,ChatGPT現(xiàn)在的運(yùn)行成本可能更高。
對(duì)此,OpenAI尚未對(duì)此做出回應(yīng)。
帕特爾和SemiAnalysis的另一位分析師阿夫扎爾·艾哈邁德(Afzal Ahmad)表示,此前外界已經(jīng)注意到,訓(xùn)練ChatGPT背后的大語(yǔ)言模型可能要花費(fèi)上億美元,但運(yùn)營(yíng)費(fèi)用,或者說(shuō)人工智能推理的成本,以任何合理的部署規(guī)模來(lái)看都遠(yuǎn)遠(yuǎn)超過(guò)了訓(xùn)練成本。他們指出:“事實(shí)上,按周來(lái)看,ChatGPT的推理成本超過(guò)了訓(xùn)練成本?!?/p>
過(guò)去幾年,使用OpenAI語(yǔ)言模型的公司也一直在承擔(dān)高昂的價(jià)格。創(chuàng)業(yè)公司Latitude開(kāi)發(fā)了一款基于用戶輸入信息生成故事情節(jié)的人工智能地下城游戲。該公司首席執(zhí)行官尼克·沃爾頓(Nick Walton)表示,運(yùn)行該模型,以及相應(yīng)的購(gòu)買(mǎi)亞馬遜AWS云服務(wù)器的費(fèi)用2021年達(dá)到每月20萬(wàn)美元。因此,沃爾頓最終決定改用AI21 Labs支持的語(yǔ)言軟件提供商。這幫助他將公司的人工智能成本降低了一半,至每月10萬(wàn)美元。
沃爾頓在接受采訪時(shí)表示:“我們會(huì)開(kāi)玩笑說(shuō),我們有人類(lèi)員工和人工智能員工,在這兩類(lèi)員工身上花費(fèi)的成本大致相同。我們每個(gè)月在人工智能上花掉數(shù)十萬(wàn)美元,而且我們也不是一家大型初創(chuàng)公司,所以這是一筆巨大的開(kāi)支?!?/p>
近期有報(bào)道稱(chēng),為了降低生成式人工智能模型的運(yùn)行成本,微軟正在開(kāi)發(fā)一款代號(hào)為“雅典娜”的人工智能芯片。該項(xiàng)目于2019年啟動(dòng)。在此幾年前,微軟與OpenAI達(dá)成了10億美元的投資協(xié)議,要求OpenAI僅在微軟的Azure云服務(wù)器上運(yùn)行其模型。
微軟啟動(dòng)這一芯片項(xiàng)目的背后有兩方面思考。知情人士透露,微軟高管意識(shí)到,他們?cè)谧灾餍酒_(kāi)發(fā)方面落后于谷歌和亞馬遜。與此同時(shí),微軟正在尋找更便宜的方案去替代英偉達(dá)的GPU芯片。
目前,微軟大約有300多名員工正在開(kāi)發(fā)這款芯片。消息人士稱(chēng),該芯片最早可能在明年發(fā)布,供微軟和OpenAI內(nèi)部使用。微軟拒絕對(duì)此消息置評(píng)。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )