卡內(nèi)基梅隆大學(xué)開發(fā)AI屆的“歐·亨利”，能斬獲普利策獎(jiǎng)嗎？

高級(jí)的自然語(yǔ)言處理系統(tǒng)，比如OpenAI的GPT-2，可以寫出人性化的語(yǔ)言，這一點(diǎn)令人印象深刻。然而，這樣的人工智能的語(yǔ)言往往缺乏說(shuō)服力和連貫性。其最顯著的特點(diǎn)就是他們難以寫出令人信服的作品——人工智能生成的故事往往是通用的，缺乏上下文。

為解決這一問(wèn)題，卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)學(xué)院的科學(xué)家們?cè)O(shè)計(jì)出一種方法，即為一個(gè)給定的故事創(chuàng)造更多“多樣化”的結(jié)尾。他們表示，研究的關(guān)鍵是訓(xùn)練人工模型把注意力集中在故事的重要短語(yǔ)上，促進(jìn)非通用詞的生成。

“故事情境由連接人物和事件的一系列句子構(gòu)成。這項(xiàng)任務(wù)具有挑戰(zhàn)性，因?yàn)樗枰獙?duì)上下文中的角色，事件和對(duì)象進(jìn)行建模，然后根據(jù)它們生成連貫且合理的結(jié)尾。概括事件和實(shí)體的語(yǔ)義以及它們?cè)诓煌适轮械年P(guān)系是一項(xiàng)非常重要的任務(wù)，”合著者寫道，“我們的研究表明，兩者的結(jié)合會(huì)帶來(lái)更多樣、更有趣的結(jié)局?！?/p>

團(tuán)隊(duì)利用seq2seq模型（一種長(zhǎng)短期記憶遞歸神經(jīng)網(wǎng)絡(luò)架構(gòu)，能夠?qū)W習(xí)依賴關(guān)系），并創(chuàng)建符合目標(biāo)故事情境的文字的數(shù)學(xué)表示，學(xué)習(xí)這些文字之間的關(guān)系,將他們轉(zhuǎn)化為人類可讀的文本。為了整合故事上下文中的關(guān)鍵短語(yǔ)，研究人員使用了一種名為RAKE的算法，該算法根據(jù)單詞的出現(xiàn)頻率和共現(xiàn)度為短語(yǔ)分配分?jǐn)?shù)，然后根據(jù)相應(yīng)的分?jǐn)?shù)對(duì)短語(yǔ)進(jìn)行手動(dòng)排序，并將低于一定閾值的短語(yǔ)丟棄。

為了使模型能夠生成更豐富的結(jié)尾，科學(xué)家們通過(guò)ROCStories數(shù)據(jù)集升級(jí)了他們的模型，該數(shù)據(jù)集包含超過(guò)50,000個(gè)五句話的故事。為了評(píng)估該模型,他們使用DIST算法計(jì)算得出不重復(fù)的一元模型（來(lái)自給定文本或語(yǔ)音樣本的n個(gè)項(xiàng)目的連續(xù)序列）、二元模型（一對(duì)連續(xù)寫單位如字母、音節(jié),或文字）和三元模型（三個(gè)連續(xù)寫單位）的數(shù)量，并將它們與一元、二元和三元模型的總數(shù)量相除。

在另一項(xiàng)測(cè)試中，他們訓(xùn)練谷歌的BERT完成開源故事填空任務(wù)，讓BERT在給定兩個(gè)選項(xiàng)的情況下選擇正確的故事結(jié)尾，從而將模型與基線進(jìn)行比較。

那么人工智能的表現(xiàn)如何呢？顯然想拿到普利策獎(jiǎng)是不可能了。雖然它在DIST測(cè)試中名列前茅，且故事完形填空的正確率達(dá)到了72%，但它偶爾也會(huì)給出一些荒謬的結(jié)尾，比如“凱蒂被自己搞得崩潰了，甩了男友”，或者不正確的代詞（“凱蒂”、“他自己”）。

研究人員承認(rèn)，需要進(jìn)一步的研究來(lái)確保輸出“語(yǔ)義和象征層面上的上下文”，并且它們?cè)谶壿嬌鲜呛侠砗鸵恢碌?。盡管如此，他們聲稱他們已經(jīng)“定量地”和“定性地”表明他們的模型能夠超越基線，實(shí)現(xiàn)“有意義的”改進(jìn)。

AD：還在為資金緊張煩惱嗎？獵云銀企貸，全面覆蓋京津冀地區(qū)主流銀行及信托、擔(dān)保公司，幫您細(xì)致梳理企業(yè)融資問(wèn)題，統(tǒng)籌規(guī)劃融資思路，合理撬動(dòng)更大杠桿。填寫只需兩分鐘，剩下交給我們！ (來(lái)源：獵云網(wǎng))

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。