會(huì)睡覺(jué)的AI效率更高

對(duì)我們?nèi)祟?lèi)來(lái)說(shuō),睡眠非常重要。長(zhǎng)時(shí)間剝奪睡眠的話,搞不好會(huì)直接去世。此外,某些自主運(yùn)行的功能會(huì)趁著意識(shí)陷入睡眠的時(shí)候,修補(bǔ)我們的身體:比如說(shuō),讓神經(jīng)元修剪我們?cè)诎滋旖⑵饋?lái)的并無(wú)必要的突觸連接,好保持大腦的健康。

這個(gè)過(guò)程被稱(chēng)為突觸體內(nèi)平衡,可以防止大腦內(nèi)存被無(wú)用記憶堆滿(mǎn)。或許它也提高了我們的認(rèn)知表現(xiàn),而做夢(mèng)可以讓我們整理以往的記憶。

事實(shí)證明,如果賦予人工神經(jīng)網(wǎng)絡(luò)睡眠和做夢(mèng)的功能,AI或許會(huì)像人類(lèi)大腦一樣變得更加健康。

是的,沒(méi)錯(cuò)。它的運(yùn)作方式與人類(lèi)的神經(jīng)系統(tǒng)相似。

當(dāng)然,人工神經(jīng)網(wǎng)絡(luò)(ANN)——從信息處理角度對(duì)人腦神經(jīng)元網(wǎng)絡(luò)進(jìn)行抽象, 建立某種簡(jiǎn)單模型,按不同的連接方式組成不同的網(wǎng)絡(luò)——不會(huì)自發(fā)而本能地入睡和做夢(mèng)。這就是為什么意大利的數(shù)學(xué)家特意編寫(xiě)了一款被稱(chēng)為Hopfield的會(huì)睡覺(jué)的神經(jīng)網(wǎng)絡(luò)。

“受到哺乳動(dòng)物大腦中睡眠和做夢(mèng)機(jī)制的啟發(fā),我們建議現(xiàn)有的神經(jīng)網(wǎng)絡(luò)模型,兼具標(biāo)準(zhǔn)的在線(清醒)學(xué)習(xí)機(jī)制(允許以模式存儲(chǔ)外部信息)和離線(睡眠)學(xué)習(xí)以及鞏固的機(jī)制?!?/p>

當(dāng)ANN清醒的時(shí)候,它不停地學(xué)習(xí)并存儲(chǔ)各種信息。問(wèn)題是,它的存儲(chǔ)容量是有限的。

因此,該團(tuán)隊(duì)設(shè)計(jì)了一種在數(shù)學(xué)上再現(xiàn)人類(lèi)睡眠模式的方法——快速眼動(dòng)睡眠和慢波睡眠,前者被認(rèn)為可以消除不必要的記憶,后者被認(rèn)為可以鞏固重要的記憶。

ANN的“睡眠”狀態(tài)也是如此,循環(huán)和消除不必要的信息,然后整合剩下的、重要的東西。

結(jié)果非常之好。沒(méi)有睡眠,最大容量是α= 0.14,其中α表示每個(gè)突觸存儲(chǔ)的比特?cái)?shù)。當(dāng)結(jié)合睡眠周期時(shí),ANN達(dá)到了這種網(wǎng)絡(luò)的理論極限——α= 1。

模擬的廣泛測(cè)試驗(yàn)證了他們的結(jié)論——允許神經(jīng)網(wǎng)絡(luò)偶爾打盹(使用正確的打盹算法)可以提高性能。

薩蘭托大學(xué)的數(shù)學(xué)家Adriano Barra說(shuō):“我們相信,在認(rèn)知的過(guò)程中——雖然學(xué)習(xí)和檢索肯定會(huì)發(fā)揮關(guān)鍵作用——睡眠對(duì)人工智能來(lái)說(shuō)也是必須的,就像對(duì)生物一樣?!?/p>

我們由衷希望,他們的理論正確無(wú)誤。

研究成果已發(fā)表在《神經(jīng)網(wǎng)絡(luò)》期刊上,可以在arXiv上閱讀到完整的版本。

本文譯自 sciencealert,由譯者 majer 基于創(chuàng)作共用協(xié)議(BY-NC)發(fā)布。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )

贊助商
2019-02-21
會(huì)睡覺(jué)的AI效率更高
對(duì)我們?nèi)祟?lèi)來(lái)說(shuō),睡眠非常重要。長(zhǎng)時(shí)間剝奪睡眠的話,搞不好會(huì)直接去世。

長(zhǎng)按掃碼 閱讀全文