會睡覺的AI效率更高

對我們?nèi)祟悂碚f,睡眠非常重要。長時間剝奪睡眠的話,搞不好會直接去世。此外,某些自主運行的功能會趁著意識陷入睡眠的時候,修補我們的身體:比如說,讓神經(jīng)元修剪我們在白天建立起來的并無必要的突觸連接,好保持大腦的健康。

這個過程被稱為突觸體內(nèi)平衡,可以防止大腦內(nèi)存被無用記憶堆滿?;蛟S它也提高了我們的認(rèn)知表現(xiàn),而做夢可以讓我們整理以往的記憶。

事實證明,如果賦予人工神經(jīng)網(wǎng)絡(luò)睡眠和做夢的功能,AI或許會像人類大腦一樣變得更加健康。

是的,沒錯。它的運作方式與人類的神經(jīng)系統(tǒng)相似。

當(dāng)然,人工神經(jīng)網(wǎng)絡(luò)(ANN)——從信息處理角度對人腦神經(jīng)元網(wǎng)絡(luò)進行抽象, 建立某種簡單模型,按不同的連接方式組成不同的網(wǎng)絡(luò)——不會自發(fā)而本能地入睡和做夢。這就是為什么意大利的數(shù)學(xué)家特意編寫了一款被稱為Hopfield的會睡覺的神經(jīng)網(wǎng)絡(luò)。

“受到哺乳動物大腦中睡眠和做夢機制的啟發(fā),我們建議現(xiàn)有的神經(jīng)網(wǎng)絡(luò)模型,兼具標(biāo)準(zhǔn)的在線(清醒)學(xué)習(xí)機制(允許以模式存儲外部信息)和離線(睡眠)學(xué)習(xí)以及鞏固的機制。”

當(dāng)ANN清醒的時候,它不停地學(xué)習(xí)并存儲各種信息。問題是,它的存儲容量是有限的。

因此,該團隊設(shè)計了一種在數(shù)學(xué)上再現(xiàn)人類睡眠模式的方法——快速眼動睡眠和慢波睡眠,前者被認(rèn)為可以消除不必要的記憶,后者被認(rèn)為可以鞏固重要的記憶。

ANN的“睡眠”狀態(tài)也是如此,循環(huán)和消除不必要的信息,然后整合剩下的、重要的東西。

結(jié)果非常之好。沒有睡眠,最大容量是α= 0.14,其中α表示每個突觸存儲的比特數(shù)。當(dāng)結(jié)合睡眠周期時,ANN達(dá)到了這種網(wǎng)絡(luò)的理論極限——α= 1。

模擬的廣泛測試驗證了他們的結(jié)論——允許神經(jīng)網(wǎng)絡(luò)偶爾打盹(使用正確的打盹算法)可以提高性能。

薩蘭托大學(xué)的數(shù)學(xué)家Adriano Barra說:“我們相信,在認(rèn)知的過程中——雖然學(xué)習(xí)和檢索肯定會發(fā)揮關(guān)鍵作用——睡眠對人工智能來說也是必須的,就像對生物一樣?!?/p>

我們由衷希望,他們的理論正確無誤。

研究成果已發(fā)表在《神經(jīng)網(wǎng)絡(luò)》期刊上,可以在arXiv上閱讀到完整的版本。

本文譯自 sciencealert,由譯者 majer 基于創(chuàng)作共用協(xié)議(BY-NC)發(fā)布。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2019-02-21
會睡覺的AI效率更高
對我們?nèi)祟悂碚f,睡眠非常重要。長時間剝奪睡眠的話,搞不好會直接去世。

長按掃碼 閱讀全文