近年來，研究人員開發(fā)出能模擬人類能力的人工智能 (AI) 系統，例如識別圖像中的物體、回答問題等等。然而，與會隨著時間退化的人腦不同，這些系統通常會保持相同的性能，甚至隨著時間的推移提高技能。
加州大學歐文分校的研究人員最近嘗試在人工智能體中模擬衰老和生物神經退化(即神經元逐漸減少以及相關的心理能力下降)。他們預印在 arXiv 上的論文提出了一種利用“人為神經退化”來執(zhí)行特定任務的創(chuàng)新型 AI 系統的開發(fā)思路。
“這項研究的最初靈感來自于與 Baldi 博士和 Pishgar 博士共進晚餐時的一次討論，” 論文的共同作者俞岱(Yu-Dai Tsai)告訴 Tech Xplore，“當時我們討論了廣泛但不相關的各種主題，包括神經退化、學習和人工智能安全?！?/p>
“此外，我父親最近經歷了一次嚴重的腦損傷，并出現了認知能力下降的情況，這促使我從新的角度思考這個問題，以及它在計算機科學和深度學習領域的直接應用?！?/p>
Tsai及其同事最近的這項研究并非旨在人工復制人類腦部疾病。相反，該團隊希望在人工智能體中產生認知衰退，以更好地理解復雜系統，從而可能增強其可解釋性和安全性。
“我們使用大型語言模型 (LLM) 執(zhí)行的智商測試，更具體地說是 LLaMA 2，引入了 ‘神經元侵蝕’的概念，” Tsai 解釋道。 “這種蓄意的侵蝕涉及在訓練期間或之后切除突觸或神經元，或添加高斯噪聲，從而導致 LLM 的性能出現可控的下降?！?/p>
研究人員發(fā)現，當他們故意切除 LLaMA 2 模型的一部分人工突觸或神經元時，其在智商測試中的表現會按照特定模式下降。他們的觀察可能會揭示復雜人工智能系統的工作原理，以及其底層結構受損時首先和最后下降的能力。
“除了建立一般框架之外，這項研究也許最有趣的結果是，大型語言模型會首先喪失抽象思維能力，然后是數學能力下降，最終喪失語言能力，無法連貫地回應提示，” Tsai 說， “我們正在進行進一步的測試以更好地理解這種觀察到的模式?！?/p>
研究人員發(fā)現，當人工智能系統中的人工突觸和神經元被移除時，這些系統首先會喪失抽象思維能力，然后喪失數學能力，最后喪失語言技能(即無法連貫地回應提示)。有趣的是，這種“神經侵蝕”模式與人類神經退化模式一致。
未來，Tsai及其同事的這項最新工作可能會啟發(fā)其他研究團隊探索人工智能體中專門的神經退化，超越以往側重于復制人類神經退化的研究。這些研究將共同為開發(fā)利用觀察到的 AI 神經侵蝕模式來解決現實世界問題的新技術鋪平道路。
“這只是一系列研究中的第一個，” Tsai 補充說， “我們計劃將我們的研究擴展到人工智能系統的特定測試，并將模擬擴展到其他神經疾病和神經多樣性。此外，我們將應用我們的方法來提高人工智能的安全性 可解釋性。我們也渴望與神經科學家進行更多的合作和討論; 但是，我們的主要重點仍然是在探索人工智能研究的新領域，而不是復制人類腦部疾病。”
本文譯自 techxplore，由 BALI 編輯發(fā)布。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
