陶大程院士:大模型的上空漂浮著一朵“烏云”

7月6日消息 昨天,中國信息通信研究院承辦的WAIC 2024“邁向AGI:大模型煥新與產(chǎn)業(yè)賦能”論壇,于上海徐匯西岸拉開帷幕!本次論壇深度聚焦大模型產(chǎn)業(yè)應用落地、端側智能、大模型安全與治理等前沿熱點話題,攜手全球AI領域頂級學者、行業(yè)領袖展開頂尖思維碰撞,共探大模型驅動新質生產(chǎn)力發(fā)展的新潛能,為行業(yè)呈現(xiàn)一場精彩紛呈的科技盛宴。

澳大利亞科學院院士、南洋理工大學杰出教授陶大程院士應邀作了題為“大模型的道術”的主旨演講。

陶大程表示,從ChatGPT成功以來,大模型發(fā)展十分迅速,一定程度上可以看作是人和自然的博弈。隨著超級大模型的誕生,人工智能的發(fā)展已經(jīng)進入了平臺期,走在十字路口的中央,產(chǎn)業(yè)界更應該思考大模型的道和術。“何為道?就是大模型的工作機制,何為術?就是大模型的實現(xiàn)和實踐的具體路徑。理解道,我們將會清楚大模型的工作機制和工作邊界。在理解道的基礎上,我們才有機會能夠更好發(fā)揮術。正所謂,有道無術,術上可求,有術無道,止于術。”

陶大程指出,歷經(jīng)了80年的實踐,神經(jīng)網(wǎng)絡終于在大模型時代證明了自己。在他看來,神經(jīng)網(wǎng)絡的發(fā)展動力主要來自于算力和數(shù)據(jù)的不斷增長,特別是最近10來年,深度學習充分展示了它在發(fā)展進程中的實際價值,目前深度學習的發(fā)展已經(jīng)進入了由大模型所驅動的超級深度學習時代。

陶大程認為,大模型的激動時刻莫過于它的涌現(xiàn)能力,但我們對什么是涌現(xiàn)能力還不夠清晰?!耙欢ǔ潭壬?,當前大模型已經(jīng)可以對產(chǎn)生的結果,做出相對比較合理的解釋,只是我們還不能夠完全信任這些解釋。因為我們對大模型的基本工作原理還不夠清晰,而這正是大模型的道?;孟罂偸窃诎l(fā)生,但我們不知道什么時候發(fā)生,也不知道為什么發(fā)生。今天,大模型的上空也漂浮著一朵烏云,這朵烏云實際上讓我們惴惴不安?!?/p>

陶大程指出,大模型的研究工程化和使用目前都面臨諸多的挑戰(zhàn)。比如,我們尚不清楚大模型是不是真的會思考?比如在大語言模型方面,復雜表述的困境,跨語言的幻覺甚至是翻譯的誤差;比如在文生圖方面,視覺文本的錯誤對齊、畸形的手和腳以及多模態(tài)混合生成的具像錯誤等等。同時,我們還面臨眾多人工智能安全的問題,內(nèi)生安全包括魯棒性、隱私保護、公平性以及透明性,衍生安全方面包括了可靠性、偏見、篤性。

陶大程強調,雖然面臨諸多挑戰(zhàn),但我們依然要向前,道雖不清,術上還要全力以赴?!按竽P妥鳛樾使ぞ撸艺J為它是一個非常好的選擇,可以廣泛應用于娛樂、電商、搜索的業(yè)務之上,大模型將會對未來的人機交互產(chǎn)生劃時代意義的變化和影響,人機交互將有機會實現(xiàn)全感知、沉浸式、無邊界以及無障礙。”

極客網(wǎng)企業(yè)會員

免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。

2024-07-06
陶大程院士:大模型的上空漂浮著一朵“烏云”
陶大程院士:大模型的上空漂浮著一朵“烏云”,C114訊 7月6日消息 昨天,中國信息通信研究院承辦的WAIC 2024“邁向AGI:大模型煥新與

長按掃碼 閱讀全文