“本質上來說，人類和動物的能力和今天我們看到的AI的能力之間是有差距的。簡單來說，機器學習和人類動物相比并不特別好。”6月9日，圖靈獎得主、深度學習三巨頭之一的楊立昆（Yann LeCun）在2023北京智源大會上表示。

在名為《走向能夠學習、推理和規劃的大模型》的線上演講中，楊立昆講述了他對大語言模型發展路線的系統思考。他認為，GPT這樣的主流路線存在局限，想讓AI獲得如人一般對真實世界學習、應對和規劃的能力，可以閱讀他在一年前所發表的論文中提出的架構“自主智能（Autonomous Intelligence）”。

(相關資料圖)

不看好自我監督學習

楊立昆表示，最近幾年，科學家更多使用機器自我監督學習，但這些系統會犯愚蠢的錯誤，不會推理和規劃，只是快速地反應。

“那么，我們如何讓機器像動物和人類一樣理解世界的運作方式，并預測其行動的后果？”楊立昆問道。

在回答這個問題之前，首先要了解什么是自我監督學習。“自我監督學習捕捉輸入中的依賴關系。在最常見的范例中，我們遮蓋輸入的一部分后將其反饋送到機器學習系統中，然后揭曉其余的輸入——訓練系統會捕捉看到的部分和尚未看到的部分之間的依賴關系。有時是通過預測缺失的部分來完成的，有時不完全預測。這種方法在自然語言處理的領域取得了驚人的成功。最近大模型的所有成功都是這個想法的一個版本。”他說。

“如果將這些模型訓練在一萬億個Token或兩萬億個Token的數據上，它們的性能是驚人的。但最終，它們會犯很愚蠢的錯誤。它們會犯事實錯誤、邏輯錯誤、不一致性，它們的推理能力有限，會產生有害內容。”楊立昆指出，“因為它們沒有關于基礎現實的知識，它們純粹是在文本上進行訓練的。這些系統在作為寫作輔助工具、幫助程序員編寫代碼方面非常出色，但它們可能會產出虛構的故事或制造幻覺。”

AI面臨的三個挑戰

再來看看人類和動物。“我們看到嬰兒在生命的前幾個月內掌握了大量關于世界運作方式的基礎概念：如物體永恒性、世界是三維的、有機和無機物體之間的區別、穩定性的概念、自然類別的學習以及重力等非常基本的概念。嬰兒9個月大就能會這些。”楊立昆表示，如果向5個月大的嬰兒展示將小汽車從平臺上推下來，嬰兒不會感到驚訝，但是10個月大的嬰兒會非常驚訝，因為嬰兒已經知道了物體應該在重力下下落。這些基本概念是通過觀察世界和體驗世界來習得的。研究者也應該用機器復制這種通過觀察或體驗世界來學習世界運作方式的能力。

如何做到這一點？楊立昆提出了未來幾年AI面臨的三個挑戰。第一，學習世界的表征和預測模型；第二，學習推理。參考系統1和系統2的概念。系統1是與潛意識計算相對應的人類行為或行動，是無需思考即可完成的事情，系統2是有意識、有目的地運用全部思維力去完成的任務。目前，人工智能基本上只能實現系統1中的功能，而且并不完全；第三，如何通過將復雜任務分解成簡單任務，以分層的方式運行來規劃復雜的行動序列。

大約一年前，楊立昆發表了一篇論文。他說，那篇論文是關于他對未來10年人工智能研究走向的愿景。“在我提出的這個系統中，核心是世界模型（World Model）。世界模型可以為系統所用，它可以想象一個場景，基于這樣的場景作為依據，預測行動的結果。因此，整個系統的目的是找出一系列根據其世界模型預測的行動，能夠最小化一系列成本的行動序列。”

AI與渦輪噴氣發動機

在與清華大學教授、智源首席科學家朱軍的對話環節中，楊立昆被問及對通用人工智能是否威脅人類的看法。據悉，他將參加一個辯論，與深度學習三巨頭之一的約書亞·本吉奧（Yoshua Bengio）、未來生命研究所創始人邁克斯·泰格馬克（Max Tegmark）和研究復雜系統的前沿科學家梅拉妮·米歇爾（Melanie Mitchell）探討人工智能會不會成為人類生存的威脅。

“在這場辯論中，邁克斯·泰格馬克和約書亞·本吉奧將站在“是”的一邊，認為強大的AI系統可能對人類構成存在風險。而我和梅拉妮·米歇爾將站在“否”的一邊。我們的論點不是說沒有風險，而是這些風險雖然存在，但可以通過謹慎的工程設計輕易地加以減輕或抑制。”楊立昆說。

“今天問人們，我們是否能夠確保超級智能系統對人類是安全的，這是無法回答的，因為我們還沒有超級智能系統的完整設計。除非你有一個基本設計，否則你無法保證它安全。這就像你在1930年問航空工程師，你能把渦輪噴氣發動機做得安全可靠嗎？工程師會問，什么是渦輪噴氣發動機？因為1930年還沒發明出渦輪噴氣發動機。”楊立昆打了這個比方，“所以，我們的處境有點相似。現在斷言，我們不能確保這些系統安全有點為時過早，因為我們還沒有發明出它們。”

（原標題：圖靈獎得主楊立昆：類GPT主流路線存在局限，仍不如人和動物）

標簽：