henry 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
AI圈追逐多年的通用人工智能（AGI），可能從一開始就走偏了論文。
圖靈獎得主Yann LeCun在最新論文中提出論文，未來AI的發(fā)展方向不應(yīng)該是模仿人類，而是另一條路線——
超人類適應(yīng)性智能（Superhuman Adaptable Intelligence, SAI）論文。
在這個框架里論文，AI的發(fā)展目標(biāo)發(fā)生了三個關(guān)鍵變化：
不再以人類為參照系論文。
擁抱專業(yè)化，在具體領(lǐng)域?qū)崿F(xiàn)超人類能力論文。
衡量智能的核心指標(biāo)，從“會多少技能”變成“學(xué)習(xí)新技能的速度”論文。
不再以人類為參照系論文。
擁抱專業(yè)化，在具體領(lǐng)域?qū)崿F(xiàn)超人類能力論文。
衡量智能的核心指標(biāo)，從“會多少技能”變成“學(xué)習(xí)新技能的速度”論文。
換句話說論文，SAI不再追求“像人一樣聰明”，而是關(guān)注一件更底層的事情：
系統(tǒng)適應(yīng)新任務(wù)的速度論文。
值得一提的是，LeCun在論文中還提出了一個頗為有趣的觀點：人類本身其實也并不“通用”論文。
我們所謂的“通用能力”論文，很大程度上只是生物進(jìn)化的結(jié)果——
人類在漫長的進(jìn)化過程中，逐漸獲得了一套適者生存的能力組合論文。
邁向超人類適應(yīng)性智能 (SAI)
按照論文中的定義論文：超人類適應(yīng)性智能（Superhuman Adaptable Intelligence, SAI）指的是一種系統(tǒng)：
能夠通過快速適應(yīng)，在人類能完成的任務(wù)上超越人類，同時也能解決大量人類從未涉足的任務(wù)領(lǐng)域論文。
展開全文
這里有一個關(guān)鍵轉(zhuǎn)變論文。過去AI的發(fā)展邏輯是：把人類當(dāng)作智能的標(biāo)尺。
只要機器能做到“人類水平”，就算成功，比如圖靈測試論文。
但LeCun團(tuán)隊認(rèn)為論文，這種思路本身就存在問題，論文中有一句非常直接的話：
將智能錨定在人類基準(zhǔn)線上，與通往超人類能力的路徑是正交的論文。
將智能錨定在人類基準(zhǔn)線上，與通往超人類能力的路徑是正交的論文。
換句話說：如果目標(biāo)只是“達(dá)到人類水平”，反而可能限制AI的發(fā)展論文。
從這個視角來看論文，真正值得優(yōu)化的，并不是模型完成某個固定任務(wù)的能力，而是：
系統(tǒng)適應(yīng)新任務(wù)的速度論文。
因為一旦把“模仿人類”當(dāng)作目標(biāo)論文，AI的任務(wù)空間其實就被人為限制了——
人類能做什么，AI就學(xué)什么，但人類能力本身只是生物進(jìn)化的結(jié)果，并不代表智能的全部可能論文。
更合理的路徑是讓AI圍繞明確目標(biāo)不斷優(yōu)化，并通過自我博弈、進(jìn)化搜索和大規(guī)模仿真持續(xù)提升能力論文。
而這一觀點論文，也與Richard S. Sutton在《The Bitter Lesson》中提出的觀點相呼應(yīng)——
真正推動AI進(jìn)步的，往往不是模仿人類的技巧，而是規(guī)?；嬎闩c通用學(xué)習(xí)方法論文。
在這種框架下，AI并不需要模仿人類，也可以在許多任務(wù)上直接超越人類表現(xiàn)論文。
相反，如果過度關(guān)注“人類水平”，不僅會誤導(dǎo)研究目標(biāo)，還會把AI的發(fā)展限制在以人類為中心的任務(wù)空間里論文。
為什么AI不該模仿人類？
作為邁向超人類智能的一個重要前提，論文中還有一個非常有意思的觀點：人類其實并沒有我們想象的那么“通用”論文。
人腦并不是為了數(shù)學(xué)、編程或科學(xué)研究設(shè)計的論文。它最初的目標(biāo)只有一個：在原始森林里活下去。
換句話說，人類的智能本質(zhì)上是進(jìn)化塑造的一種生存工具論文。
自然選擇和進(jìn)化優(yōu)化了我們的能力，讓我們擅長視覺感知、行走論文。
這些能力在我們看來非常“通用”，只是因為它們對生存至關(guān)重要，一旦離開這個進(jìn)化舒適區(qū)，我們在其他認(rèn)知任務(wù)上其實表現(xiàn)的并不好論文。
比如，計算復(fù)雜概率、高維優(yōu)化、大規(guī)模邏輯搜索，在這些任務(wù)，人類的表現(xiàn)遠(yuǎn)遠(yuǎn)不如計算機論文。
最經(jīng)典的例子就是國際象棋論文。頂級棋手在人類中顯得極其聰明，但面對計算機時早已沒有勝算。
這其實說明了一件事：所謂“AGI”，很大程度上是一種錯覺，我們只是無法看見自己的生物學(xué)盲區(qū)論文。
而這個問題，就是鋸齒的智能，或者所謂的莫拉維克悖論（Moravec’s Paradox）論文。
簡單來說：人類覺得最簡單的事情（比如走路、抓東西）論文，對計算機來說反而最難；
而人類覺得困難的事情，比如：下棋、數(shù)學(xué)計算，對計算機卻非常容易論文。
原因很簡單，那些“簡單”的能力，其實是人類數(shù)百萬年進(jìn)化的結(jié)果，它們實際上一點也不簡單，只是我們習(xí)以為常論文。
所以論文得出的結(jié)論也很直接論文：
如果未來AI只是復(fù)制人類這種“生存型智能工具箱”，那將是一條錯誤的技術(shù)路線論文。
專業(yè)化論文，才是智能進(jìn)化的常態(tài)
那既然人類的“通用性”本身就是一種盲區(qū)論文，那么真正正確的方向是什么？
Yann LeCun在論文中援引了生物學(xué)和機器學(xué)習(xí)領(lǐng)域的經(jīng)驗論文，給出的答案是：
專業(yè)化，才是智能進(jìn)化的常態(tài)論文。
從生物學(xué)角度來看，專業(yè)化本就是常態(tài)論文。在資源有限、環(huán)境復(fù)雜的情況下，進(jìn)化會不斷推動系統(tǒng)向特定能力方向優(yōu)化。
AI系統(tǒng)其實也面臨同樣的壓力論文。
如果某個領(lǐng)域的任務(wù)非常重要成本、精度、可靠性，任何達(dá)不到要求的模型，都會被更專業(yè)的系統(tǒng)取代論文。
現(xiàn)實世界已經(jīng)有很多這樣的例子論文。最典型的就是AlphaFold。
這個系統(tǒng)專門針對蛋白質(zhì)結(jié)構(gòu)預(yù)測設(shè)計，通過任務(wù)特定的架構(gòu)、數(shù)據(jù)和訓(xùn)練策略，實現(xiàn)了巨大的突破，直接改變了整個生物學(xué)領(lǐng)域論文。
這也體現(xiàn)了機器學(xué)習(xí)中的一個基本規(guī)律：算法的成功，往往來自于它與問題結(jié)構(gòu)（目標(biāo)分布）的匹配論文。
如果一個模型既要：疊衣服、開車、寫代碼、預(yù)測蛋白質(zhì)結(jié)構(gòu)那么它很可能在所有任務(wù)上都只能做到“差不多”論文。
這也是為什么LeCun在論文中說論文：
幫我們折疊蛋白質(zhì)的AI論文，不應(yīng)該是幫我們折疊衣服的那個AI！
幫我們折疊蛋白質(zhì)的AI論文，不應(yīng)該是幫我們折疊衣服的那個AI！
這在機器學(xué)習(xí)里有一個經(jīng)典現(xiàn)象：負(fù)遷移（Negative Transfer）論文。
當(dāng)多個任務(wù)爭奪同一套模型容量時，它們的梯度可能互相沖突，反而拖累性能論文。
因此，從工程和理論角度看：強行追求通用性，往往是一條低效的路線論文。
LeCun的答案論文：SSL + 世界模型
那么問題來了論文。如果不追求AGI，該怎么追求SAI？
LeCun團(tuán)隊給出的技術(shù)路線是三個關(guān)鍵詞論文：
自監(jiān)督學(xué)習(xí) + 世界模型 + 模塊化系統(tǒng)論文。
首先是自監(jiān)督學(xué)習(xí)（Self-Supervised Learning）論文。這種方法不依賴人類標(biāo)注，而是從大量真實世界數(shù)據(jù)中學(xué)習(xí)底層結(jié)構(gòu)。
其次是世界模型（World Models）論文。也就是讓AI在內(nèi)部構(gòu)建一個“世界的模擬器”，像人類一樣：預(yù)測未來、進(jìn)行規(guī)劃、在腦中模擬行動結(jié)果。
這樣系統(tǒng)就可以在沒有明確訓(xùn)練的情況下完成新任務(wù)論文。
最后是模塊化架構(gòu)論文。論文明確反對一種觀點：不存在一個“統(tǒng)治一切”的模型架構(gòu)，尤其是自回歸范式的下一個token預(yù)測。
未來AI更可能是一系列相互協(xié)作的系統(tǒng)，而不是一個萬能模型論文。
作者介紹
這篇論文的第一作者是來自哥倫比亞大學(xué)的博士生Judah Goldfeder，師從Hod Lipson教授論文。
此前，他曾在谷歌、推特、Meta等機構(gòu)實習(xí)，研究興趣主要集中在強化學(xué)習(xí)、算法博弈論、多智能體人工智能、無監(jiān)督表征學(xué)習(xí)、多任務(wù)學(xué)習(xí)以及幾何學(xué)習(xí)等方向論文。
論文的其他作者還包括Philippe Wyder，同樣師從Hod Lipson教授，以及圖靈獎得主Yann LeCun論文。
此外，作者團(tuán)隊中還有來自紐約大學(xué)數(shù)據(jù)科學(xué)中心的助理教授兼Faculty Fellow的Ravid Shwartz-Ziv論文。
