「AI教父」辛頓WAIC演講：我們正在養一頭老虎，別指望能「關掉它」

辛頓認爲，我們正在創造比人類更聰明的AI，當前人類與AI的關係，恰似飼養一隻老虎，爲了生存，要麼擺脫它，要麼找到永久保護自身的方法；如今AI已經不可消除，如何訓練比人類更聰明的「好AI」，將是全人類的長期課題。

7月26日上午，2025世界人工智能大會（WAIC）在上海拉開帷幕。

在大會主論壇上，圖靈獎得主、諾貝爾物理學獎得主傑弗裏·辛頓（Geoffrey Hinton）出席並作演講，這也是辛頓首次以線下形式在中國公開亮相。

辛頓本次演講以《數字智能是否會取代生物智能》爲主題，他深刻剖析了數字智能與生物智能的根本差異，並分別用樂高積木和養老虎打比方說明了AI的思維邏輯以及人與AI的關係。

在對AI前景方面，辛頓感到警惕。他直言，我們正創造比自己更聰明的AI，這就像在家裏養一頭老虎當寵物，指望「消除它」是不現實的。

以下是辛頓的核心觀點：

AI發展有兩種範式，一是邏輯型範式，認爲智能本質在於推理，通過符號規則操作符號表達式；二是生物學基礎範式，認爲智能基礎在於學習和聯結網絡，理解先於學習。

大語言模型理解語言的方式與人類基本相同。人類有可能就是大語言模型，也會像大語言模型一樣產生幻覺，創造出許多幻覺性語言。

如果用樂高積木類比看，每個詞都是多維度的積木，可以根據上下文調整形狀，詞與詞之間需要「恰當握手」來產生含義。這種動態的特徵整合過程，正是人腦和神經網絡理解語言的根本方法。

數字智能具有兩大優勢：一是軟硬件分離帶來的「永恒性」，知識可以永久保存和複製；二是知識傳播效率極高，數字智能可以通過參數共享瞬間傳遞萬億比特信息。相比之下，生物智能雖然耗能更少，但知識分享困難。

當能源足夠廉價、可以複製成千上萬同樣聰明的AI大腦的時候，數字智能將不可逆地超越生物智能。因爲它們能以直接拷貝大腦知識的方式在群體中瞬時傳播知識。

我們正在創造比人類更聰明的AI，而這些智能體具有生存慾望和獲取控制權的動機。

當前人類與AI的關係，恰似飼養一隻老虎——它長大後可能輕易超越人類。爲了生存，要麼擺脫它，要麼找到永久保護自身的方法。

AI已無法消除，它能大幅提升幾乎所有行業的效率，即便有國家想消除，其他國家也不會認同。

辛頓建議，我們應當建立國際AI安全機構網絡，研究如何訓練超級AI向善，讓它們願意做輔助工作而不是消滅人類。

如何訓練比人類更聰明的「好AI」，將是全人類的長期課題。好消息是在這個問題上，所有國家都有合作的動機和可能性。

以下爲演講全文紀要：

各位同事、各位領導、女士們先生們，感謝大家給我這個機會，與各位分享我對AI歷史和未來的個人觀點。

60多年來，AI發展呈現出兩種不同的範式和路徑。第一種是邏輯型範式，過去一個世紀都以此爲主導。這種觀點認爲智能的本質在於推理，通過符號規則對符號表達式進行操作來實現推理，從而幫助我們更好地理解知識的表達方式。

另一種是以生物學爲基礎的AI理解方式，這也是圖靈和馮諾依曼所相信的觀點。他們認爲智能的基礎在於更好地學習和了解學習網絡中的連接，在這個過程中理解是第一位的，然後才能實現學習。與這兩種理論相對應的，一個是符號型AI原理，另一個則是完全不同的數字化理論。數字的本質實際上是一系列語義學特徵的集合。

1985年，我創建了一個小型模型，試圖將這兩個理論結合起來，更好地理解人們如何理解詞彙。我爲每個詞設置了多個不同特徵，記錄前一個數字的特徵後，就可以預測下一個數字或下一個詞，然後繼續預測後續詞彙。在這個過程中，我們沒有存儲任何句子，而是生成句子並預測下一個詞。這些關聯性知識取決於不同詞彙特徵之間的語義互動。

接下來的30年發生了什麼呢？

 

十年後，Bengio採用了類似的建模方式，但將規模大幅擴展，使其成爲自然語言的真實模擬。20年後，計算語言學家開始接受特徵向量嵌入來表達詞彙含義。又過了30年，谷歌發明了Transformer，OpenAI的研究人員也向大家展示了這一技術的能力。

這就是我們今天所擁有的成果。

因此，我將今天的大語言模型視爲早期微型語言模型的後代，它們擁有了更豐富的詞彙量。

1985年以後，大語言模型開始使用更多詞彙作爲輸入，採用更多層的神經元結構。由於需要處理大量模糊的數字，學習特徵之間建立了更加複雜的交互模式。大語言模型與人類理解語言的方式相同，基本理解過程是將語言轉化爲特徵，然後以完美的方式整合這些特徵。這正是大語言模型各個層次所做的工作。因此，大語言模型真正理解人類如何理解問題，與人類理解語言的方式一致。

傳統符號AI的做法是將語言轉化爲不模糊的符號，但實際情況並非如此，人類不是這樣理解語言的。可以用樂高積木來比喻理解過程：通過樂高積木可以搭建任何3D模型，比如製作車子的小模型。將每個詞視爲一個多維度的樂高積木，可能包含幾千個不同維度。這種多維度的積木可以進行建模，創造多種不同內容，語言因此變成了一個建模工具，能夠隨時與人溝通，只需要給每個積木命名即可，每個積木就是一個詞。

語言和樂高積木存在許多差異。樂高積木有多種不同類型，數量達到成千上萬塊。樂高積木的造型是固定的，但詞的符號形狀可以進行設定，也可以根據不同情況進行調整。樂高積木通過塑料圓柱體插入塑料孔，或將正方形插入正方形孔來連接，相對確定。

語言卻不同，每個詞可以想象成有很多隻手。要更好地理解詞彙，需要讓詞與詞之間恰當地握手。一旦詞的造型發生變形，它與另一個詞的握手方式就會改變。這涉及優化問題：一個詞變形後意思發生變化，如何與下一個詞握手以產生更好的含義。這就是人腦理解意思的本質，也是神經網絡理解意思的根本方法，類似於蛋白質與蛋白質之間的組合過程。

蛋白質通過將氨基酸進行不同模型整合融合，結合後能產生更有意義的內容。這正是人腦理解詞彙和語言的方式。因此我認爲，人類理解語言的方式和大語言模型理解語言的方式幾乎相同，人類有可能就是大語言模型，也會像大語言模型一樣產生幻覺，創造出許多幻覺性語言。

但在一些重要的根本性方面，大語言模型與人類不同，甚至比人類更強大。計算機科學的一個基礎原則是將軟件和硬件分離，這使得同樣的軟件可以在不同硬件上運行，這與人類存在根本差異，也是計算機科學存在的基礎。

程序中的知識是永恒存在的，軟件和程序可以永久保存。即使所有硬件都被摧毀，只要軟件繼續存在，就可以隨時復活。從這個意義上說，計算機程序的知識具有永恒性和不朽性。

要實現這種永恒性，需要晶體管在高功率運行時仍能產生可靠的二進制行爲，這個過程成本很高。我們無法利用硬件中豐富的模擬特性，因爲這些特性不夠穩定可靠，每次都是模擬型的，每次計算結果都不相同。人腦是模擬的而非數字的，每次神經元激發過程都是模擬型的，不會完全相同。我無法將自己大腦中的神經元結構轉移到他人大腦中，因爲每個人的神經元連接方式都不同，我的神經元連接方式只適合我的大腦神經結構。知識傳播在硬件中的方式與在人腦中的方式不同，這正是問題所在。

如果我們做不到永生，硬件的優勢在於它不依賴於特定條件，因此具有永生特性，能帶來兩大好處。

我們可以使用功耗極低的模擬硬件。僅用很小的功率和電能就能實現功能，人腦只需要30瓦特就足夠運行，而我們有幾萬億個神經元連接。這種發展硬件的情況與電子管的發展類似。

我們能夠做到極其精確的模擬，不需要花費大量資金去製造完全相同的硬件。

 

但是我們現在面臨一個較大的問題：從一個模擬模型轉換到另一個模型，將知識進行遷移是非常低效和困難的。就像我無法直接將腦中的想法展示給你一樣，我只能通過解釋的方式向你說明已經學到的內容。

解決這個問題的最佳方法是蒸餾技術。DeepSeek就採用了這種方法，將大型神經網絡的知識轉移到小型神經網絡中。這個想法基於教師和學生的關係模型，在某些情況下，教師將相關概念聯繫起來，生成下一個輸出單元。

他將詞彙與詞彙在上下文中相互連接，通過修改連接來建立聯繫。學生也可以表達相同的意思，但他需要調整表達方式來傳達相同含義。

我們訓練模型的方式與人類知識傳遞的方式相似，即將一個人的知識傳遞給另一個人，但這種方式效率很低。

一句話可能包含大約一百比特的信息，這個信息量並不算特別多。這種從一個人到另一個人的傳遞方式限制了我們轉移知識的數量。通過緩慢講話的方式將知識傳遞給他人，每秒鐘最多也就能傳遞100個比特左右的信息。即使對方完全理解了所說的內容，傳遞效率仍然不高。但如果與數字智能之間的知識轉化效率相比，兩者存在巨大差別。

如果我們擁有同一個神經網絡軟件的多個副本，將這些副本分別部署在不同的硬件設備上，由於它們都採用數字化方式，它們能夠以相同的方式使用各自的參數，並通過平均化位置參數的方式來實現知識共享，最終通過互聯網進行傳播。

我們可以創建成千上萬的拷貝，它們能夠自主改變權重並取平均數，從而實現知識轉移。

這種轉移速度取決於連接點的數量。每次能夠分享萬億個比特的信息，比人類分享知識的速度快幾十億倍。GPT-4就是很好的例子，它有許多不同的拷貝在不同硬件上運轉，能夠分享各自從網絡上學到的不同信息。

當智能體在現實世界中運行時，這一點更加重要，因爲它們能夠不斷加速和拷貝。多個智能體比單個智能體學得更多，它們能夠分享權重，而模擬軟件或模擬硬件無法做到這一點。

我們認爲，數字計算雖然需要大量能源，但智能體可以方便地獲取相同權重，分享從不同經驗中學到的知識。相比之下，生物計算耗能更少，但分享知識卻很困難。如我剛才所展示的，如果能源很便宜，數字計算就會更具優勢，這也讓我感到擔憂。

幾乎所有專家都認爲我們將生產出比人類更智能的AI。我們習慣了成爲最智能的生物，所以很多人難以想象當AI在世界中比人類更智能時會發生什麼。如果想要了解人類不再是最智能物種時會怎樣，我們可以問問雞的感受。

我們正在創建AI智能體，它們能夠幫助我們完成任務。這些智能體已經具備了一定的能力，可以進行自我複製，能夠爲自己的子目標評級。它們會想做兩件事情：第一是生存，第二是實現我們賦予它們的目標。

爲了完成我們給它們的目標，它們也希望能夠獲得更多的控制權。所以這些智能體既想要生存，也想要更多的控制。

我認爲我們沒辦法輕易改變或關閉它們。我們不能簡單地把它們一關了事，因爲它們會很方便地操縱使用它們的人。到時候我們就像三歲的孩子，而它們像成年人一樣，操縱三歲的人是很容易的。

有人覺得當它們變得比我們更聰明時，我們就把它們關掉，但這是不現實的。它們會操縱和勸說操控機器的人不要把它們關掉。

我覺得我們現在的情況就像有人把老虎當寵物。老虎幼崽確實可以是很可愛的寵物，但如果一直養這個寵物，那麼你要確保它長大的時候不會把你殺掉。

一般來說，養老虎當寵物不是一個好想法。但如果你養了老虎，只有兩個選擇。要麼把它訓練好讓它不攻擊你，要麼把它消滅掉。而對於AI，我們沒有辦法把它消滅掉。

AI在很多方面都表現出色，包括醫療、教育、氣候變化、新材料等領域，幾乎能夠幫助所有行業變得更有效率。我們無法消除AI，即使一個國家消除了AI，別的國家也不會這麼做，所以這不是一個選項。這意味着如果我們想要人類生存，就必須找到辦法來訓練AI，讓它們不要消滅人類。

我需要強調的是，我是以個人身份發言，發表個人觀點。我覺得各個國家在某些方面可能不會合作，比如網絡攻擊、致命武器，或者操縱公衆意見的虛假視頻。不同國家的利益並不一致，他們有着不同的看法。在這些方面不會有有效的國際合作。我們可以防止一些人制造病毒，但在這些方面不會有什麼國際合作。不過有一個方面我們是會進行合作的，我覺得這也是最重要的問題。

如果你看一下50年代冷戰巔峰時期，美國和蘇聯一起合作來預防全球核戰爭。大家都不希望打核戰爭，儘管他們在很多方面都是對抗的，但在這一點上可以合作。我們現在的局面是，沒有一個國家希望AI統治世界，每個國家都希望人類能夠掌控世界。如果有一個國家找到辦法來防止AI操縱事件，那麼這個國家肯定會很樂意告訴其他國家。

所以我們希望國際社會能夠有一個AI安全機構組成的國際社群，來研究技能，培訓AI，讓它們向善。我們的希望是，訓練AI向善的技術與訓練AI變得聰明的技術是不同的。因此，每個國家都可以進行自己的研究來讓AI向善，可以在自己的主權AI上進行這項研究。雖然不能對其他國家保密，但可以與大家分享結果，即如何訓練AI向善。

這是我的提議：全球或世界主要國家，或者主要的AI國家應該考慮建立一個網絡，包括來自各國的機構來研究這些問題，研究如何訓練一個已經非常聰明的AI，使這個AI不想消滅人類，不想統治世界，並且樂意
做輔助工作，即使AI比人類聰明得多。我們還不知道如何做到這一點。

從長期來說，這可以說是人類面臨的最重要問題。好消息是在這個問題上，所有國家都可以一起合作。謝謝。

來源: 華爾街見聞
※ 文章若有涉及版權疑義，請來信通知，我們將立即下架處理