前言：
電視劇《漫長的季節》裡有這樣幾句詩：「打個響指吧，他說/我們打個共鳴的響指/遙遠的事物將被震碎/面前的人們此時尚不知情」。
劉嘉老師說，用這段詩來形容當下人類面對AGI（Artificial General Intelligence「通用人工智慧」）的狀態，再適合不過。
「我們每個人對未來的預測都可能是荒謬的、可笑的，未來可能並不是你所說的樣子。但是，只有越來越多的人一起加入共同討論，一起打開腦洞、一起奇思妙想，甚至一起胡說八道的時候，或許我們才可以真的改變未來，一起引領人類走向一個更好的未來。”
9月底，我們在清華大學腦與智慧實驗室拜訪了劉嘉教授。在這次交流中，劉嘉老師基於其在腦科學與人工智慧領域多年的研究積淀，暢談了當下由ChatGPT引領的AGI的未來發展及對人類可能產生的影響，並提出了諸多基於其研究領域而引申出的“腦洞大開”的“奇思妙想”，令我們深受啟發。
談到AGI領域的未來發展，劉嘉老師說，一方面，AI agent即大模型的具身化、具身智能正在加速發展；另一方面，包括他在內的腦科學家和認知科學家們，已經開始激烈地討論AGI未來可能產生的意識問題了。
在劉老師看來，人的一生中，極少有機會親身經歷一場引領時代變革的典範轉移。而此刻，我們正站在這樣一個重要歷史節點。儘管我們亦須承認，這樣的改變伴隨著許多風險。例如失業問題以及我們必須提升自己的學習能力並掌握新工具等。
然而，只要換個角度，就會發現這個嶄新的世界正為我們展現無盡的可能性。 GPT技術正在幫助我們擺脫枯燥乏味的重複性和知識性工作，讓我們投身於更具創造力和價值的事業，讓我們的時間變得更具意義。或許，這才是人類真正價值的彰顯。
“我們的現在是過去的未來，因為過去的選擇決定了現在的結果。然而，我們的現在並非未來的過去，因為未來充滿未知，此時此刻的選擇正在塑造我們的未來樣貌。”
面對未來，唯有暢想。我們將這次與劉嘉老師對話交流的核心觀點記錄下來，並與騰訊研究院的讀者們共颯。
讓我們打個共鳴的響指，一起迎接並擁抱未來。
對話嘉賓：
劉嘉 麻省理工學院博士，長期從事心理學、腦科學與人工智慧研究。清華大學基礎科學講席教授、心理學系主任、清華大學腦與智慧實驗室首席研究員、北京智源人工智慧研究院首席科學家
訪談者（以下簡稱T）：
牛福蓮 騰訊研究院資深研究員
王 強 騰訊研究院前沿科技研究中心主任
AGI：點燃第二次認知革命的火花
T：身為腦科學與人工智慧領域的研究學者，您怎麼看待這次由ChatGPT引發的AGI發展及對人類未來可能產生的影響？
劉嘉：在去年11月30日OpenAI發布ChatGPT之前，大多數人談論AI時，雖然覺得它神奇，但往往只從獵奇的角度看待。然而，自從ChatGPT問世以來，我認為每個人都有必要關注並了解它的發展和變化。未來通用人工智慧（AGI）將像水力發電一樣重要，不僅改變我們的工作方式，還可能直接影響我們每個人的未來，例如技能掌握、孩子培養和人類發展方向等，這些問題具有深遠意義。在我看來，這或許意味著第二次認知革命的來臨。
為什麼要稱之為第二次認知革命呢？我們先來看看第一次認知革命是如何發生的。大約在7萬到10萬年前，當時智人和尼安德塔人這兩個人類物種共同生活在地球上。儘管尼安德特人在身高和力量上優於我們，但最終還是被智人取代。我們的祖先智人是如何戰勝尼安德特人的呢？大家推測在7萬到10萬年前，發生了第一次認知革命，表現為人類製造的工具石器出現了爆發式的成長和多樣性。在此之前，從最早的直立人到尼安德塔人，他們所製作的石器都是相似的，只是越來越精細、巧妙。但在第一次認知革命時期，人類的石器製作發生了質的變化，不再只是製作斧頭、長矛等簡單工具，而是開始出現了項鍊等飾品，以及在石頭和骨頭上雕刻各種圖案。
回顧過去，我們發現在那個時代，人類逐漸產生了一種我們今天稱之為規則化思考的方式，簡而言之，就是「如果…並且…那麼…」(if…and… then)的邏輯。例如，人們發現在物體上打孔後，可以用繩子穿起來。這種基於規則的思考方式為人類帶來了無盡的創造力，如在布上打孔並用棍子穿過，就製成帆船等。從此，人類的創造力得到了充分釋放，並逐漸形成了強大的邏輯──演繹推理。
演繹推理是在一個推理基石的基礎上，應用此邏輯產生新的發明和創造。亞里斯多德提出了這個概念，稱為第一原理。孔子也曾說過類似的話：「君子務本，本立而道生。」這意味著只要從根本出發，就能產生萬事萬物。在這個理念的指導下，人類開始進行大量的發明創造，不再侷限於製作長矛等簡單工具，而是湧現各種發明創造。最終，智人戰勝了尼安德特人，確立了現代人的地位。也從此，地球上的智人真正主宰了這個星球。這個過程被稱為第一次認知革命，其重要性遠超過蒸汽機和電器等發明。
如今，關於第二次認知革命的定義引發了廣泛討論，例如原子彈的發明是否屬於第二次認知革命？但我認為，只有AGI的出現才能被稱為真正的第二次認知革命，因為它將催生一個全新的物種，這與過去35億年的生物進化截然不同。這種新物種才真正配得上第二次認知革命的稱號。第一次認知革命見證了智人成為地球的主宰，而第二次認知革命意味著一種全新的智慧物種可能誕生，與人類並肩存在。
儘管目前的ChatGPT尚未達到通用人工智慧的水平，但它已經點燃了通用人工智慧之路的火花。火花通常有兩層意義：一是可能引發燎原之火；二是在黑暗中照亮希望。然而，許多人低估了ChatGPT的價值，僅從商業角度看待它，認為它不過是一個堪比iPhone時刻的發明。我認為它的價值遠遠超過這些表面評價，ChatGPT正是第二次認知革命的開始。
從人類演化的角度來看，我們發現生物在數十億年的漫長歲月中不斷演化，而猴子到人類只花了300萬年。在這300萬年間，自然界一直在「努力尋找」方向，當找到直立行走這個方向後，人類大腦的體積加速進化，在短短300萬年裡增加了三倍，這是一個令人驚嘆的速度。而這都得益於找準了方向，即大腦稍有增大就會帶來很大優勢。同樣，AGI也在尋找方向，一旦找準方向，它將進入加速進化的過程。儘管我們還未見證AGI的誕生，但只要有了這個火花，剩下的過程就只是一個工程性的問題。
大腦與AGI模型：
湧現的相似性與差異
T：大腦的智能本質與AGI大模型的機器認知智能，兩者的相似和差異是什麼？
劉嘉：當我們的大腦體積增加時，會出現一種難以解釋的現象，稱為「湧現」。這與建立大模型時發現的現象類似：當模型較小時，幾乎沒有功能，但當模型變大時，某些功能就自然而然地湧現。好比高個子不一定能打好籃球，但教練通常會選擇高個子。這也意味著，大型模型不一定產生智能，但要研究智能，就必須有大型模型，這是必要條件。人類大腦在逐漸擴大的過程中，許多功能也自然出現，例如模仿和學習。
例如張三發明了“生火”，火對生活很重要，其他人也想學習，但問題是，不一定能學會。大量研究表明，當大腦體積增加後，我們的模仿能力或學習能力會變得更強。這樣，我們就能從張三學會生火，讓部落受益。同樣，我們也能學習其他新技術。因此，從科學角度來看，是模仿創造了人類，而非勞動。有大量研究表明，大腦體積越大的人，模仿能力卻強；而模仿能力強的人更容易找到伴侶，進而更容易將基因傳遞下去。在對原始部落的考察中也發現，模仿能力強或學習能力強的人有更大的機會獲得繁衍後代的機會。因此，大腦越大的人越能延續下去。
在過去的300萬年裡，大腦逐漸變大，原因就在此。當我們回過頭來看神經網路時，發現它們也是如此。從一開始，人們就在嘗試各種方法，如強化學習、監督式學習等，但這些概念都是相互交織的。 OpenAI前幾年很重要的精力是在做一件事：讓模型變得更大。然後出現了Transformer架構，使大模型變得更有效率。但本質上，智能的本質可能只是一個字：大。就像只有當大腦夠大時，我們才能談論智能。所以「大」是前提。
人比猴子聰明，猴子比老鼠聰明，原因很簡單：大腦夠大。當然，這並不是充分條件，而是必要條件。有些生物的大腦絕對體積比人類更大，如大象和鯨魚，但這並不能保證它們一定有智慧。例如，我們將一個剛出生的孩子送回3000年或5000年前，他不會比當地人更聰明，因為大腦結構是相同的。但是，如果我們成年人回到5000年前，我們會成為他們的精神領袖，因為我們擁有知識。所以，智能的發展是知識與大腦互動的結果，光是擁有大腦而沒有知識是不夠的。
因此，我們需要用文明和知識去調教大腦，這就是我們所說的教育。人類智慧的演化可以看作是大腦逐漸變大和知識累積的互動。一方面，大腦有機會變得越來越大；另一方面，大腦變大後，它能夠產生知識，而知識又能積累，進而反作用於大腦，使大腦更適合於這些知識，並能更好地保留這些知識。
同樣的道理也適用於人工智慧。沒有足夠好足夠的語料，再大的模型也沒有意義。沒有網路匯集大量數據，現在的智慧也不可能實現。因此，產生大模型和ChatGPT等現象既是偶然的，也是必然的。前期累積的算力和數據已經準備就緒，只需要找到合適的突破口。因此，可以說，如果沒有OpenAI，其他公司也會達到類似的成果，因為時機已經成熟。
歷史看似漫長，但站在35億年的尺度上，任何事情都不過是瞬間的事。同樣，對於AGI的發展來說，現在還可能只是一個起點、一個火花，但站在文明史的角度，實現AGI可能只是一個響指般的瞬間，因為它的前面已經沒有任何阻礙了。
現在許多人呼籲停止訓練更大的模型。一些科學家或許已經看到了大模型的潛在強大能力，而這種強大潛力可能就是──智能意識的湧現。
機器意識的產生
和超越人類的可能性
T：機器會像人類一樣產生意識嗎？它可能在哪些方面超越人類？
劉嘉：意識問題是人類的核心難題之一，它定義了人類與動物之間的本質差異。儘管我們不清楚意識如何產生，但從演化角度來看，大約4萬年前的人類開始出現大規模埋葬現象，這意味著人類已經意識到身體與靈魂的區別，並開始意識到自己的存在。
關於意識的產生，有兩種可能性。一種是外星人幹預，但這種觀點並不可靠，因為我們無法解釋外星人的意識來源。另一種可能性是，當一個模型夠大時，意識就會自然產生。意識可能是大腦神經元集體活動的產物。資訊整合理論（IIT）認為，全體神經元活化所產生的資訊大於單一神經元所產生資訊的總和。因此，當一個大模型夠大時，意識的產生是不可避免的。當然，這也是一件非常可怕的事情。因為與核彈不同，意識可能使未來的人工智慧擁有自我保護意識，使其不受人類控制。
為了解決人工智慧無法採取行動的問題，下一步的研究熱點將是實現人工智慧的具身化。人類的感知和認知是有限的，而人工智慧可以擁有更多的感知器官因此能觀察到更廣闊的世界。這將使人工智慧所看到的世界與人類完全不同。例如，人類潛水愛好者只能下潛到水下100多米，而無法體驗1000米深水下的感覺。然而，借助感測器等，人工智慧可以毫無壓力地直接感受這種體驗。
現在，AI的發展依賴人類的知識和人本，我們可以給它一個有限的認知邊界。但是，一旦AI有了agent(人工智慧代理)，它可能就不再受到這些邊界的限制。它可以更有效率的方式來獲得各種知識，知識的廣度和深度遠大於人類，從而形成一個自學習、自回饋和自優化的演化正循環。從這個角度來看，AI智能超越人類輕而易舉。
AI時代的人類命運：
認知革命與文明演化的新篇章
T：面對如此強大的人工智慧，人類有沒有可能被AI毀滅？
劉嘉：我覺得可以從兩個角度來看這個問題。首先，如果你看到一隻螞蟻，你會踩它嗎？我想大多數人不會。同樣，未來在AI面前，我們可能連螞蟻都不如。現在我們還能看到許多人機大戰的電影，他們都有一個前提，那就是人類和機器還能展開較量，實力有的一拼。
AI相較於人類天然具有四大優勢：第一，無限算力。人類大腦的體積有上限，無論再經過多少年的演化，都不會再增加。因為身體只能支撐這麼大的大腦，大腦已經是身體能量消耗的最大器官。第二，無限存儲。人類的大腦會有一個知識儲存的極限，並不存在「大腦還未被完全開發」一說，而電腦不存在這個問題。第三，無限壽命。人類的天才，如愛因斯坦，一旦過世，文明就會中斷。而電腦可以隨時更換損壞的零件，使知識得以延續。第四，對知識有無限可能。電腦能學習比人類更複雜、更高維度的知識。
綜合這幾點，人類與AI相比毫無勝算。未來可能不再是人類與AI的對抗，而是AI迅速超越人類。一旦超越，人類的命運將不再是AI的關注點，就像我們不會每天與螞蟻較勁一樣。
從現實的角度來看，未來的人機大戰並不可能發生。實際上，我們可以將自己融入電腦和未來的AI中，例如將我們的記憶、性格和意識情感上傳到AI中，這樣我們就能在AI中實現永生。未來，一台機器就可能容納數百萬人。
這其實牽涉到一個很本質的問題，也就是什麼才是我們這個人。例如，當一個人患上老年癡呆症時，他還是他自己嗎？這就是著名的「忒修斯之船」難題，一個古羅馬哲學家所說的故事。在這個故事中，一艘船隨著時間的推移，船上的每個部分都被替換掉了，那麼這艘船還是原來的船嗎？
從人類進化的過程來看，我們也不斷地變化，例如我們的皮膚細胞大約每週會更新一次。那麼，我們還是我們自己嗎？這就是所謂的認知同一性，只要我們認為自己是我們自己，那麼一切都沒問題。
當一個人患上精神分裂症時，從某種意義上講，他已經死去，因為他的「認知同一性」已經斷裂。同樣地，當一個人患有阿茲海默症，所有的記憶和情感都消失時，從認知同一性的角度來看，他也已經死去。
因此，只要我們的認知同一性得以保留，我們在哪裡並不重要，無論是在肉體中還是在機器中。如果我們能夠借助AI，人類將能夠得到極大的拓展。我們的肉體其實是我們思想的最大束縛，因為它會死去，而且我們的智力受到基因的限制。
站在文明的角度來看，人類只是文明發展中的過客。因此，如果我們一直將AI限制在人類框架內來理解文明，那麼我們就無法真正理解文明的演化。從人類與猴子開始分化進化至今經歷了約300萬年，我們直系祖先的歷史僅有約20萬年，相較之下，恐龍在地球上生活的時間比我們人類長得多。想像一下，如果人類真的能一直活到宇宙的盡頭，那將是多麼可悲的事。我們的算力有限，從某種程度上來說，我們甚至是一種弱智的生物。因此，有了AI之後，我們才能真正開始談論文明的演化。借助AI，我們甚至可以飛到數千上萬光年之外的地方，這是我們現在難以想像的。一旦進入這種狀態，時間和空間將不再是我們理解宇宙奧秘的束縛。
當我們談論AI時，我們不能僅僅把它看作是一種節能增效的工具，而應該把它看作是文明發展的重要驅動力。雖然AI在商業領域有許多應用，但相對於AI的出現，這些應用其實並不算什麼。就像發明了電、電燈、電話和蒸氣機一樣，這些發明確實對人類有很大幫助，但在AGI面前，這些可能都不算什麼。
從正面的角度來看，AI對人類文明是有益的。當我們談論滅絕時，實際上我們是在討論人類文明的滅絕。例如，從歷史角度來看，厭氧細菌和恐龍文明已經滅絕。但是，他們所創造的文明其實在我們人類身上得以延續。當我們說恐龍文明滅絕時，實際上文明本身並沒有消失，而只是載體改變了。假設將文明比作人，將載體比喻為汽車，那麼當汽車損壞並更換時，我們並不會感到悲傷。借助新的載體，我們可以走得更遠、更環保、更安全。
因此，AGI的出現將會是人類認知革命的另一個飛躍，它將會徹底改變我們對自身和宇宙的認知，讓我們更深刻地理解自身的限制和渺小性。而AGI的出現也會帶來無限的可能性和機遇，讓我們更能探索和利用宇宙的資源和能量，推動人類文明的發展和進步。
GPT協助教育變革：
重塑考試制度與培養創新人才
T：最後回到一個大家普遍關注的現實問題，關於教育。您也是大學老師，怎麼看待GPT對未來教育模式的影響及因應?
劉嘉：儘管網路教育提高了效率，但它並未改變教育的本質。教育的核心應包括因材施教、辯論求真以及激發學生的自驅力和好奇心。隨著GPT技術的發展，實現這些目標變得更加可行。 GPT可以為每位學生提供個人化教育，幫助他們透過辯論產生真理，激發自驅力和審辯性思考。因此，未來教育將不再過度強調知識性。
GPT的出現將對高考制度產生重大影響，或推動倒逼式改革。中國高考制度的兩大特點是回顧性考試和知識性考試。隨著GPT的出現，知識性變得不再重要，因為知識可以隨時查閱。考試的重點也應從培養知識型工作者轉向培養創新人才，並預測孩子未來能力以及適合的專業。
學生需要培養批判性思考和創造性思考。批判性思考強調以辯求真，而非死記硬背。創造性思考則要求寬容、好奇心和獨特的思路。 GPT的出現必將引發教育領域的典範性變革，這股潮流是無法阻擋的，就像火車和汽車最終取代馬車一樣。
人類的主觀意志在自然法則面前顯得非常脆弱。正如一句名言所說：「你可以違反法律，但不能違反物理法則。」(you can defy the law, but you cannot defy the law of physics)實際上，GPT的出現本身就是一種自然法則的體現。它也必將促使我們的教育進行改革，這只是時間問題。
