ChatGPT 正是在人類失控的「湧現」狀態下誕生的。
對話：張鵬、李志飛
30 年前，互聯網剛剛萌芽、就連個人電腦都很稀罕，一位科技作家開始了自己對當時社會各界的一次前沿漫遊。在與世界最有智識的人們交流之後，他窺探到了一些未來圖景，並最終寫成一本大部頭著作《失控》（1994 年）。直至十多年後，當移動互聯網、智能手機時代到來，人們驚訝地發現，那些時下最新的概念「全球信息互聯、分佈式系統、數字貨幣、雲計算等」早被這本書預言。
這名科技作家就是凱文·凱利，也被稱為KK。他是《連線》雜誌的創辦人，科技觀察家和「預言者」。 2010 年，《失控》中文版推出，KK 也開啟了在中國的一系列探訪，並逐漸被國人熟知。
站在今天的節點，通用人工智能（AGI）正在萌芽、一場時代變革即將拉開，這又隱隱和《失控》一書中的預言相呼應。 KK 當時就預測，人類最終會和機器走向統一，「機器正在生物化、而生物正在工程化」。用他自己的話說，《失控》只講了一個內容，那就是如何打造一個「複雜系統」——機器人、人工智能（AI）等都可被視作複雜系統，他認為這一思想至今依然適用。
不久前，我們和大模型創業公司出門問問創始人& CEO 李志飛一起，跟KK 展開了一場對談。
前者站在技術、商業的實務角度，後者站在人類、歷史、甚至宇宙的抽象角度，共同探討了人工智能的崛起、影響和威脅。這是一次頗有「科幻意味」和「想像力」的討論，我們試圖再次「預言」人類和人工智能的未來。
二者都認為，今天的人工智能已經具備生命的形式，而這在人類歷史上還是頭一次。李志飛說，目前的AI 已經相當於人類小孩的智商，已擁有知識、邏輯、推理、規劃等真正的通用智能能力。而KK 認為，作為「矽基生命」，AI 將和人類一樣有適應性，能夠自我學習、成長。
非常相似地，他們都信奉技術樂觀主義。 KK 認為，AI 不會讓人類失業，只會讓人類更高效、並從「可惡」的工作中解放出來。 AI 看似會拉大貧富差距，但更可能像人類歷史上的每一次技術變革一樣，通過做大蛋糕、更好地實現公平正義。而在對商業的影響上，它會同時讓個體、中小公司、大公司都獲得權力。
正如《失控》一書的名字所言——凱文·凱利覺得，為了更好地獲得AI 的力量，人類應當允許AI 的部分「失控」。畢竟，ChatGPT 正是在人類失控的「湧現」狀態下誕生的。他和李志飛都認為，目前AI 的智能依然稚嫩，人類應該繼續放手，而不是過早地、過度地控制（監管）。後者可能將創新扼殺在搖籃中。
將目光放到更長遠，如果有一天AI 真的成為一個超級生命體，那人類到底該如何與之相處？
科幻小說和電影都描繪了一個灰暗的未來，其結局往往是AI 自我覺醒之後殺死人類。但凱文·凱利認為，這是人類缺乏想像力的表現。失敗總比成功更容易想像、也具故事的誘惑性。關於未來，人工智能的益處與價值其實不難想像。
他的建議是，不妨將AI 視作「人工外星人」，人類將能藉助AI 的智慧解決自身問題、且實現一定程度的「控制」。而李志飛則認為，作為AI 的「祖先」，人類最終會跟AI 相互融合、而非控制。
至於這次的預言是否會成立，就要看5000 天之後的世界了。
以下是對話全文：
01即便OpenAI 沒有做出ChatGPT，很快也會有其他公司做出來
張鵬：無論中美，最近人們都在探討大模型。你對這一波大模型的技術變革有什麼感受？會覺得十分震撼嗎？
凱文·凱利：人工智能（AI）已經存在了幾十年。當AI 模型開始採用神經網絡和深度學習時，出現了一個重大的飛躍，它們變得越來越龐大。大約4、5 年前，它開始產生非常龐大的transformer 模型（採用自註意力機制的深度學習模型）。而最近兩年，它開始與大型語言模型進行接口交互。
其實最近，AI 的重大變化不在於它的能力，這方面它的表現並沒有好多少。最近AI 真正的變化是，它讓我們有了一個對話用戶界面，可以用（自然）語言與AI 進行真正的交流。而在此之前，人們需要學習大量的編程知識、非常精通才能使用AI。但現在，突然之間每個人都會用AI 了。這才是真正令人興奮的部分。
李志飛： 我同意KK 說的，目前大語言模型最主要的變化是自然語言交互能力的提升。這確實是很多普通老百姓能感受到的，也正因如此，今天ChatGPT 才會產生這麼大的社會影響力。
但我認為，今天的大模型在能力上也有很大的變化，而且正是這種變化才使得它的自然交互變得可能。因為實現自然交互背後，需要AI 有很強的知識、理解能力、語言能力、推理規劃能力等等。 AI 必須在這些基礎能力上有突破，才能實現自然語言的交互。
並且我認為未來大模型的能力，將不僅僅是自然語言交互。比如寫程序、企業自動化流程、機器人自動化等事情，都是不交互的，但它們未來也會成為可能。
張鵬：我非常認同AI 跟人類更好的對話能力，將會帶來一波技術和商業的範式革命。如果說ChatGPT 是AI 發展的第二曲線，那它的出現到底是必然還是偶然？
凱文·凱利：ChatGPT 的能力超出了所有人的預期。我不認為有人預料到這一點，包括人工智能領域的人士。實際上，大多數研究人員都不知道ChatGPT 的工作原理，他們想努力改進它，但很困難，因為並不知道它是如何工作的。因此，ChatGPT 的出現是一個意外。
儘管ChatGPT 非常令人驚訝，但我們也看到了它的局限性。它主要的限制在於，這個模型是根據人類創作內容的平均水平進行訓練的，因此它傾向於產生平均水平的結果。而我們常常想要的並不是平均水平、而是超過平均水平的東西。這很難做到。
其次，這些模型的優化目標是合理性，而不是準確性。因此，如何使它們更準確是當前所有人都在努力解決的重大挑戰。
李志飛：我覺得ChatGPT 的出現，從短期看是偶然的，但長期看是必然的。可以說，去年底OpenAI 做出ChatGPT 是偶然的，但就算它沒做出來，很快也會有其他公司做出來。
這在技術的歷史上無數次重演。以深度學習為例，2012 年AlexNet 第一個做出image annotation（圖像標註），但當時很多信念、工程能力都很強的團隊也在做，如果AlexNet 沒做出來，其他人也會做出來。還有2017 年Google 做出transformer，都是在解決之前RNN、LSTM 這些序列模型低擴展性等問題，如果Google 沒做出來，其他團隊也會做出來。
ChatGPT 誕生的背景是，transformer 已經很成熟了、而且我們有很強的算力去訓練互聯網的海量數據，所有ChatGPT 必需的元素都已經具備，它的誕生是必然的。只不過，OpenAI 在那個時間點把它組合得最好。
張鵬：聊到必然性和偶然性的問題，讓我想到了最近非常熱的一個詞「湧現」。這個詞在KK《失控》這本書出現過至少88 次，今天我們應該如何理解湧現這個詞的意義？
凱文·凱利：從英語的角度來看，「emergence」是一個術語，指的是一個系統的行為、一整堆相互連接的事物，比如互聯網、機器人、身體、生態系統甚至整個世界，其行為不包含在任何單個部分的行為中。比如蜂巢可以記住超出單個蜜蜂壽命的事物，因此蜂巢本身俱有一種行為、能力和力量，而單個部分沒有。我們稱之為「emergence」。
同樣，許多正在生成的人工智能也是「湧現」的。因為在模型中沒有一個地方能夠解釋它的來源，它需要所有部分共同協作才能產生這種新的能力。就像我們的大腦沒有一個地方有「思想」，「思想」是從整個神經元中「湧現」出來的。思維、進化、學習等事物都可以從系統中「湧現」出來。
李志飛：我對「湧現」的了解來自《複雜》這本書，它講到「more is different」，「多即不同」。就像中國的一句古話，「量變導致質變」。大模型第一次講到「湧現」，是去年底斯坦福跟Google 發的一篇文章。他們通過實驗發現，通過增加大模型的規模、當到達某個臨界點時，它會突然「湧現」某種能力。
我現在感覺，「湧現」這個詞其實被濫用了。因為我們解釋不清楚大模型的能力是怎麼來的，就稱之為「湧現」，這個詞不可解釋、也不可操控，對我們訓練和應用大模型沒有任何幫助。現在，大家不再研究「湧現」了，而是更多研究大模型參數量跟最終能力表現之間的量化關係，這可能對我們了解、把控大模型更有幫助。
張鵬：我們可以理解為，「湧現」會導致「失去控制」嗎？
凱文·凱利：這樣理解並不完全正確。當然，它會有「失去控制的部分」，如果你希望能夠對「湧現」行為的力量加以利用，你可能需要容忍一些事物不受你的控制。目前在人工智能領域，我們對它的理解和控制可能還不夠好，但這實際上是為了獲得最佳結果所必需的。
但與此同時，我們又不能讓一切都「失控」，我們必須進行一定程度的「控制」，也就是引導、管理人工智能。再次強調，我們不希望過度限制、但也必須實現一定程度上的控制。不過，我們很可能永遠無法完全控制它們，特別是對於更強大的人工智能，我們很可能永遠無法完全理解其工作方式。這就是其中的權衡。
張鵬：你寫下《失控》這本書已經過去很多年了，在今天這個節點、結合著這一波的AI 革命，你覺得《失控》有什麼值得重新校準的部分嗎？
凱文·凱利：我認為我在《失控》這本書中並沒有過多談論人工智能和失控，它其實主要講瞭如何將簡單事物製造成複雜事物。有一種叫做羅德尼·布魯克斯的子系統架構，它提到你可以通過將智能的各個部分嵌入其中，製造一個複雜的機器人。這個通向複雜的過程是，你要在已經正常工作的事物基礎上疊加其他東西。 （布魯克斯的架構理論提出，更高層級的行為需要包容較低層次的行為）。
就像昆蟲，即使你割掉它的頭，它也可以走路，因為行走的功能更多由局部完成。就像我們大腦有一個負責呼吸和其他自主功能的核心，我們是在這個基礎上添加了更多的複雜層次。今天，當人們製造機器人和人工智能、並試圖使它們更複雜時，這個思想仍然有效。這實際上是我在《失控》中談論的唯一內容，而我認為這個觀點仍然成立。
張鵬：我記得你之前有一個很有意思的視角，就是「假設科技是一種生命」，當它湧現出接近人類的智能，那它接下來會想要什麼？這會對商業領域和人類社會帶來什麼影響？
凱文·凱利：技術是一種被我稱之為「第七生命王國」的東西。我們加速了生命的進化，使它進入一個「乾燥」的領域，不再需要「濕潤」的環境，而是可以存在於矽中。我們可以利用我們的思維，製造出其他類似生命的技術。它們具有適應性，可以學習、成長。
我的觀點是，基本上技術和生命一樣，會追求同樣的東西。例如，它們會在進化中增加多樣性，也會變得更加專業化、更具體。我們身體有52 種不同的細胞，包括心臟細胞、骨細胞和骨骼細胞等。我們也會製造出專門的AI，執行語言翻譯、圖像生成和自動駕駛等特定的任務。另外，技術還會跟生命一樣變得更複雜，這是顯而易見的。
最後，技術還將像生命一樣「互利共生」。生命在演化過程中如此復雜，以至於它只與其他生命接觸，從不接觸非生物材料。比如你腸道內的細菌。它們只被其他活體細胞包圍。未來，也會有一些AI不是為人類設計的，而是專門為其他AI 服務。例如，將會有專門用於維護其他AI 的AI、只與其他AI 交流的AI。
李志飛：我想從一個工程師的角度解釋一下AI 跟生命的關係。幾年前，很多人老是問我，「Alphago（第一個打敗圍棋世界冠軍的計算機程序）到底是幾歲的智商？」當時我特別不喜歡這種問題，因為沒法回答。那時候，AI 雖然可以下圍棋、智商很高，但它並不能像3 歲小孩一樣進行自然語言對話。當時它跟人的機理是本質上不一樣的。
但是最近這一陣子，我特別喜歡把AI 比作一個小孩。我覺得核心是因為，今天的AI 已經具備了小孩擁有的、真正的通用智能能力，比如知識、邏輯、推理、規劃等等。所以我想說，今天的AI 更像一個生命體了。它在智商上像一個5 歲小孩，在知識上可能既像一個大學教授、也像一個剛出生的嬰兒，這取決於它有沒有見過那些數據。
基於這個理解，我覺得關於AI 到底想要什麼，需要重新思考。對於一個5 歲小孩來說，他接下來首先會自我淨化，其次是自我複制、進行協作。關於這個問題，我自己也沒有很好的答案。
02未來5000 天，我們將度過一個狹小而緊迫的過渡期
張鵬：當AI 的能力快速成長時，很多普通人感到焦慮，害怕自己失去競爭力。 KK 在這個問題上有什麼思考和建議嗎？
凱文·凱利：即使AI 技術已經發展了20 年，但人們卻覺得它是一夜成功，對它的成長速度和能力感到焦慮。我們總是容易想像最糟糕的情況，而不是最好的情況。我認為，應對變革焦慮的一個方法是回顧過去。實際上，過去人類也曾有過這種焦慮，但我們想像的糟糕情形從來沒有發生過。這次很可能是一樣的。
我發現自己應對焦慮的最好辦法是嘗試使用它們。我發現大多數焦慮來自於那些沒有使用過AI 的人，他們對AI 保持著一種距離感。其實他們一旦開始嘗試和使用，就會看到AI 既有好處，也有局限性和危害。這將減少他們的焦慮。
李志飛：AGI 今天不發生，明天也會發生。既然它不可阻擋，你就應該擁抱、理解它。目前對我來說，AGI 是一個思維的伙伴。我很多問題都會跟他聊，它的知識特別全面，能從很廣、很全的角度給我建議。我覺得這可能是人類擁抱AI 的一種很好的形式。
與此同時，我們可以看到，今天的大模型離真正的AGI，還差一些特別關鍵的能力。比如邏輯推理和復雜任務規劃的能力，如果你想要AI 基於某一個目標，拆解步驟、實現目標，現在它還沒有那麼擅長。
張鵬：KK 自己也是一名內容創作者，你覺得在AI 時代，創作者不可被AI 替代的最終價值會是什麼？
凱文·凱利：我在寫作時已經使用過人工智能和其他工具。我認為，沒有人會因為人工智能而失去工作。因為我無法找到一個例子，證明有一個藝術家因為人工智能而失去了工作。這是一種想像中的恐懼，一種不存在的問題。就業可能是與人工智能相關的最不嚴重的問題。
我想說的是，消失的可能是你的工作描述，也就是你實際從事的工作內容可能會變化。一些人觀察到，他們50% 的工作都可以由人工智能來完成，而另外50% 工作會被人工智能增強和放大。所以未來，可能有一半的工作不再需要人們去做，而人們又能把剩下的50% 工作將做得更好。這通常是我們會看到的模式。
當然，確實有一些特定類型的工作會消失，比如作為收銀員去點餐和數錢。我們不希望人類去做這些工作，所以它們肯定會消失、它們也應該消失。
張鵬：你如何評價在AI 時代，年輕人和老年人的競爭力？
凱文·凱利：老年人有很多優勢，他們見多識廣，經驗豐富。年輕人也有很多優勢，因為他們不知道什麼是不可能的。我不認為誰的競爭力強於誰。
我想說的是，今天的年輕人常常談論自己是數字原住民，對技術更有優勢。但由於人工智能和其他事物發展迅速，年輕人昨天可能是原住民，明天就像「老年人」了。不管是年輕人還是老年人，大家都是新時代的「新手」，都必須一輩子不斷地快速學習新事物。
張鵬：隨著對AI技術的掌握不同，這是否會帶來貧富差距的變化？也就是說，未來會使用AI 的人是不是會獲得更高的生產力、更好地贏得競爭？
凱文·凱利：是的，財富差距會擴大。我認為隨著時間的推移，你與人工智能合作的能力，可能比你是否上大學還要重要。也許大學的目的將是教會你如何與人工智能合作。對於那些非常有野心的人來說，如果他們學習瞭如何使用人工智能，他們的薪水將會有很大的差別。
但是，隨著人工智能在世界各地普及，未來我們會實現全球對人工智能的平等獲取，就像對教育的平等獲取一樣。我認識一些在美國經營大公司的朋友，他們僱用遠程工作的員工，只要他們有能力，而背景並不重要。因此，很多在南美洲、非洲工作的人，會按照美國的薪酬標準得到報酬。他們會賺比原本更多的錢。
張鵬：技術的快速發展，可能會帶來社會領域的不公平、不正義，我們該怎麼在發展和公平正義之間取得平衡？
凱文·凱利：我認為我們可以在進步與公平之間取得平衡。實際上，我認為進步的很大一部分就是傳播公平。
與幾百年前相比，那時的世界非常不公平。你根據出生被視為奴隸、農奴或者農民，沒有任何機會超越這個身份。但由於進步，我們現在擁有來一個更加平等、公平的世界。我認為，科技的發展可以增加公平性，雖然不一定會實現，但是它是可能的。
李志飛：從一個工程師的角度來說，如果說你從終點去看公平，希望大家財富一樣、能力水平一樣，那這肯定會導致越來越不公平。但如果你是從起點去看公平，比如說讓AI 工具被所有人可用，這可能才會更好地實現公平。
張鵬：現在我們看到有些公司，比如文生圖公司Midjourney，十幾個人就創造了上億美金的年收入。我們可否理解為，AI 從根本上變革了生產力？未來的公司會不會因此越來越小和精簡？
凱文·凱利：現在互聯網和人工智能擁有的令人驚訝的力量，可以同時賦予個人、中等公司以及大公司權力。它使個人更容易擁有一家公司，因此我們會看到很多新公司只有AI 加上幾個人。但同時，我們也看到一些公司因為人工智能的存在而變得更大，甚至增加了百萬人的規模。
因此，我們不會突然進入一個只有一兩個人的公司的世界，那是不會發生的。同時，我們也不會只會讓大公司受益。這就是AI的美妙之處，它可以讓所有人都受益和獲得權力。
李志飛：我覺得長尾效應跟馬太效應都會越來越明顯。
一方面，尾巴會越來越長，越來越多很小的公司會出現，它們會自己成為一個完整的體系。另一方面，當大公司有了很強的AI 能力，它的組織力會變得更強。以前它只能組織1000 人，但現在可以組織1 萬人、 10 萬人、 100 萬人。比如中國的外賣行業，正是依靠一整套的自動化系統，才把龐大的騎手群體組織起來。
張鵬：目前AI 也是矽谷最熱的話題，很多創業者都以大模型為核心去思考商業創新。 KK 對此有什麼觀察嗎？
凱文·凱利：這讓我想起了互聯網早期的情景。互聯網最開始出現時，突然之間每個企業都意識到必須將自己放在互聯網上。而現在，每個企業都在利用AI 的對話界面，通過引入大語言模型和人工智能來開展業務。一個例子是Wendy’s（美國連鎖餐飲企業），這家時髦的快餐漢堡店現在正在使用對話界面，讓客人在車上點餐、和機器對話。
除此之外，還有一些全新的服務和想法尚未出現。我不知道具體數字，但我可以肯定的是，現在正有數千億美元的資金流入這個領域。通常情況下，其中大部分可能不會成功，但有足夠多的項目會成功。我們將在接下來的三年內看到一些非常驚人的事情，以及一些可能會變得非常大的全新公司。
張鵬：在過去的5000 天裡，KK 做了非常多正確的預言，對很多大方向有了前瞻性的把握。最近，你又預言接下來5000 天是人類歷史上一個最關鍵的時間段。這個節點關鍵在哪？人類會通向十字路口的什麼方向？
凱文·凱利：除了人工智能之外，世界上還發生了許多其他事情。我們面臨氣候變化的挑戰，基因工程即將出現，很容易把人工智能想像成貶低人類的東西，很容易看到監控變得無處不在、而我們失去了掌控權。我們面對很多全球範圍內的挑戰和機遇。
這是一個狹小而緊迫的過渡期，我們必須度過這個難關。我認為，我們可以通過電氣化、電動汽車、替代能源、以及在新冠疫苗研發方面取得的成功等，獲得通過這個狹小門戶的機會。目前，地球上還存在許多政治緊張局勢和分歧，但我們需要集體行動，需要在技術、環境等領域達成共識，共同合作解決問題。
這是地球上首次出現全球文化、全球經濟以及全球的環境影響。這也是在接下來的5000 天裡，我們成為更加全球化文明的機會。
李志飛：KK 說，未來5000 天，世界除了AI 之外還有很多其他挑戰。我覺得，僅從AI 角度來說，未來365 天也非常重要。 AI 經歷過很多輪，每次都是人們對它期待值很高、但它不行了，接著人們又期待值很高、它又不行了。我覺得今天這一波AGI，到底會是圈內人認為很牛的東西、還是會成為社會上很重要的事情，這很大程度取決於未來365 天。
包括大模型到底要怎麼發展，是越大越好、還是要加入多模態、還是要加入解決方案等等？包括看滲透率，目前全世界可能不到5% 的人用過ChatGPT，我們怎麼把滲透率從5% 提到20%？包括監管，人類應該怎麼應對AI 給社會帶來的影響？還包括AI 除了應用於互聯網等行業，它該如何在醫療、汽車、金融等傳統行業去落地？等等。
我覺得這可能需要至少一年的時間，通過人們做出各種各樣的嘗試，才能有一個更清晰的判斷。
03平均人類並不高尚，我們希望AI 比平均人類更好
張鵬：很多時候人類傾向於信任技術，比如有人會在自動駕駛的車上睡覺而出事故。這種對先進科技的潛移默化的信任，是否是人類的習慣？這會帶來什麼後果？
凱文·凱利：自動駕駛汽車不是完美的，但它們在駕駛方面仍然比人類更好。我們能信任人工智能嗎？在和聊天機器人的對話中，我們發現它們的答案不是準確無誤的，所以我們無法完全信任。但我認為，我們將很快開始解決這個問題。
現在，大多數人都信任他們的計算器。你給它數字，它給你答案，你完全信任它。所以我們知道機器是可信的，這是可以努力改進的。而關於人工智能的偏見，因為它們根據平均人類來訓練的，而平均人類是種族主義者、性別歧視者、惡意人士，並不高尚。我們實際上希望我們的人工智能比人類更好。
就像計算器比平均人類更好一樣，你更應該依賴計算器給你的答案，而不是平均人類。信任是我們應該關注和努力解決的問題，雖然面臨許多挑戰，但最終我認為我們會高度依賴和信任人工智能和機器。
張鵬：美國最近有很多人認為，AI 的發展速度太快，應該慢一點、甚至停下來想一想。你贊同這樣的想法嗎？
凱文·凱利：不，我不支持。我認為這是誤導、誤解和不必要的。我不認為這是真正可能的，也不認為這是可取的。
張鵬：在人類的大部分科幻電影或者科幻小說裡，AI 都是一個比較灰暗的角色，這是因為人類缺乏想像力、還是我們有太多不正確的想像？
凱文·凱利：好萊塢總是把人工智能描繪成反烏托邦、恐怖和不受歡迎的形象，我認為這是缺乏想像力的表現。因為想像一個事物如何失敗，比想像它如何成功要容易得多，這是宇宙的法則。老實說，人們很難想像100 年後人工智能無處不在、廉價且對人類有益的美好世界，儘管那是我們想要生活的世界。
此外，那些電影製片廠非常擅長講故事，而一個偉大的故事的要素是衝突、災難以及一些強烈的元素。無論是戰爭、颶風還是試圖毀滅世界的人工智能。因此，在好萊塢電影中我們不太可能看到人工智能的美好願景，因為這並不為故事做貢獻，雖然這種可能性存在，但非常小。
因此，我們不能通過對好萊塢（電影）的印象來看待人工智能。不幸的是，許多人就是這麼做的。一提到人工智能，他們就會想到「終結者」、「2001 太空漫遊」、「HER」。
李志飛：我覺得所有的不信任都是因為不理解。當我們面對AGI 這個新物種，我不理解它的能力是怎麼出現的、它到底想要什麼、它能幹什麼，這才是最核心的問題。
我覺得人類能做的，一方面是自己要多去理解AGI，另一方面是學會讓AGI 自己解釋清楚自己。比如當它給你一個答案的時候，你讓它把內部運作過程、內心的獨白講出來。這樣可能會產生更加強烈的信任。
張鵬：對KK 來說，似乎老子的《道德經》對你啟發很大。你提到「最高級的控制是失控、最低級的控制是什麼都控制」。你怎麼看最近政府和科技界正在加大對AI的監管？
凱文·凱利：我認為目前的監管並不好。當然，監管是重要且必要的，它是確保事物順利進行、保持公平競爭環境、確保安全的必要手段。但過早進行監管是可怕的。目前的問題是，我們試圖對我們不太了解的東西進行監管，這通常會導致災難。
李志飛：為什麼要監管？從根本上說，是人們擔心AGI 帶來的負面影響會大於正面影響，擔心它能力太強了、社會無法接受。但在當下這個階段，這個判斷是錯誤的。因為今天，AGI 帶來的正面影響，肯定要應該要大於它的負面影響。
其次，今天AGI 的真正問題其實是，它的能力還不夠強。包括規劃能力、跟物理世界結合的能力、自我能進化的能力等等。我們雖然看到了希望，但其實離真正實現仍然非常遙遠。我們或許永遠都不能到達。
所以我的觀點是，我們不能剛看到AGI 趨勢，就大幅地加強監管。這可能使得我們根本還沒實現AGI，就把它抹殺了。監管肯定需要有，但不應該過度監管。
張鵬：人工智能已經被談論很多年了，現在看來它正在進入一個全新的時代。如果AI 未來真的有機會成為一個智慧高於人類的生命體，我們到底應該在人類的文明里融入它們、還是把它們納入人類管控之中？哪種方式更能真正升級人類的文明？
凱文·凱利：我認為可以用一個非常有用的框架來理解未來的人工智能（AI）——不是指今天的AI，因為它們與未來30 年、50 年或100 年的AI 相比，還不夠複雜——那就是將其視為來自另一個星球的人工外星人。
大量的AI 將是我們從未見過的一種物種，它們以不同於人類的方式思考。它們會像Yoda（《星際大戰》中的虛擬角色）或Spock（《星際迷航》中的虛擬角色）那樣聰明，甚至在某些方面超過人類。我們會製造許多不同類型的人工外星人，尊重它們，並利用它們不同的智能來幫助我們解決棘手的問題，比如弄清楚量子引力到底是什麼。
但我們不會將控制權交給它們。如果我們不喜歡它們的行為，我們會送回、關閉它們。如果我們認為它們獲得了太多的權力，就可以剝奪它們的權力。我們不希望讓AI 決定我們的命運。
李志飛：現在的AGI 就像蝴蝶，從幼蟲裡獲取了很多營養成分後，自己完成了昇華。它相當於利用了人類過去所有的互聯網知識，來完成自己的蛻變。未來，AI 肯定在很多方面都是超越人類的。我覺得人類能作為AI 的祖先，也挺值得開心的。
KK 說，我們要把AI 當做一個外星人，這聽起來更多還是要控制。我覺得人類可能太高估了自己的能力或智商。你可以想像一下，比如再過50 年，全世界最牛的、最有影響力的100 個智能體裡面，也許只有20 個會是人類，剩下80 個都是AI。所以我覺得，最後人類和AI 一定是融合，而不是控制。
展開全文打開碳鏈價值APP 查看更多精彩資訊
