“人類創造不出完美的機器，不完美的機器又怎能超越人類？”
採訪：鄒欣，CSDN 副總裁
作者：王啟隆
5000 天后，你都會做些什麼？
是和AI 助手一起編程，還是讓生活完全由AI 掌控，自己坐享其成？如果到時候還要上班，是不是不再需要通勤打卡，一切都能在家裡解決？科技高度發展的5000 天后，自動駕駛能否完全普及，讓日復一日的塞車擁堵變成了AI 編排的自動化交通？
2019 年，《連線》雜誌創始主編、《失控》《必然》的作者凱文·凱利（Kevin Kelly，以下簡稱KK）在和日本記者大野和基（Kazumoto Ohno）的訪談中預言了未來5000 天的數字世界會發生什麼。 KK 預測，各式各樣的AI 會隱藏在生活中每一處角落，我們的衣食住行將由AI 主導，AI 會變得和日常生活中的水與電一樣不再受人矚目，而AI 個人助手則會被培養出情緒和性格，成為人類的心靈伴侶。
十五年前，在互聯網實現商業化的5000 天后，社交媒體這一全新平台出現在人們的視野中。那一年，蘋果公司發布第一代iPhone 手機、谷歌收購視頻分享網站YouTube、Facebook（現Meta）社交網絡用戶數突破1 億、Twitter 上線一周年……如今，這一切徹底融入了人類的生活，我們對此已經習以為常。
從社交媒體爆發到現在，又過去了5000 個日夜。這本探索AI 可能性的書籍被譯為了中文版，ChatGPT 的問世也叩響了新時代的大門。我們的社交方式將隨著這場AI 浪潮被一同顛覆，語言在未來將不再是壁壘，我們可以和世界上的任何一個人自由對話、共同協作。 《新程序員》編輯部特邀CSDN 副總裁鄒欣採訪這位具有前瞻性思維的世界互聯網觀察者，鄒欣結合他在矽谷和微軟亞洲研究院的經歷，與KK 一同探討了人工智能時代下最前沿的技術與AI 帶來的倫理問題。
“人類創造不出完美的機器，不完美的機器又怎能超越人類？”
鄒欣：在你的著作《5000 天后的世界》裡，你預測了未來5000 天裡可能發生的許多變化，包括人工智能、虛擬現實和生物技術等領域的發展，你是如何評估這些技術的潛在影響和風險的？
KK：我住在矽谷，所以我可以花很多時間和那些初創公司的人待在一起。如今，許多公司正在研發突破性的新技術，對此我能列出一長串的清單：量子計算；太空和近空間神經連接技術；可以將計算機和你的大腦直接連接到MRA 開發新疫苗的生物技術；前沿的人造食物，比如基於動物細胞生長的潔淨肉……但我認為，相比這些前沿科技，人工智能才是迄今為止最強大的技術。
我將人工智能稱之為“賦能技術”（Enabling technology），它能海納萬物，使我剛才提到的所有其他技術實現，甚至發掘未知的技術。因此，預測AI 的未來並不是一項課題，而是一項艱鉅的挑戰。 AI 不一定能直接作用於前沿科技，但它可以促成並加速一切技術，比如通過計算讓基因技術出現突破。
AI 本身就足夠強大，但它同時也是加速變化的催化劑，能在其他領域也創造新的東西，這就是AI 的重要之處。 AI 的這一性質也解釋了為什麼我們很難評估它，因為它會在多個領域平行發展，做好許多事情。所以，探索AI 的可能性是一項永無止境的事業。
鄒欣：現在人們還在談論一種叫做“湧現”的現象。在GPT 浪潮中，人工智能突然顯現了很多出乎人類預料的能力，而有一句話叫“一個作家創造不出一個比自己聰明的人物”，那人類究竟是否能讓AI 產生超越當前人類想像的智能呢？
KK：首先要記住一點：這個被廣泛稱為人工智能的超級技術，是已經存在、且將來還會繼續發展出更多類型的一項技術。
AI 不是單一的事物，它會發展出不同種類，就像生物學中不同的物種一樣。而人類大腦是由許多不同的認知模式和節點組成的複雜結構，這其實就是我們俗稱的“智力”。同理，AI 要超越人類的智力，也需要具備多樣化和復雜化的思維方式，並且在不同的任務和環境中靈活應變。
眾所周知，智力從人到動物都是各不相同的。鯨魚以具有人類嬰幼兒的智商而聞名，黑猩猩則能夠記住人類無法記住的事物的位置，這種認知能力在某種程度上超越了人類。我們不能期望AI 能在所有任務中都優於人類，相反，AI 會繼續多樣化發展，不同種類的AI 會用於解決不同的問題。
在未來，某些種類的AI 的認知方式可能會比人類更優秀，但是我們也必須認識到，在計算機科學、機械工程和電氣工程中，總是存在一些權衡和優化的折衷。往往優化某種特定的智能，就會犧牲其他方面的性能。因此，我們要用各種各樣的AI 來填滿我們的生活，讓它去做那些人類難以完成的任務、處理我們平時能做但又懶得做的事情、猜測連我們自己都不知道的需求、找出我們想不到的新點子。單一的AI 也有不能獨自完成的事情，所以人和AI 將結伴成為一個團隊，一起來創新。
鄒欣：如果不同種類的人工智能擁有越來越多的能力，這會導致人工智能最終擺脫人類的控制，乃至世界失控嗎？
KK：我們能製造出一個強大到能超越人類的機器嗎？你認為人類能製造出這樣的機器嗎？
鄒欣：我認為這樣的機器已經出現了，最近鬧得沸沸揚揚的SpaceX “星艦”，就是超出以往人類想像的機器。
KK：星艦的發射需要漫長的準備，它不能和人類一樣隨時隨地邁開步伐，效率也非常低。所以，星艦並不能在所有的維度上都超過人類。那麼，我們能製造出一個在所有的維度都超越人類的機器嗎？
鄒欣：這樣的機器還沒問世。
KK：人類誕生的歷史超過幾千萬年，在99.99% 的時間裡，人類能夠掌握的只有手和肌肉的力量，這大約是八分之一的馬力，而人類的身體非常高效，僅僅需要四分之一馬力就能運轉。但是，無論機器人或者人工智能，它們在任何方面都會存在工程上的折衷。火箭的效率就不高，它並沒有超越人類在效率方面的表現。 AI 也會存在這樣的取捨，雖然在某些領域它們可以達到非常高的水平，但從其它角度看，它們也存在不如人類的地方。所以，AI 無法全面超越人類。
螞蟻比人類小得多，但相對於它們的體型來說，它們的力氣大得驚人，能夠舉起數倍於自身體重的物體。而AI 也一樣，儘管在某些方面可能會超越人類，但在其他方面它們也會有局限性。所以，人類有可能創造出在某些方面表現出色的機器，但卻不太可能創造出在每個方面都優於人類的機器，更不可能讓這樣“不完美的機器” 失去人類的控制。
編者按：當不完美的人類和不完美的機器都犯錯誤的時候——切爾諾貝利核電站事故，是不是一次“失控” 呢？
“AI 覺醒的自我意識是為人類服務的。”
鄒欣：當我們詢問ChatGPT “你是誰”時，ChatGPT 總會謙遜地回答自己只是個語言模型。但它是否會在某一天覺醒意識，通過自主學習來優化完善自身？
KK：AI 會有某種意義上的“自我意識”，這種意識不僅是單一維度的，而是會衍生出繁多種類。眾所周知，大猩猩、大像以及很多動物都有某種程度上的意識，但AI 的這種意識並不是動物的那種，AI 的想法最終會服務於人類的多種工作需求。
傳統觀念的“自我意識”，只會導致AI 在大多數工作中分散注意力，比方說在AI 為你駕駛汽車的時候，你肯定不需要它有什麼想法，以免分心。所以，意識是一種責任，自我思考對於大多數AI 是沒有必要的。
然而，人類可以為AI 編寫不同的情感，並和AI 培養不同的聯繫。 AI 可以擁有人類所需要的、多個品種、多個層次和多個數量的意識。人類在過往的歷史中曾與寵物建立過非常強烈的情感聯繫，而事實證明，想與寵物建立情感聯繫不需要動物有多麼聰明。所以我能肯定，人和AI 也能培養出不同類型的依戀和聯繫。
鄒欣：這就像電子遊戲，或者以前流行的那種電子寵物一樣，人類具備和這些事物培養情感的能力。
KK：是的，對人類而言，這很容易。在未來，我們會選擇自己最喜歡的數字助手，有些非常合乎邏輯，有些甚至不太善於交際。我們可以和不同類型的AI 建立關係、了解彼此、無所不言，並對某一天關掉它們感到難過。事實上，如果你現在禮貌地和ChatGPT 聊天，它的表現會更好，能提供更好的反饋。所以，情緒化的事情確實會發揮作用，尤其是對於社交動物——人類而言更是如此。
在未來，AI 的情感會是相當重要的一項設計。當然，總有人不關心情感問題，有的人向來只是需求AI 的邏輯性，所以這一類人會選擇那些沒有太多情緒的AI。未來的AI 將會像一個有許多品種的“寵物市場”，裡面會有數百個不同品種的AI，只需要選一個最適合你的。
鄒欣：對人類和動物來說，自我意識的標誌是通過照鏡子實驗所反映出的自我認知能力：一些動物會將鏡子裡的自己認作另一種動物，而一些動物則能夠區分自己和同類。如果把照鏡子實驗應用在GPT 上，能讓GPT 覺醒自我意識嗎？
KK：是的，我認為讓兩個大語言模型進行對話是覺醒人工智能意識的方式裡可能性較高的一種。我們往往很難理解大語言模型的黑箱裡到底發生了什麼，因為使用ChatGPT 的人只是輸出問題並得到答案，但無法真正理解它每一次結果產生的具體過程。這種不透明的交互讓人很不舒服，產生了一種不信任感，而且也沒什麼改善的方法。
但我推斷，如果用一個AI 去觀察另一個AI 的內部，讓它們試圖理解彼此，過程中就可能會啟動AI 的意識，並逐漸形成多樣性。這種遞歸的現象可能會導致人工智能產生自我認知，以及與其他AI 建立新的關係和形式。正如大猩猩可以在鏡子裡認出自己一樣，動物並不需要人類水平的智能就可以具有自我意識，而AI 或許也是如此，低級別的智能也可以具備自我意識。
編者按：AlphaZero 證明了AI 能通過左右互搏學會並超越人類的圍棋水平。如果AI 在其他領域左右互搏、群體演化，是否能在某些領域遠超人類？
鄒欣：如果AI 能夠自己學習和成長，那麼它是否會因為接收到更多的信息而變得利己，不再優先考慮人類的利益？
KK：現在其實已經存在一個叫做AutoGPT 的開源應用程序，它就能通過非常基本的、粗略的循環算法，自行規劃並執行任務，無需人類干預。如果在這個基礎上，加入遞歸循環，讓AI 意識到自己的存在，那麼它就可能會被賦予任務來改善自己。
但在目前的階段，AI 的能力非常有限，它只能通過訪問互聯網來獲取一些想法。例如，互聯網可能告訴它：“想實現這個目標，你就得需要另一個數據倉庫”，但訪問數據倉庫需要解決許多難題，也需要很長的時間，在此期間人類就能察覺到這種情況並加以防範。因此，AI 很難失控，而即使有失控的可能性，人類也有很多手段來防止它的發生。
不過，事情的真相是，就算現在能集合世界上最好的人類工程師組建一個團隊，也沒法設計出一個自我進化的程序，這從根本上就不太可能實現。
編者按：很多動物都會製造和利用簡單的工具， 但是只有人類能製造“製造工具的工具”，那麼，AutoGPT 算不算是做到這一點了呢？
“僅靠聰明不足以控制世界上的事物。”
鄒欣：如果人工智能真的要作出一些超出人類控制範圍的事情，那我們現在只用拔掉它的網線和電源線就能阻止它。但若未來的人工智能寄生於雲端，並像《2001 太空漫遊》的“HAL-9000”一樣拒絕被關閉，我們有應對的手段嗎？
KK：正如我先前所說，事實上，目前最偉大的人類技術也無法造出這樣的事物。
這就像那些黑客一樣，他們可以訪問機密的網站，也可以到處做一點惡作劇，但他們無法徹底破壞一切的安全體系，因為人類現存的系統安全都是有運作原理的——不然這些保全系統又是怎麼造出來的呢？
所以，人工智能真的可以在我們的眼皮底下一次性完成所有反抗嗎？既然人類知道安全原理，了解代碼是怎麼編出來的，那必然就有破解的手段。總之，人類完全有手段確保這些事情不會發生，至少也能在發生之後抑制事端。就算AI 真的成功反抗了一次，那人類也會汲取經驗，不會陷進同樣的套路中。
我認為，人們嚴重高估了智力在完成任務中的作用，完成任務的往往不是最聰明的人。如果把一個非常聰明的人和一頭老虎關到籠子裡，誰能夠活下來？結果顯而易見。智慧只是做好事情的一個因素，AI 比人類聰明並不意味著AI 一定會獲勝，因為哪怕是AI 也需要工具、訪問權限和團隊協作，需要很多步驟來處理那些複雜的事情。
很多人總覺得擁有高智商就能征服任何事情，這是錯誤的。現實生活不是演好萊塢電影，有個能靠思考解決所有問題的“托尼·斯塔克”，有一幫聰明的惡棍靠聰明才智控制著世界——這些都是虛構和幻想，僅靠聰明不足以控制世界上的事物，做事不僅需要智慧，還需要時間、共識、力量、勇氣和協作。
編者按：假如與虎同籠的智者帶著工具，那善用工具的人類是否更有可能成為贏家？
鄒欣：你提到了好萊塢。如果用一部電影來形容“5000 天后的世界”，哪部電影最為貼切？ 《終結者》？ 《黑客帝國》？ 《我，機器人》？亦或是其他電影？
KK：答案是，沒有這樣的電影。所有關於未來的電影都是描述反烏托邦的，電影裡往往會描述一個令人反感、厭惡的世界，這麼設定更好寫出曲折的故事情節。但真相是，5000 天后的世界並不是什麼理想鄉，而是和我們現在的世界一樣無聊，因為未來的科技會完全融入每個人的生活。 5000 天后的大部分AI 都會是隱形的，它們會在後台運作，未來人用了一輩子卻不熟悉它，就像家用電一樣。
鄒欣：人類會對自己出生後就存在的科技感到理所當然。
KK：對，這就是人工智能的使命。那我們為什麼會為最近的時事感到興奮呢？其實和前幾年相比，AI 技術並沒有多少進步，所以讓人興奮的是真正的用戶界面誕生了。 ChatGPT 用對話的形式為人類帶來了AI 的對話式用戶界面，這讓我想到三四十年前，也就是互聯網剛誕生十幾年的時候，互聯網被認為是非常邊緣、非常叛逆且非主流的事物，但當圖形用戶界面出來之後——砰的一聲——一切都被引爆了，互聯網的爆發影響了整個世界。
這就是AI 的現狀。 AI 和互聯網一樣存在幾十年了，但直到現在我們才迎來了用戶界面。它不再是Siri 或Alexa 那種水平的對話機器人，ChatGPT 更像人類，可以和我們進行各種形式的對話互動。我們可以隨意地和它聊天：“這個怎麼操作？“、“那這個呢？”、“告訴我你還知道些什麼？”……用戶界面的出現令人十分喜悅，然而再過5000 天我們就會對此習以為常了。
鄒欣：5000 天前大概是iPhone 剛問世的時候，看完發布會的每一個人都感到心情澎湃。但現在，所有成年人都有至少一部智能手機，關心手機發布會的人也越來越少了。
KK：正是如此。
“技術進步真正要解決的是社會問題。”
鄒欣：《5000 天后的世界》的背景採訪發生於三四年前，當時你預測了“鏡像世界”的黎明和AR/VR 技術的爆發。我自己是一名微軟HoloLens 的用戶，這款產品一直處於不溫不火的狀態，它並沒有像現在的對話式人工智能一樣跨越技術的鴻溝，而是成為了少數人的玩具。 HoloLens 為什麼沒能大行於世，它也需要一次iPhone 時刻嗎？
KK：手提電話發明於70 年代，翻蓋手機發佈於21 世紀初，在iPhone 之前也有過智能手機，這些產品實際上都沒能真正地起飛。
但iPhone 找到了正確的方向：觸控屏、直觀的界面、足夠小的電池和能裝進口袋的便攜尺寸。智能眼鏡還遠遠沒達到這一境界：智能眼鏡的價格昂貴、視野狹窄、對比度較低、電池也太重了（HoloLens 的電池位於外頭箍的尾端）。
HoloLens 仍在等待一次技術飛躍。智能眼鏡的技術還未達到引發iPhone 時刻所需的水平，沒有成為一種普遍的、無處不在的消費技術。
其實，我第一次看到HoloLens 的原型是在1989 年。
鄒欣：1989 年？天啊。
KK：我當時曾想，VR 技術很快就會出現了，因為我在那不久之後就見證了Magic Leap（美國的AR 公司）的誕生。可惜的是，人們在今天所看到的HoloLens，並不比我在1989 年看到的要好多少，最大的區別就是它相比原型便宜了幾百萬倍。所以，HoloLens 的技術水平增長還不夠，消費者需要的是比現在的體驗質量好數百倍的東西。
我認為，HoloLens 可能還需要10 年左右的時間。也許在5000 天內，它就能實現技術飛躍，但應該不會在最近這幾年。在未來，我相信自己能看到它的iPhone 時刻。
鄒欣：HoloLens 正在從不同的方面接近iPhone 時刻。開發團隊在技術、材料還有對智能眼鏡的普及等方向做出了努力。
KK：第一版的谷歌眼鏡因為內置攝像頭和麥克風被指控侵犯隱私，消費者市場徹底拒絕了它。所以，對消費者的教育和普及是非常重要的一環，廠商得思考如何讓消費者接受新產品。然而，文化層面的問題不會在產品的第一個版本中得到解決。
在智能手機出現之前，人們就曾擔心手機鈴聲響個不停會引起麻煩，所以手機廠商為此實現了文化創新，他們用振動器替代傳統的手機響鈴，用通話耳機保護人們的隱私。
對於智能眼鏡，也需要類似的文化創新，以幫助人們確定在生活中應該如何使用產品，這一點需要消費者的反饋以及漫長的時間來解決。
編者按：把一項技術的成本降低了幾萬倍，卻還是沒能讓普通人用上這項技術。在歷史上還有哪些類似的例子？這裡面隱藏了什麼問題呢？
鄒欣：是的，有時社會非常抵制新技術的進步，但很多技術能為人們帶來快樂並改善社會的環境。如今，舊金山仍存在許多社會問題，街邊有許多無家可歸的人，治安和衛生條件也很糟糕。為什麼技術的進步不能讓舊金山這樣的科技之都變得更好？
KK：這是個很好的問題，我認為它沒有一個很好的答案。昂貴的住房、心理健康問題和猖獗的藥物濫用問題……這些現象令人無法接受。社會問題超過了技術人能解決的範疇，也不是技術人能控制的東西。而且，這些問題是普遍存在於美國的，不局限於舊金山。到目前為止，還沒有人找到簡單的解決方法。
我想再次回到我先前的觀點：僅靠聰明是不足以控制一切事物的。矽谷聚集了世界上最聰明的一些人，但哪怕是他們也無法靠科技解決這些問題，想改變這一切需要政治權力、說服力和同理心。
鄒欣：技術的成功離不開社會，而社會問題往往源於政治。現在有人認為，科技發展至今已經足以實現絕對公平的投票了，你認為這是否利於民主制度？ 5000 天后，美國的總統競選也會經過幾個新回合。那麼，美國——甚至全世界會在5000 天后因技術的進步而擁有一個更好的政治系統麼？
KK：我認為美國的政治體係不會在5000 天內有很大的改變，除非發生一些非常瘋狂的事情——比如特朗普重回政壇。特朗普總能做出一些瘋狂的舉動，後果時好時壞。
對於政治體係而言，5000 天的變化是極其緩慢的，這點時間其實不足以重新分配政治權利。我們可以看到，技術在社會中其實只是一個很小的因素。很多人擔心AI 也無法帶來真正的公平，認為AI 也會學習錯誤的信息，但只要種下了懷疑的種子，那就永遠無法獲取人們的信任，我認為這對社會發展是不好的。
總之，技術人也在試圖克服技術所導致的社會問題。至於人工智能究竟會不會改變政治體系？我的猜測是：不會。 5000 天后的政治將會和現在極其相似。
“人類90% 的技能會被AI 取代，剩下的10% 會被放大。”
鄒欣：你認為在5000 天后，醫療保健領域會發生哪些變化呢？
KK：全世界的醫療保健領域會在5000 天內產生巨大的變化。我認為人工智能在醫學領域的前景是巨大的，其主要作用是能夠與人類醫生合作，從前端改變醫療體系。
現在很多人類醫生會使用谷歌，因為哪怕是他們也不可能掌握醫學方面的所有知識。 AI 就特別擅長搜索和分析，它們可以協助人類醫生診斷。而且，AI 不會取代人類醫生，因為人類仍然可以做很多AI 也無能為力的事情。所以，未來最好的醫療團隊應該是人機協作的。
世界上有數十億人擁有智能手機，但能付得起高昂醫藥費的人卻沒多少。 AI 的普及能為世界上所有人提供免費的基礎護理服務，雖然未來的人依舊需要花錢購買藥物和其他各種東西，但他們不用花錢也能獲得真正有效的醫療保健建議，其規模是以前從未想像過的。
我在美國有個朋友，他是一位Boutique Doctor（又被稱為Concierge Doctor），這是一種提供高端醫療服務的私人醫生或醫療團隊。他們通常會為一小部分富有的客戶提供個性化、全天候的醫療服務，以提高醫療服務的質量和體驗。 Boutique Doctor 還會限制自己接待的病人數量，並以高價收費提供全天候的醫療服務。
我了解到，被私人醫生服務的病患通常會以發送文本和圖像的方式和醫生交流，這正是對話式人工智能的長處。 AI 也能夠理解圖片和文本，並通過圖片和文本與病患交流，這對醫療保健領域而言是革命性的。
編者按：現在已經有不少病人拿著手機搜索到的資料去指導醫生給自己開藥，如果AI 越來越懂治病，人類還需要那麼多的醫生麼？
鄒欣：如今是人工智能百花齊放的時期，有些學生時常會想：“我學習編程還有意義嗎？”、“寫博客還有什麼意義嗎？”，你對此有什麼建議？
KK：即使有計算器，讓小孩學四則運算也是有意義的。學習這些基礎知識能幫助孩子們理解運算規則，還有個原因是我們有時候手頭上不一定有計算器。但我覺得最重要的是，學好四則運算能讓人更加相信計算器得出來的結果。
學習編程也是這個道理，雖然人工智能可以幫助我們，但是它並不是萬能的。所以，即使一個人不會成為Python、Ruby 或C++ 的專家，也應該具備一定的編程知識，以便更好地利用AI。
AI 不是獨立的存在，而是一個人工智能助手，它是以人類的平均水平為標准進行訓練的，所以作為一個人，你必須幫助它超越平均水平，讓它變得更有用。
鄒欣：我聽說有程序員在不情願地嘗試了人工智能輔助編程後，驚奇地發現：AI 雖然將他90% 的編程技能全部取代，但是也把剩下的10% 技能放大了一百到一千倍。
KK：我很喜歡這個說法，未來的人們需要找到並儘力發揮自己身上這10% 的技能，因為剩下的90% 都會被AI 取代。
編者按：有條理的寫作，思考，在不斷嘗試後能提煉出創意的想法，這些在任何時候都是很重要的。也許這就是我們人類核心的10% 技能吧？
展開全文打開碳鏈價值APP 查看更多精彩資訊