奇點理論的最大擁護者庫茲韋爾預計，到2030年時，計算機系統將通過圖靈測試，與人類無法區分。之後再過15年，真正的奇點將會到來，屆時“計算將成為我們自身的一部分，我們的智力將提高100萬倍”。劃重點：1、 許多專家認為，人工智能取得的巨大進步正幫助矽谷迎來奇點時刻，我們即將迎來劇烈的、指數級的、不可逆轉的巨變。 2、 奇點理論的最大擁護者庫茲韋爾預計，到2030年時，計算機系統將通過圖靈測試，與人類無法區分。之後再過15年，真正的奇點將會到來，屆時“計算將成為我們自身的一部分，我們的智力將提高100萬倍”。 3、反對派的批評人士認為，即使大語言模型取得了驚人的進步，也與奇點理論所承諾的不朽的、世界智慧的漫長歷程相去甚遠。
多年來，矽谷始終期待著一種全新的技術出現，並改變一切。它將把人類和機器結合起來，變成更高級的智能，並為歷史劃開界限。這個里程碑的時刻被稱為“奇點”。
它可能會以多種方式發生。一個風險是，人們可能會將個人電腦的處理能力添加到他們自己與生俱來的智能中，變成他們自己的超強變種。或者，計算機系統可能會發展得異常複雜，以至於它們實際上可能會假設，創造一個世界性的思維。
在這兩種情況下，隨之而來的改變可能是劇烈的、指數級的、不可逆轉的。一台具有自我意識的超人機器可能會比任何一組科學家更快地設計出自己的增強功能，從而引發智能大爆炸。幾個世紀的進步可能在幾年甚至幾個月內完成。
人工智能在科技、企業和政治領域正掀起前所未有的波瀾。留心矽谷發出的誇張聲明和瘋狂預言，看來承諾已久的數字天堂終於觸手可及。
向來低調的谷歌首席執行官桑達爾·皮查伊(Sundar Pichai)稱，人工智能的影響“比火、電或我們之前所做的任何事情都要深刻得多”。
億萬富翁投資者里德·霍夫曼(Reid Hoffman)表示：“在這個星球上做出建設性改變的能力即將得到前所未有的重要提升。”
微軟聯合創始人比爾·蓋茨(Invoice Gates)宣稱，人工智能“將改變人們工作、學習、旅行體驗，並獲得健康護理和相互交流的最佳方式。”
然而，這裡有一個黑暗的轉折。就好像科技公司發布自動駕駛汽車時警告說，它們可能在你前往沃爾瑪購物途中發生爆炸。
推特和特斯拉掌舵人埃隆·馬斯克(Elon Musk)上月在接受采訪時表示：“通用人工智能的出現被稱為奇點，因為很難預測之後會發生什麼。”但他表示，他認為“一個富足的時代”將會到來，但通用人工智能也“有可能毀滅人類”。
在科技界，人工智能最大的支持者是OpenAI首席執行官薩姆·奧特曼(Sam Altman)，這家初創公司的聊天機器人ChatGPT引發了當前熱潮。奧特曼說，人工智能很可能是“我們所見過的最好的金融賦權和許多人致富的力量。”不過，他也表示，馬斯克的觀點可能是對的。馬斯克對人工智能持批評態度，還創建了致力於開發腦機接口的組織。
上個月，奧特曼簽署了一封由非營利性組織人工智能安全中心發起的公開信，信中表示，“減輕人工智能滅絕人類的風險應該是全球優先事項”，它應該與“流行病和核戰爭”並列。其他簽名者包括奧特曼的OpenAI同事，以及來自微軟和谷歌的科學家。
“世界末日”的話題在矽谷已經變得耳熟能詳，甚至是許多人所熱衷探討的領域。幾年前，似乎每個科技大咖都在遙遠但仍可到達的地方建有物資儲備充足的末日地堡。 2016年，奧特曼表示，他正在收集“武器、黃金、碘化鉀、抗生素、電池、水、防毒面罩，以及可以乘坐飛機到達的大蘇爾(Huge Sur)地區。”在一段時間內，新冠疫情讓這些人覺得自己的做法是正確的。現在，他們正在為奇點的到來做準備。
奇點的根源
奇點的思想根源可以追溯到約翰·馮·諾伊曼（John von Neumann）身上，他是一位計算機科學家先驅，在20世紀50年代，他談到“技術的不斷加速進步”將如何產生“人類歷史上一些重要的奇點”。
英國數學家歐文·約翰·古德(Irving John Good)在二戰期間曾在布萊切利公園(Bletchley Park)幫助破譯德國恩尼格瑪密碼系統，他也是奇點理論的支持者。他在1964年寫道：“人類的生存將取決於超智能機器的早期發展。”導演斯坦利·庫布里克(Stanley Kubrick)曾就《2001:A House Odyssey》中的人工智能HAL諮詢過古德，這是電腦科學和科幻小說之間界限模糊的早期例子。
卡耐基梅隆大學機器人研究所的兼職教授漢斯·莫拉維克（Hans Moravec）認為，人工智能不僅對人來說是一大福音，無生命的東西也可以在奇點中被回收。他在《兒童思維：機器人和人類智能的未來》(Mind Children: the Future of Robot and Human Intelligence)中寫道：“我們將有機會重新創造過去，並以一種真實而直接的方式與之互動。”
企業家兼發明家雷·庫茲韋爾(Ray Kurzweil)始終是奇點理論的最大擁護者。他寫了許多有關奇點的書，包括1990年發表的《智能機器時代》、2005年的《奇點臨近》，現在正在寫《奇點更近了》。
庫茲韋爾預計，到2030年時，計算機系統將通過圖靈測試，與人類無法區分。他估計，這之後再過15年，真正的奇點將會到來，屆時“計算將成為我們自身的一部分，我們的智力將提高100萬倍”。到那時，庫茲韋爾可能已經97歲了。在營養維生素和膳食補充劑的幫助下，他希望繼續看看以後的發展趨勢。
對於有些批評奇點理論的人來說，在軟件編程領域複製感知系統在智力上是一種可疑的嘗試。美國麻省理工學院計算機科學與人工智能實驗室前主任羅德尼·布魯克斯(Rodney Brooks)說：“他們都想要永生，而不必因為信仰神明而帶來不便。”
目前推動奇點辯論的創新是因為大語言模型的出現，即為聊天機器人提供動力的那種人工智能係統。在與這些大語言模型進行對話的過程中，它可能會迅速、連貫地給出解決方案。
資深人工智能企業家、《人工智能：每個人都需要知道的東西》一書的作者傑里·卡普蘭（Jerry Kaplan）說：“當你提出一個問題時，這些模型會解釋它的意思，確定它應該給出的反應，然後把它翻譯成文字。如果這不是自然智能是什麼?”
卡普蘭表示，他對自動駕駛汽車和加密貨幣等被大肆宣揚的奇蹟持懷疑態度。他對最新的人工智能增長抱有類似的疑慮，但他表示自己已經被說服。他說：“如果這不是’奇點’，那它肯定是一個革命性的技術爆發，將廣泛地加速一大堆藝術、科學和人類知識的發展，同時也會產生很多問題。”
批評人士反駁說，即使大語言模型取得了驚人的進步，也與奇點理論所承諾的不朽的、世界智慧的漫長歷程相去甚遠。準確地將炒作與現實區分開來的不利之處在於，驅動這種技術的引擎被隱藏起來了。 OpenAI最初是一個利用開放源代碼的非營利組織，現在是一家營利性企業，批評人士稱它成功地成為了一個黑匣子。谷歌和微軟也提供了有限的可見性。
大部分人工智能分析都是由公司完成的，從結果中可以得到很多東西。微軟向OpenAI投資了130億美元，該公司的研究人員在4月份發表的一篇論文中得出結論，稱OpenAI的最新模型“表現出許多智能特徵”，包括“抽象、理解、視覺、編碼”以及“對人類動機和情感的理解”。
斯坦福大學計算機科學博士學者賴蘭·謝弗(Rylan Schaeffer)表示，有些人工智能研究人員錯誤地描繪了這些大語言模型是如何展示“新興才華”的，這些無法解釋的能力在較小的變體中並不明顯。
謝弗與斯坦福大學的兩位同事布蘭多·米蘭達（Brando Miranda）和桑米·科耶霍（Sanmi Koyejo）一起，在上月公佈的一篇分析論文中研究了這一問題。他們得出結論：新出現的熱潮是由測量誤差造成的“海市蜃樓”。在IMPACT中，研究人員看到了他們希望看到的東西。
永生與永恆的利潤
在華盛頓、倫敦和布魯塞爾，議員們正在討論人工智能的替代方案和引發的問題，並開始談論監管。奧特曼現在正進行全球之旅，希望轉移早期的批評，並將OpenAI宣傳為奇點的牧羊人。
這包括對監管持開放態度，儘管目前對如何監管依然沒有清晰的框架。矽谷通常認為，政府的行動過於遲緩，無法監督突飛猛進的技術發展。谷歌前首席執行官埃里克·施密特（Eric Schmidt）最近接受采訪時表示，政府中沒有人能把這件事做對，他認為人工智能應該自我監管。
人工智能類似於奇點，已經被描述為不可逆轉的技術趨勢。奧特曼和他的幾位同事上個月寫道：“阻止它需要類似於全球監管制度的東西，即使是這樣也不能保證奏效。”他們補充說，如果矽谷做不到，其他地方或許會成功。
更少提到的是從這種趨勢中獲得的巨額收入。儘管所有人都在討論人工智能是一台巨大的財富創造機器，但變得富有的人只是那些已經富有的人。微軟今年的市值飆升了5000億美元。得益於人工智能芯片需求激增，英偉達被認為是美國最受歡迎的上市公司之一。
奧特曼在推特上寫道：“人工智能是世界一直想要的技術。”的確，這絕對是科技界一直以來所希望的技術，在絕對最好的時候到來。去年，矽谷受到裁員和利率上升的打擊，較早增長的加密貨幣領域陷入了欺詐和失望之中。
查爾斯·斯特羅斯(Charles Stross)是小說《書呆子的狂熱》的合著者之一，這是一部處理奇點的喜劇作品。他說：“這裡的實際承諾是，公司將有能力用某些軟件程序來交換他們有缺陷的、昂貴的、遲緩的、人工信息處理的子模型，從而幫助解決問題並減少管理費用。”
奇點始終被想像成一個偉大的“宇宙時刻”，令人興奮。然而目前人們討論奇點的原因，可能主要是因為美國企業希望削減人力，痴迷對利潤的增加。用誇張的表述來說，當你（指企業家）在衝刺以使你的市值增加數万億美元時，即使是（無法達到）的天堂也可以一直等待下去。 （文/ 金鹿）
參考文獻：
展開全文打開碳鏈價值APP 查看更多精彩資訊