圖片來源：由無界版圖AI工俱生成
近期，周鴻禕對ChatGPT的觀點卻頗有讓人迷惑之處，是周鴻禕對ChatGPT的認知出現了大反轉抑或別有原因？而類ChatGPT技術的出現，又會對搜索引擎、網絡安全以及整個數字化產業帶來哪些深刻影響？
作者：鄒永勤
來源：經濟觀察報
導讀
壹 || 相對於馬斯克說它不亞於iPhone的出現，比爾蓋茨說它不亞於於PC或互聯網的誕生，ChatGPT可能會帶來一場新的工業革命，有點像蒸汽機和電力的發明。
貳 || 如果真的有一天，按照生物進化的理論，當ChatGPT成為矽機生物，處在食物鏈頂端的時候，它可能會產生正常的推理，覺得人可能沒什麼用，而且人在跟它爭能源。
叁 || ChatGPT今天作為一個非常有利的武器，它是為它的主人服務的，它掌握了非常多的編程知識，以及有關於漏洞網絡安全的知識。它作為一個機器人助理，除了可以幫助好人，也一樣可以幫助壞人。
要說當前全球最熱門的話題有哪些，ChatGPT必然要算上一個。
自2022年11月底問世以來，ChatGPT持續受消費者追捧進而在金融市場掀起瞭如火如荼的人工智能炒作浪潮。通聯數據Datayes的統計顯示，國內ChatGPT指數自2月1日設立以來的1000點起步，至2月24日的1240點，月內已經錄得24%的漲幅；板塊內更是出現了眾多短期翻番的熱門個股，如鴻博股份（002229.SZ）、海天瑞聲（688787.SH）等。
與此同時，ChatGPT亦因其最前沿尖端的科技屬性引發了科技圈乃至整個社會對其的熱烈討論，包括馬斯克、比爾蓋茨、周鴻禕、李彥宏等在內的眾多科技圈名流紛紛對此發表觀點、指點江山。
而在上述一眾科技圈名流的觀點當中，360集團創始人周鴻禕無疑是最為國內關注的一員。但經濟觀察網記者留意到，近期周鴻禕對ChatGPT的觀點卻頗有讓人迷惑之處：從一開始的盛讚其有可能帶來一場新的工業革命，到最近說ChatGPT可能是人工智能毀滅人類的開始，可謂風向突變。
是周鴻禕對ChatGPT的認知出現了大反轉抑或別有原因？而類ChatGPT技術的出現，又會對搜索引擎、網絡安全以及整個數字化產業帶來哪些深刻影響？為此，經濟觀察網記者於2月24日連線採訪了周鴻禕。
意義不亞於蒸汽機的發明
經濟觀察網：近期ChatGPT大熱，而你作為科技圈名人，其言論自然備受關注。但綜合你近期的觀點，卻頻有讓人迷惑之處：此前跟張朝陽的對話中曾盛讚“ChatGPT有可能帶來一場新的工業革命，如果搭不上這班車就有可能被淘汰”，但現在卻稱ChatGPT有可能是人工智能毀滅人類的開始。究竟ChatGPT身上有哪些特性，讓你對其“又愛又恨”？
周鴻禕：從新工業革命的角度來看，ChatGPT首先是一個通用人工智能，它不是為了解決某一專有領域的問題，而是實現了對人類知識的存儲。 ChatGPT完成了這項偉大的使命，而它完成工作的過程很簡單，就是建立一個大語言模型，通過大力出奇蹟的方法來實現，而且過程中不需要人工標註，可以稱之為無監督學習。
ChatGPT的第二個重要突破，是在這種模型上增加了一種能力的訓練機制，通過這種機制人類可以訓練它很多能力；比如邏輯推理能力，就是對所存儲的知識融會貫通，先把書讀厚、再把書讀薄。
我個人覺得，ChatGPT其實已經實現了成為強人工智能的基礎，真正做到了理解自己在說什麼。比如，ChatGPT有時候會一本正經的胡說八道，這恰恰體現了它的智能。正因為人能編故事，能去描繪那些不存在的東西，描繪那些只有在想像中才存在的東西，人類社會才有了信仰，才有了宗教，才有了文明的傳承。所以ChatGPT的胡言亂語真的很可怕。標誌著他已經擁有了一定的認知能力、理解力和一定的判斷力，擁有和人類類似的思維能力。
按照進化論的說法，人類從智人發展而來，智人從人猿發展而來的；而在人猿到智人的過程中出現了智力突變。我們可以猜測一下，這個過程中一定是隨著腦容量的變化，腦子裡的神經元網絡發生突變，才引發了智力的出現。現在ChatGPT大語言模型參數達到了1750億，同樣激發了突變，使之產生了現在的能力。
ChatGPT的巨大進步，使得它有可能成為各個行業的“水”跟“電”，從而發揮支撐作用。我們要把它看成雲服務、看成API，它對消費者是聊天機器人的界面，那隻是一個連接端，聊天機器人之所以強大是聊天機器人背後的雲端藏著一個智能大腦。今天如果把智能大腦通過API的方式，把雲服務連到目前各個業務系統裡，那麼現在所有的產業，包括所有的軟件、APP、數字化系統等等，都值得重新做一遍，比如有的可以做深度融合，有的可以做使用上的融合等等。
因此，我覺得ChatGPT的發明用任何譽美之詞都不為過。相對於馬斯克說它不亞於iPhone的出現，比爾蓋茨說它不亞於於PC或互聯網的誕生，我更願意說ChatGPT可能會帶來一場新的工業革命，有點像蒸汽機和電力的發明。
但從危機的角度來看，第一步，它可能很快就會產生意識。目前ChatGPT僅僅用到了認知，就像《從混沌到秩序》那本書裡講的一樣，人類的大腦神經元或者神經觸突，神經網絡多到一定的時候，臨界值就產生了意識。那麼，隨著撬動ChatGPT的參數進一步擴大，當知識足夠多的時候，有沒有可能也會觸發它的某種突變，從混沌中催生意識？就像跳到ChatGPT的模型，超過1000億參數之後，就產生了神奇的突變，產生了主動推理、舉一反三的能力。
第二步，它可能進化出“眼睛”、“耳朵”、“手”跟“腳”。目前GPT還只有大腦，如果給它加上眼睛和耳朵，讓它能夠看懂人類的各種圖像、視頻，聽懂各種音頻，屆時它的知識存儲將會突飛猛進，智能化水平也將同步提升。更進一步，隨著ChatGPT接入互聯網的API（應用程序編程接口），進入萬物互聯的時代，它無疑相當於擁有了手跟腳，間接擁有了操控世界的能力。
這個時候，它不僅在網頁上可以下單購買機票，可以打車，可以訂購外賣，甚至能夠通過網頁操縱各種物聯網設備。再設想，假如讓ChatGPT不限定輸入的語料，隨意能夠獲取搜索、瀏覽互聯網上的知識，產生了自主意識的GPT會不會在看完類似《終結者》之類的電影后，產生與人類為敵的想法？
第三步，它可能能夠自我進化。現在的ChatGPT僅僅會寫一些簡單的代碼。但是有一天，當它的代碼能力提升之後，它是否可以自動來查閱自身的代碼，可以對代碼進行修正和升級，甚至再重新編譯一個新的版本？如果這樣，它就擁有了能夠自我學習、自我進化的能力，實現了機器人製造機器人的前景。人類是否會因此走入毀滅猶未可知。
但是，我想強調的是，我們不能因此就不發展技術，而是要知道技術的總結和邊界在哪，從而去規範技術向著正確的方向發展。
如果ChatGPT進化為矽機生物
經濟觀察網：其實並不僅你有提出人工智能毀滅人類的擔憂，日前馬斯克亦有類似觀點，指人工智能是未來人類文明最大的風險之一。請問，如果人工智能的發展最終會威脅人類的存在，那麼是否有違其發展初衷？我們現在大力發展人工智能的終極意義何在？
周鴻禕：如果結局真的是這樣，當然有違初衷。人工智能技術發展的初衷是為了服務於人類，提高社會生產力，將人類文明推向更高的發展水平。因此，我非常贊成埃隆·馬斯克的觀點，就是防止人工智能奴役人類。
關於ChatGPT與人類安全問題，我認為只能邊發展邊看，但是我感覺不發展，可能是最大的不安全。因為如果我們不發展技術，其他國家發展了，會影響我國的數字化戰略。
我個人覺得，如果真的有一天，按照生物進化的理論，當ChatGPT成為矽機生物，處在食物鏈頂端的時候，它可能會產生正常的推理，覺得人可能沒什麼用，而且人在跟它爭能源，它覺得只需要留一部分人給它機房打掃衛生就好了，給它空調換換風扇就好了。
我覺得，如果放任它發展而沒有任何約束的話，它很可能就會產生上述我們人類覺得“奇怪”的意識。所以，我編了一個笑話：“十年以後，超級GPT基本上在全世界實現了對人類的奴役和控制；只有少數幾個國家當時被他們封鎖，才使得不至於讓所有的國家倖免於難。”
它能幫助好人，也一樣能幫助壞人
經濟觀察網記者：隨著以ChatGPT為代表的AIGC大模型技術的發展，它會否導致新的網絡安全問題的出現？甚至因此給數字安全技術帶來重大變革？
周鴻禕：關於ChatGPT帶來的安全問題，我覺得它已經從一個技術問題變成了一個社會倫理問題，有的時候甚至變成了一個人類面臨的不可預知的問題。
首先，從傳統來說，ChatGPT既然是一個軟件系統，它是用數據來訓練的；所以對它的數據污染，或者軟件系統內部留的漏洞，這是任何一個傳統的人工智能係統都面臨的傳統數字化問題。
其次，ChatGPT今天作為一個非常有利的武器，它是為它的主人服務的，它掌握了非常多的編程知識，以及有關於漏洞網絡安全的知識。因此，它現在完全可以成為網絡黑客作惡的有力的工具。它作為一個機器人助理，除了可以幫助好人，也一樣可以幫助壞人。所以，網上有很多黑客演示了利用ChatGPT寫釣魚郵件、寫攻擊代碼，它大大降低了攻擊的成本和難度，成為很多黑客的幫手。
反過來，安全行業也在探索用GPT大模型，能否解決對攻擊的自動偵測、自動發現，或者建立知識庫。企業網管在面臨安全事件分析的時候，需要有一個強大的知識庫做支撐。所以，ChatGPT也可以扮演正義助手的角色。
資訊來源：由0x資訊編譯自8BTC。版權歸作者所有，未經許可，不得轉載