來源：雷科技

可能從來沒有一項科技能像AI 大模型一樣，在短短幾個月內迅速成為科技界乃至整個社會的共識。今天，所有科技巨頭和主要政府幾乎都篤定地認為AI 將改變世界，改變一切。

但在一個大的共識背後，還有太多問題，一方面是切實的——在工作上的替代、虛假內容的氾濫以及不平等的使用門檻等等，另一方面則是長期以來人類藝術作品裡表達的「文明的威脅」。根據《連線》雜誌報道，OpenAI 在一份財務文件甚至規定了當AI 摧毀人類經濟體系時的退出機制。

今年7 月，在IBM 總部舉辦的活動上，美國參議院多數黨領袖舒默（Chuck Schumer）表示，他將召開一系列人工智慧會議，「讓最優秀的人坐在桌前，互相交流，回答問題，努力達成一些共識和解決方案，參議員和我們的工作人員以及其他人只是傾聽。」最終，舒默希望基於會議上的交流，「為人工智慧政策立法奠定基礎」。

兩個月後，會議開始了，包括來自頂級科技公司的22 位與會者都參加了閉門會議，他們其中有OpenAI CEO 山姆·阿爾特曼、英偉達CEO 黃仁勳、谷歌CEO 桑達爾·皮查伊、 Meta CEO 馬克·祖克柏等人，也有上一代網路的科技領導者微軟創辦人比爾·蓋茲和谷歌前CEO 艾瑞克·施密特。

AI 一定要被「管」起來

沒有人會否認人工智慧的巨大潛力，但關於人工智慧的風險、安全措施、監管以及未來，我們還缺少許多共識，唯一可以肯定的是，人類不可能完全放任人工智慧的野蠻生長。

在離開第一次閉門會議後，特斯拉、SpaceX、Neuralink CEO 伊隆馬斯克就公開表示，這次聚會是「歷史性的」，他贊同成立一個新的機構來監管人工智慧的想法，並重新強調了人工智慧構成的巨大風險。

「人工智慧出錯的後果是嚴重的，所以我們必須積極主動而不是被動反應，」馬斯克說，「問題實際上是一個文明風險的問題，這對世界各地的所有人類都有潛在的風險。」

馬斯克並未深入闡述所謂人工智慧對人類文明的具體危害，但當人工智慧更參與電網、供水系統以及車輛系統的管理控制中，一旦出錯就會帶來大量的問題。電腦科學家、人工智慧研究人員Deb Raji 也提到了，人工智慧的偏見決定影響社會的各個層面。

更何況，還有長久以來人類的對人工智慧的擔憂。

但要如何減少和防止人工智慧帶來的風險？微軟總裁布拉德史密斯（Brad Smith）提出，我們需要為人工智慧可能形成的巨大風險建立「緊急煞車」，尤其是在管理電網和供水系統等關鍵基礎設施的人工智慧系統之中，「這樣我們才能確保許多人擔心的威脅仍然只存在在科幻小說裡，不會成為新的現實。」

布拉德史密斯/圖

史密斯認為，就像每一棟建築和家庭中都有的斷路器，如果需要的話，可以立即阻止電力系統運行，人工智能係統也需要類似的“緊急制動器”，確保人類不會受到此類系統的大規模傷害。

無獨有偶，英偉達首席科學家兼高級副總裁威廉·達利（William Dally）也指出了，人工智能作為一個計算機程序出錯的可能和造成的嚴重傷害，關鍵在於“人類的參與”，即將人類置於人工智能在工作的關鍵環節中，制約人工智慧的一些決策權。

威廉·達利，圖/英偉達

「所以我認為，只要我們對如何部署人工智慧保持謹慎，讓人類處於關鍵環節中，從而可以確保人工智慧不會接管並關閉我們的電網或導致飛機從天而降，」達利說。

AI 開源會是潘朵拉盒嗎？

去年年底，ChatGPT 在科技圈內第一次火起來的時候，就有人表達了對AI 模型被用於詐騙等惡性行為的擔憂。開源似乎在加劇了「被濫用」的風險。

在會議上，其中一個爭論就是圍繞著可供公眾下載和修改的「開源」AI 模型。這些模型的開放代碼能讓企業和研究人員得以使用類似ChatGPT 背後的AI 技術，無需投入大量的資金和資源訓練。

但壞人也可能濫用開源AI 系統，包括OpenAI 從GPT-3.5 開始就停止了開源行為，OpenAI 聯合創始人兼首席科學家Ilya Sutskever 就表示，「幾年後，每個人都會清楚地看到，開源人工智能是不明智的。」

Ilya Sutskever 與黃仁勳在GDC 的對談，圖/英偉達

當被問及原因時，他談到，「這些模型非常強，而且會變得越來越強，在某個時候，如果有人想的話，很容易用這些模型造成很大傷害。」

另外，DeepMind 共同創辦人、Inflection AI CEO Mustafa Suleyman 不久前也提到開源的風險，他指出AI 開源的關鍵問題在於，「權力的快速擴散」將使得單一個體就能對世界造成前所未有的傷害和影響，「在未來20 年內，天真的開源，幾乎肯定會造成災難」。

Mustafa Suleyman，圖/DeepMind

不過Meta 顯然不同意這些說法，Meta CEO 祖克柏反駁說，開源將「AI 變得民主化，有助於公平競爭，促進個人和企業創新」。但同時他也表示，開源模式也許會帶來危險，然而Meta 正在盡可能安全地建構這項技術。

當AI 遇見開源，這依然是一個懸而未決的問題。

寫在最後

距今2104 年前，漢武帝去世七年後，漢廷召開了一場史無前例的策問，其中一個主要的問題是武帝時期實行的鹽鐵酒國營專賣政策的廢立修改，為此召集了“賢良、文學六十餘人」以及禦史大夫桑弘羊等政府官員，後世稱之為「鹽鐵會議」。不過這場鹽鐵會議，根本討論的其實是漢王朝的經濟政策走向。

儘管主題不同，年代環境更是天差地別，但不論兩千多年前的鹽鐵會議，還是現在人工智慧見解論壇，都是面對一個巨大的問題，希望透過「群賢」交流辯問，以此作為立法之基礎。

圖片/谷歌

在前不久谷歌25 週年的紀念文章中，現任谷歌CEO 桑達爾·皮查伊（Sundar Pichai）寫到：

（Google）參與有關這些技術將如何塑造我們社會的重要辯論，然後共同尋找答案。人工智慧是其中的關鍵部分。儘管我們對人工智慧造福人類和社會的潛力感到興奮，但我們知道人工智慧與任何早期技術一樣，也帶來複雜性和風險。我們對人工智慧的開發和使用必須解決這些風險，並幫助負責任地開發技術。

幾天后，包括Adobe、Cohere、IBM、英偉達、Palantir、賽富時、Scale AI 和Stability 八家成為第二批簽署「負責任地開發人工智慧（AI）技術」協議的公司。很多時候，面對單一個體或單一公司/政府無法的解決的問題，我們必須意識到「共同努力」的價值。