人工智能（AI）的快速發展引發了一場全球競爭，其中中美處於領先地位，以利用人工智能的能力。雖然這種對技術霸權的追求帶來了不可否認的好處，但它也引發了值得立即關注的深刻的生存擔憂。
人工智能取得顯著進展
近年來，人工智能係統的能力出現了前所未有的大幅上漲。值得注意的是，根據人類輸入生成文本、圖像、音頻和視頻內容的生成式人工智能已經取得了顯著的進步。 OpenAI 是這一領域的領跑者之一，它於2022 年11 月發布了ChatGPT 大語言模型(LLM)，獲得了廣泛認可。 3 月份的後續更新引入了由更強大的GPT-4 模型提供支持的ChatGPT。微軟和谷歌也分別加入了與Bing AI 和巴德的競爭。
除了基於文本的人工智能之外，Midjourney、DALL-E 和Stable Diffusion 等生成應用程序還推出了令人驚訝的逼真圖像和視頻生成功能。這些發展清楚地表明，生成式人工智能正在突破曾經被認為是人類創造力和交易所專有領域的界限。
超越類人人工智能
然而，生成式人工智能只是冰山一角。微軟的研究人員表示，迄今為止最先進的法學碩士之一的GPT-4 正在顯示出通用人工智能(AGI) 的跡象——一種能夠在廣泛的智力任務中超越人類的人工智能。 GPT-4 在沒有特定提示的情況下在數學、編碼、醫學和法律等領域表現出色的能力證明了其類人認知能力。專家估計，我們可以在未來四十年內看到通用人工智能，這是一個充滿希望和危險的里程碑。
AGI：最終目標
AGI 代表了OpenAI 和谷歌子公司DeepMind 等科技巨頭的最終目標。實現人類水平的機器智能的誘惑不僅帶來難以估量的利潤，還帶來無與倫比的全球聲望。然而，對AGI 的追求並不僅限於私營部門。它對國家和國際安全具有重大影響。
AI競賽的激烈競爭
對先進人工智能的競爭追求並不僅限於科技公司。大國，尤其是中美，正在競相開發人工智能係統，其影響遠遠超出了經濟競爭力。人工智能的軍事應用，例如自主武器、網絡武器、核指揮與控制以及情報收集，有可能重塑全球戰略動態。
人們相信人工智能的霸主地位可以確保全球主導地位，這導致兩國加大了努力的力度。這種對人工智能“軍備競賽”的看法並非沒有風險。
歷史迴響：軍備競賽的危險
歷史給我們提供了有關軍備競賽危險的教訓。 20 世紀50 年代末，美國對與蘇聯之間所謂的“導彈差距”感到擔憂。這種誤解導致彈道導彈的加速發展，儘管美國在導彈技術方面處於領先地位。僅僅感覺到落後於對手就會引發一場不穩定的軍備競賽，充滿事故和升級的風險。
如今，人們對中美之間的人工智能差距也出現了類似的看法。中國在軍事人工智能方面的進步敲響了警鐘，人們擔心落後會引發一場潛在危險的人工智能能力競賽。
速度高於安全的危險
然而，焦點不應僅僅放在人工智能競賽中誰處於領先地位。對軍備競賽的恐懼可能會促使公司和政府將速度置於安全之上，從而導致在沒有足夠安全預防措施的情況下倉促部署人工智能係統。
人工智能對齊問題日益突出。儘管人工智能能力迅速發展，但可靠控制和預測人工智能輸出的能力仍然難以捉摸。由於人工智能決策過程的複雜性，即使是仁慈的人工智能設計也可能導致意想不到的後果。確保人工智能係統符合人類價值觀和利益是一項艱鉅的挑戰，需要仔細考慮和監管。
國際合作：必要性
人工智能發展的緊迫性可能會阻礙解決人工智能協調和治理問題的努力。許多專家認為，漸進式開發更安全，因為它可以納入基本的安全功能。對在人工智能競賽中落後的擔憂可能會抑制監管和治理的嘗試。
人工智能治理國際合作的必要性日益明顯。關於人工智能部署的國際協議和公約可以減輕與快速和不受控制的發展相關的風險。與冷戰期間核裁軍和生物武器禁令協議的成功類似，人工智能治理可以防止在潛在災難性領域部署失調的人工智能。
希望合作
儘管面臨挑戰，但合作仍有希望。中美人工智能專家就聯盟研究和共同治理進行了討論。 OpenAI 首席執行官Sam Altman 和微軟高管等領導者都強調了人工智能領域合作的重要性。
然而，前進的道路並非沒有障礙。人工智能監管問題已陷入更廣泛的地緣政治辯論中，一些人認為這是對競爭對手的潛在讓步。必須仔細處理速度與安全的問題，以確保人工智能的負責任的發展。
不可否認，人工智能霸主地位的爭奪正在加速，大國和科技巨頭都在努力引領潮流。雖然這場比賽有望取得顯著進步，但它也引起了深刻的擔憂。人工智能軍備競賽的幽靈需要國際合作和採取細緻入微的方法，將安全與創新放在首位。只有通過仔細的協調和治理，人類才能利用人工智能的變革力量，同時避免潛在的災難。
資訊來源：由0x資訊編譯自CRYPTOPOLITAN。版權歸作者Randa Moses所有，未經許可，不得轉載