2024 年10 月26 日將紀念詹姆斯·卡梅隆導演的科幻經典《終結者》上映四十週年，這部電影在社會中散佈了對機器的恐懼，機器無法與之談判，而且「不會停止……直到你不這樣做」。殺了我，」正如一位令人難忘的人物所說。
故事的核心是一個名為「天網」的超級智慧人工智慧系統，它透過核戰佔領了世界。在接下來的破壞中，人類倖存者組織了一場由超凡魅力的約翰·康納領導的成功抵抗運動。
作為回應，天網派出一名半機械人刺客（由阿諾史瓦辛格飾演）回到1984 年（康納出生前）去刺殺他未來的母親莎拉。約翰·康納對戰爭如此重要，以至於天網相信將他從歷史中抹去將確保其自身的生存。
關於人工智慧的現在和未來的爭論
如今，人們對人工智慧的興趣或許從未如此之大。開發人工智慧的公司通常承諾他們的技術可以比人類更快、更準確地執行任務。他們聲稱人工智慧可以識別數據中不明顯的模式，從而幫助人類決策。人們普遍認為人工智慧可以改變從戰爭到經濟的一切。
但公眾辯論往往以存在的危險為主導，而六部《魔鬼終結者》電影對這些論點的框架產生了重大影響。有人說，電影對人工智慧控制的機器所構成的威脅的描述去中心化了人們對這項技術所帶來的巨大好處的注意力。
直接風險包括用於篩選工作申請的演算法存在偏見，以及生成式人工智慧將取代人類從事某些類型工作（例如軟體程式設計）的危險。
《魔鬼終結者》並不是第一部探討人工智慧潛在危險的電影。天網與史丹利庫柏力克1968 年電影《2001：太空漫遊》中的HAL 9000 超級電腦有相似之處。它還借鑒了瑪麗·雪萊1818 年的小說《弗蘭肯斯坦》和卡雷爾·恰佩克1921 年的戲劇《RUR》。這兩個故事都是關於發明家失去對自己的創造物的控制的。
上映後，《紐約時報》將其評價為“有風格的B 級電影”，但自那以後的幾年裡，它已成為有史以來最偉大的科幻電影之一。它的票房收入是戲院預算640 萬美元（以今天的價格計算為490 萬英鎊）的十二倍多。
也許《魔鬼終結者》最具創新性的元素是它透過20 世紀80 年代美國的文化視角重新詮釋了人們長期以來對機器叛亂的恐懼。就像1983 年的電影《戰爭遊戲》中，一名青少年入侵軍事超級電腦差點引發第三次世界大戰，《天網》強調了冷戰時期對核毀滅的恐懼，以及對快速技術變革的焦慮。
四十年後，馬斯克(Elon Musk) 成為繼續關注人工智慧對人類構成的生存風險的科技領袖之一。 X（前身為Twitter）的擁有者在表達對超級智慧AI 假設發展的擔憂時多次引用《魔鬼終結者》系列。
然而，這種比較常常惹惱該技術的倡導者。英國前技術部長保羅·斯卡利(Paul Scully) 在2023 年倫敦大會上表示：「如果我們只是因為類似《魔鬼終結者》的漫無目的場景而談論人類的終結，那麼我們就錯過了人工智慧所能帶來的所有好處。 [megvalósíthat]」。
這並不是說人們對人工智慧的軍事用途沒有真正的擔憂——這甚至可以與電影系列相提並論。
人工智慧控制的武器系統
當美國官員宣佈人工智慧永遠不會做出部署核武的決定時，許多人鬆了一口氣。然而，人工智慧和自主武器系統的結合是可以想像的。
這些武器已經存在了幾十年，不一定需要人工智慧。一旦激活，它們就可以選擇並攻擊目標，而無需人類直接控制。 2016年，美國空軍上將保羅·塞爾瓦創造了「終結者困境」一詞來描述此類武器帶來的道德和法律挑戰。
英國著名電腦科學家史都華·拉塞爾主張禁止所有致命的全自動武器，包括配備人工智慧的武器。他認為主要風險不是有感知的、類似天網的系統脫軌，而是自主武器如何很好地遵循我們的指令，以超人的精確度進行殺戮。
根據拉塞爾的設想，帶有人工智慧控制炸藥的微型四軸飛行器可以大量生產。這些「殺手無人機」甚至可以作為「廉價的、選擇性的大規模殺傷性武器」大規模部署。
包括美國在內的國家要求，在使用自主武器系統時，人類操作員必須「對武力的使用做出適當程度的人類判斷」。在某些情況下，操作員可以在授權攻擊之前目視檢查目標，並且可以在情況發生變化時停止攻擊。
人工智慧已經在幫助軍事目標確定，有人說這是對該技術的負責任的使用，因為它可以減少附帶損害。這個想法讓人想起施瓦辛格在原版電影續集《魔鬼終結者2：審判日》中扮演的機械「保護者」角色。
然而，人工智慧可能會削弱人類無人機操作員在質疑機器提出的建議方面的作用。一些研究人員表示，人們傾向於相信電腦告訴他們的資訊。
“行星無人機”
衝突中的軍隊越來越多地使用能夠偵測和打擊目標的廉價小型無人機。這些「行星無人機」（設計用於懸停在戰場上空）具有不同程度的自主權。
有安全研究人員表示，烏克蘭戰爭和最近廣泛使用無人機的其他衝突引起了人們對人類操作員控製品質的擔憂。
設計用於部署在戰場上的配備武器的地面戰鬥機器人可能類似於無情的終結者，而隨著時間的推移，武裝空中無人機可能類似於該系列的空中「獵人殺手」。然而，這些技術並不像天網那樣討厭我們，也不是「超級智慧」。
然而，至關重要的是，人類操作員繼續對機器系統進行代理和有意義的控制。
也許《魔鬼終結者》最偉大的遺產是它扭曲了我們對人工智慧的集體思考和談論方式。現在這一點尤其重要，因為這些技術在美國、中國和俄羅斯之間的全球權力和影響力競爭中發揮著核心作用。
整個國際社會——從中國和美國這樣的超級大國到小國——必須找到合作的意願，並解決在地緣政治緊張時期軍事使用人工智慧所帶來的道德和法律挑戰。各國如何應對這些挑戰將決定我們是否能夠避免《魔鬼終結者》如此生動地設想的反烏托邦未來——即使我們現在還不必擔心時間旅行的機器人。
發佈在BitcoinBázis 頁面。
資訊來源：由0x資訊編譯自BITCOINBAZIS。版權所有，未經許可，不得轉載
0X簡體中文版：40年來，由於《魔鬼終結者》電影，我們始終在擔憂天網是否會最終覺醒——也就是我們