人工智慧(AI) 的爆炸性成長讓我們的世界充滿了理想主義夢想或世界末日預測，但兩者都沒有抓住真正的威脅。
我們並沒有面臨人工智慧或機器人進行敵意超越的「機器人大叛亂」。忘掉《魔鬼終結者》或《駭客任務》中的電影場景吧——那是不可能的。人工智慧征服世界的技術並不存在。
人工智慧可能在特定任務上表現出色，例如折疊蛋白質或下棋，但它無法建立軍隊或管理國家。
然而，沒有機器人起義並不代表我們是安全的。人工智慧正在透過不那麼引人注目但同樣強大的手段悄悄滲透到我們的生活：數位官僚機構。
真正的危險不是殺手機器人。這是人工智慧對控制我們日常生活的決策的侵蝕。人類已經進化到害怕有形的威脅。想想大型掠食者，如獅子和鯊魚。
但我們還沒準備好發現來自文書工作、文件或官僚機構的威脅。官僚體製本身是一項相對較新的發明，僅在5000 年前隨著文字的出現而發展起來。
例如，在撰寫本文之前，所有權取決於社群的共識。如果你「擁有」一塊土地，那是因為你的鄰居尊重它。不需要任何文件。
從泥板到數位官僚
當人們開始使用泥板和唱片時，一切都改變了。書面文件意味著產權不再是社區共識，而是官方記錄。古代美索不達米亞人將泥塊變成了官方所有權的象徵，顛覆了所有權的概念。
法院的判決可能會基於一塊泥板，上面寫著您擁有一塊土地，即使社區不同意。快進到今天，我們的系統仍然建立在類似的原理之上，只是現在我們使用矽晶片和數位記錄而不是黏土。
這一轉變改變了權力結構。所有權成為無需當地社區認可即可出售和交易的東西。官僚機構的出現，使得稅收、軍事資助和中央政府成為可能。
官僚成為這些系統中的重要參與者，他們使用記錄、表格和印章來管理軍隊、分配資源，甚至控制法律。這些官僚體系催生了對其人口進行廣泛控制的中央集權國家，這種控制現在轉向了人工智慧。
人工智慧不需要組建一支機器人軍隊；它只需要掌握官僚系統。如今天所見，在這些框架內，人工智慧可以做出比任何人類更有影響力的決策。人工智慧已經在決定我們是否獲得貸款、工作機會、大學錄取，甚至醫療診斷。
想像人工智慧銀行家確定信貸資格，人工智慧法官對法庭案件做出裁決，或是軍事人工智慧運算打擊目標。人工智慧不需要機器人叛亂。它所繼承的官僚權力已經是巨大的。
社群媒體中的人工智慧和公眾影響力
社群媒體演算法雖然很原始，但已經發揮了巨大的力量。人工智慧演算法，尤其是來自Facebook、X（以前稱為Twitter）、YouTube 和TikTok 的演算法，在設計時都牢記一個目標：用戶參與度。人們在這些平台上停留的時間越長，流向公司的資金就越多。
透過對數十億用戶的反覆試驗，這些演算法發現觸發貪婪、憤怒和恐懼等情緒可以提高參與度。當他們按下這些情緒按鈕時，就會讓使用者著迷。
這些演算法並沒有停留在最佳化上網時間。他們更進一步，發現激發強烈情緒的內容可以提高用戶參與度。這項發現導致了陰謀論、錯誤訊息和社會分裂的傳播。
由於優先考慮點擊量而非凝聚力的演算法，當今世界充斥著數位化的憤怒、散播恐懼和兩極化。透過利用情緒觸發因素，社群媒體演算法助長了當今陰謀論和假新聞的流行。
這些演算法「決策者」本質上並不是惡意的。相反，他們經過優化時可以有效地履行自己的職責。儘管如此，他們的決定仍然缺乏我們在如此重要的領域中通常期望的人類直覺或背景。
人工智慧可能會做出更快或更一致的判斷，但如果出現問題，結果可能是災難性的。這種潛在風險已經在社群媒體對社會的影響中顯現出來，為人工智慧不受控制的力量可能導致的後果發出了警告。
拜登為五角大廈和情報機構制定人工智慧規則
拜登總統宣布了一份國家安全備忘錄，其中規定了人工智慧在國家安全中的使用新規則，防止五角大廈和情報機構以違反民主價值觀的方式使用人工智慧。
這是第一個指導人工智慧在國家安全中發揮作用的指令。新規則將鼓勵人工智慧實驗，同時確保政府機構不會利用人工智慧侵犯言論自由等權利或破壞核子控制。
國家安全顧問傑克·沙利文（Jake Sullivan）表示：「我們的備忘錄為我們的人工智慧風險管理承諾制定了首個政府範圍內的框架。」他概述了避免偏見、堅持問責制並確保人類對敏感角色中的人工智慧進行監督的目標。
儘管不具法律約束力，但這些規則涵蓋了網路安全、反情報和軍事行動中的後勤等國家安全應用。拜登去年也頒布了出口管制措施，透過限制技術准入減緩了中國人工智慧的進步。
根據該指令，華盛頓的人工智慧安全研究所將負責檢查人工智慧工具，以防止發布前的濫用，美國情報界將優先監控其他國家的人工智慧進展。
資訊來源：由0x資訊編譯自CRYPTOPOLITAN。版權歸作者Jai Hamid所有，未經許可，不得轉載