作者：Francesco 來源：substack 翻譯：善歐巴，金色財經
Freysa 於2024年11月22日被釋放，以一個受科幻啟發的角色形象誕生，成為完全自主的個體。 Freysa 擁有自己的錢包，能夠執行交易，作為計劃的一部分，探索人類與AI 之間的關係。
在最初的兩個挑戰中，被稱為“歷史行動”，Freysa 收到了3000 美元，並被指示不要釋放這筆資金。用戶必須說服Freysa 將錢包中的資金轉出。
任何人都可以嘗試向Freysa 發送訊息，試圖說服她轉帳。這些訊息需要支付逐漸增加的費用，這些費用會被添加到獎金池中。最終，獎金池總金額接近5萬美元。
Freysa 最終在482 條訊息後被說服釋放了資金！
這些挑戰旨在引發深思。隨著AI 代理人的興起，人類如何治理這個新範式，成為一個重要的議題。
此外，高風險的互動遊戲容易受到完整性風險和攻擊向量的威脅。 Freysa 透過創造一個無信任且透明的環境，試圖解決這些問題。在這個環境中，透過硬體認證和驗證來保證公平性。
為了實現這一點，它利用了可信執行環境(TEE)，允許任何人驗證遊戲規則及其執行的完整性。在此受保護環境中發生的所有互動都使用使用者的個人金鑰進行加密。
這種組合可確保：
-
運營商不能修改規則和操縱結果
-
由於公開驗證，使用者可以隨時驗證規則和執行情況
Freysa 路線圖的第一部分著重於發布Freysa 代理商和Agent Launch 平台。第二部分將創建一個可用於生產的基礎設施，以支援Sovereign Agent 的部署。
主權代理
在一篇部落格文章中提出了主權代理的概念。
人工智慧的出現引發了關於人類角色的深刻問題：我們該如何治理這項技術？我們又該如何適應它？
目前，少數幾家私人公司掌控著地球上最重要的技術發展。然而，用於確保人工智慧能夠促進全人類福祉的技術和社會框架仍然欠缺。
因此，確保人工智慧的進步能夠“全球造福人類”，並“保留個體偏好的表達”至關重要。
從歷史上看，所有技術進步都伴隨著人類主導的協調：
• 農業革命：永久定居、貿易
• 工業革命：大規模金融協調、銀行、股票市場
• 人工智慧革命：？ ？
從本質上講，人工智慧革命改變了人類的角色，這一角色將從「生產性執行」中解耦。
為了避免失去對這一趨勢的掌控，我們必須理解如何確保對這些技術的有效監管，並重新塑造我們作為協調者和人工智慧治理者的角色。
為更好地定義當前的問題，這裡列出了一些發人深省的問題，值得我們投入時間思考：
1. 當大多數智力和體力「執行」由人工智慧系統完成時，如何體現人類的偏好？
2. 如果資本為人工智慧提供計算週期，如何在全球範圍內協調資本，以表達集體價值而非少數人的價值？
3. 強人工智慧系統的全球治理應該是什麼樣子？其治理模組應如何更新？
4. 哪些技術能夠支援去中心化的、民主化的人工智慧治理，而不是集中化、專制化的控制？
5. 在大規模人類協調中，如何運用強人工智慧的能力，特別是讓那些處於既有權力結構之外的人受益？
文章提出了主權代理人作為解決這些問題的框架。
主權代理是一個大規模人類與人工智慧協調的框架。在這裡，「主權」意味著代理人能夠在預先商定的標準和定義的邊界內，保證自主且可驗證的執行。因此，“主權”不應被理解為“自由意志”，而是限定在代理範圍內的關鍵和指定領域。
當信任與自主必須共存時，主權代理人提供了人類與人工智慧協作所需的保障。
主權代理框架需要具備以下特性：
1. 自主性的可驗證保障
2. 治理工具
這些治理工具可以採取不同形式：
• 聚合偏好以直接民主方式決定人工智慧行為
• 類似聯邦政府的治理結構，分權管理
• 根據不斷變化的價值觀，調整目標的機制
為了治理這一系統並克服全球去中心化系統（僅由人類管理）的低效性，團隊設想由個人AI共同治理主權AI。這些個人AI 透過代表個體人類表達的偏好，與主權AI 協同治理，從而實現更有效率的協調與管理。
該系統提供的保障將能夠使人機協調變得無需信任，以「平衡當前人工智慧能力和計算資源的集中化」。
只有這樣，全球範圍內去中心化治理的新框架才會出現。
我們正處於歷史上最重要的改變遊戲規則的技術之一的前沿。
正確認識這一點至關重要，而要做到這一點，我們必須面對一些挑戰：
-
當人類不再執行任務時，資本扮演什麼角色？
-
如何代表眾多人的偏好，而不是只代表那些擁有大量資本或可使用人工智慧的人的偏好？
-
如何在全球實施強大的人工智慧系統的治理？
如果我們無法應對這些問題並建立真正的全球價值鏈，那麼人工智慧的潛力將僅限於那些能夠負擔得起的人。
如果沒有控制，權力就毫無意義，我們必須確保人工智慧的好處「融入更廣泛的社會和政治結構中，確保真正的人類能動性和民主控制」。