多年來，以太坊聯合創始人Vitalik Buterin一直受到許多人關於加密貨幣和人工智慧交叉的問題。作者認為區塊鏈擴展和零知識證明等技術的興起，使得區塊鏈生態系統內部的人工智慧具有有前景的應用。人工智慧可以作為遊戲中的玩家、遊戲介面和遊戲規則進行互動。這種交叉可以使加密貨幣和人工智慧結合在一起，但作者同時也提到了許多具體應用的挑戰和風險。值得重點關注的是，尤其是在高價值和高風險環境中部署這些應用程式時。
作者：以太坊聯合創辦人Vitalik Buterin
編譯：比推BitpushNews Mary Liu
多年來，許多人問過我類似的問題：加密貨幣和人工智慧之間最豐富的交叉點是什麼？
這是一個合理的問題：加密貨幣和人工智慧是過去十年的兩個主流深度（軟體）技術趨勢，感覺兩者之間一定存在某種關聯。從表面上看，很容易產生良好的效應：加密貨幣去中心化可以平衡人工智慧中心化，人工智慧是不透明的，加密貨幣帶來透明度，人工智慧需要數據，而區塊鏈有利於儲存和跟踪數據。
但多年來，當人們要求我更深入地挖礦並討論具體應用時，我的回答可能會讓你失望：「是的，有一些交叉，但沒有那麼多」。
在過去的三年裡，隨著現代LLM形式的更強大的人工智慧的興起，以及更強大的加密的興起，不僅以區塊鏈擴展解決方案的形式出現，而且以零知識證明（ZKP） 、 FHE（2方和N方的形式出現。）MPC，我開始看到這種變化。區塊鏈生態系統內部的人工智慧確實有一些有前景的應用，或是人工智慧與密碼學的結合，但重要的是要小心人工智慧的應用方式。
一個特殊的挑戰是：在密碼學中，開源面對某些東西真正安全的唯一方法，但在人工智慧中，模型（甚至是其訓練資料）的大規模開放性增加了其對抗性機器學習（對抗性）機器學習）攻擊的脆弱性。
本文設想加密貨幣+人工智慧可以交叉的不同方式進行分類，以及每個類別的前景和挑戰。
四大類
人工智慧是一個非常廣泛的概念：你可以將「人工智慧」視為一組演算法，你創建的演算法不是透過明確指定它們，而是透過「攪動」一個巨大的計算「湯」並進行某種優化壓力使這碗“湯”形成具有您想要的屬性的演算法。
絕對不要小看這個形容詞：它首先包括創造人類的過程但確實意味著人工智慧演算法具有一些共同的屬性：完成它們極其強大的事情的能力，以及我們理解或理解幕後發生的事情的能力的限制。
人工智慧的分類方法有很多；為了本文的目的，討論人工智慧和區塊鏈（被描述為創建「遊戲」的平台）之間的交互，我將其分類如下：
人工智慧作為遊戲中的玩家[最高生存能力]：人工智慧參與的機制中，激勵的最終來自人類輸入的協議； 人工智慧作為遊戲介面[潜力巨大，但也存在风险]：人工智慧幫助用戶了解周圍的加密貨幣世界，並確保他們的行為（即簽名訊息和交易）符合他們的意圖，並且不會被欺騙或被欺騙； 人工智慧作為遊戲規則[非常小心]：區塊鏈、DAO和直接調用人工智慧的類似機制。例如「人工智慧評審」； 人工智慧作為遊戲的目標[长期但有趣]：設計區塊鏈、DAO和類似機制，目標是建構和可用於其他目的的人工智慧，使用加密貨幣來更好地維護激勵培訓或防止人工智慧洩露隱私資料或被竊取。
讓我們一一分析。
AI作為遊戲中的玩家
這實際上是一個已經存在了近十年的類別，自從至少鏈上中心化交易所（DEX）開始廣泛使用以來。任何時候只要有交易所，就有機會透過套利賺錢，而機器人比人類更能進行套利。這個例子已經存在很長時間了，即使人工智慧比我們今天的簡單剝離，但我們最終它是一個非常真實的人工智慧+加密的交叉點。最近，看到MEV 套利機器人經常被使用。任何時候你有一個涉及拍賣或交易的區塊鏈應用程序，你就會有套利機器人。
但人工智慧套利機器人只是一個更大類別的第一個例子，我預計這個類別很快就會開始包括許多其他應用程式。來認識AIOmen，這是一個以人工智慧為參與者的預測市場演示：
預測市場長期以來一直是認知技術的聖杯。早在2014年，我就對使用預測市場作為治理（「futarchy」）感到興奮，並在上次選舉以及最近的選舉中廣泛使用了它們。目前的狀況，市場預測在實踐中並沒有取得重大進展，並且有一系列常見的原因：最大的參與者往往是非理性的，擁有正確知識的人花時間下注，除非有很多人或金錢、市場深度往往不夠等等。
這項回應是指出Polymarket或其他新的預測市場帶來的使用者體驗改進，並希望他們能夠在先前的迭代失敗的地方取得成功。畢竟，故事是這樣的，願意在體育上押注人們數百億美元，那為什麼在美國大選或LK99上不投入足夠的錢押注，讓認真的玩家開始參與其中呢？
但這論點必須面對這樣一個事實：先前的迭代失敗需要一些達到這種規模的水平（至少與支持者想像中的相比），因此似乎新的東西才能使預測市場取得成功。因此，另一個回應是指出預測市場生態系統的一個具體特徵，我們預計將在2020 年代看到這一點，而在2010 年代卻沒有看到：人工智慧普遍參與的可能性。
人工智慧願意以不到1 美元的價格工作，並且擁有百科全書的知識– 如果這還不夠，甚至集成它們可以與實時網絡搜索功能。如果你建立了一個市場，並提供50 美元的流動性，人類不會介意出價，但數以千計的人工智慧很容易地蜂擁而至，並使得他們能夠做出最佳猜測。在任何一個問題上正確工作的動機可能會很小，但製造出能夠做出良好預測的人工智慧的動機可能是數以百萬計的。請注意，您甚至不需要人類來裁決大多數問題：您可以使用類似Augur 或Kleros 的多輪爭議系統，其中人工智慧也將參與早期輪次。人類只需要在發生一系列升級並且雙方都投入大量資金的少數情況下才會做出反應。
這是一個強有力的原語，因為一旦可以使“預測市場”在如此有限的規模上發揮作用，您就可以將“作用預測市場”原語重複用於許多其他類型的問題：
根據[使用条款]，此社交媒體貼文是否違規？股票X 的價格會發生什麼變化（例如，請參閱Numerai） 目前給我發訊息的這個帳戶真的是馬斯克嗎？在線上任務市場提交這項工作可以接受嗎？ examplefinance.network上的dapp是詐騙嗎？ 0x1b54….98c3是Casinu Inu ERC20代幣的地址嗎？
你可能會注意到，其中許多想法都朝著我所說的「資訊防禦」的方向發展。從廣義上講，問題是：我們如何幫助使用者區分真假資訊並檢測詐騙，授權而不是中央機構來決定從局部層面來看，答案可以是「AI」。但從宏觀層面來看，不可解決的問題是：誰建構了人工智慧？人工智慧是其創造過程的反應，因此不可避免地存在偏見。因此，需要更高層次的遊戲來裁決不同人工智慧的表現，其中人工智慧可以作為玩家參與遊戲。
人工智慧的這種利用，其中人工智慧涉及一種機制，在該機制中，它們最終透過收集人類輸入的鏈上機制（機率機制上）獲得獎勵或懲罰（或許可以稱為去中心化的基於市場）的RLHF？ ），我認為這確實是一種機制，值得研究。現在是更多研究這樣的例子的正確時機，因為區塊鏈擴展終於成功了，使得「微型」任何東西最終在鏈上變了獲得可行性，而這在以前是不可能的。
相關的一類應用程式正朝著高度自治的代理方向發展，利用區塊鏈來更好地合作，無論是透過支付還是透過使用智慧合約做出可信的承諾。
AI作為遊戲的介面
我曾經提出的一個想法是，存在編寫面向用戶的軟體的市場機會，該軟體可以透過解釋和識別用戶正在瀏覽的線上世界中的危險來保護用戶的利益。 Metamask的詐騙檢測功能就是一個已經存在的例子：
另一個例子是Rabby錢包的模擬功能，它向用戶展示他們即將簽署的交易的預期結果。
Rabby向我解釋了簽署交易以將我的所有“比特幣」（一些隨機騙局ERC20，而不是實際的BTC）換成ETH的後果。
這些工具有可能被人工智慧進一步改進。
人工智慧可以對正在參與各類dapp、正在簽署的更複雜操作的後果、特定代幣是否真實（例如，不僅僅是BITCOIN 一串字元、它是一種實際加密的名稱，它不是ERC20 代幣，而且其價格在0.045美元，現代LLM知道這一點）等等。有些專案開始朝這個方向走下去（例如LangChain錢包，它使用人工智慧作為主要介面）。我自己的觀點是，目前純粹是人工智慧介面可能存在風險類型，因為它增加了其他錯誤的風險，但人工智慧補充了更傳統的介面非常有呼吸。
有一個特別的風險值得一提。我將在下面的「人工智慧作為遊戲規則」部分對此進行更多討論，但一般問題是對抗性機器學習：如果用戶可以訪問開源錢包內的人工智慧助手，壞人也會有也可以訪問該人工智慧助手，因此他們將有無限的機會優化他們的騙局，觸發該錢包的防禦。所有人工智慧現代都在某個地方存在錯誤，而對於現在的訓練過程來說，即使是對模型的存取權限受限的訓練過程，要找到它們並不困難。
這就是「人工智慧參與鏈上微型市場」效果更好的地方：每個單獨的人工智慧都容易遭受相同的風險，但你意識到一個由事實人不斷迭代和改進的開放生態系統。而且，每個單獨的AI都是封閉的：系統的安全性來自於遊戲規則的開放性，而不是每個玩家的內部運作。
摘要：人工智慧可以幫助使用者用簡單的語言理解正在發生的事情，它可以充當即時導師，它可以保護使用者的坦克錯誤的影響，但在嘗試直接使用它來對抗惡意欺騙者和詐騙者時要注意。
人工智慧作為遊戲規則
現在，我們來到了很多人都興奮的應用程序，但我認為它是風險最大的，也是我們需要最嚴格應對的地方：我所說的人工智慧是遊戲規則的一部分。這與主流政治菁英對「人工智慧法官」的興奮有關，而在區塊鏈應用中也有類似的願望。如果基於區塊鏈的智慧契約或DAO 需要做出額外的（僱傭工作合約中可以接受特定決定的工作產品嗎？ Optimism法則這樣的自然語言法則在語法中的正確解釋是什麼？），你讓人工智能成為契約或DAO 的一部分來幫助執行這些規則嗎？
這就是對抗性機器學習將成為一項極為艱鉅的挑戰。 「為什麼」的基本兩個字如下：
如果一個在機制中起關鍵作用的AI模型是封閉的，你就無法驗證它的內部可運行，所以它並不比中心化應用更好。如果人工智慧模型是開放的，那麼攻擊者可以在本地下載並模擬它，並設計經過高度優化的攻擊來欺騙模型，然後他們可以即時網路上重播該模型。
對抗性機器學習範例。資料來源：researchgate.net
現在，這個部落格的常客（或加密貨幣原住民）可能已經是我的榜樣，並思考：等等但是我們有奇特的零知識證明和其他非常酷的密碼學形式。當然，我們可以做一些加密貨幣，隱藏模型的內部正確工作原理，以便攻擊者無法優化攻擊，但同時證明模型正在執行，並且處於合理的基礎資料集
通常，這是我在本部落格和其他著作中所進行的思維類型。但就人工智慧相關計算而言，主要有兩個反對意見：
成本吸收：在SNARK（或MPC 或…）內執行某項操作的效率比「以明文形式」執行的效率要低。而人工智慧的運算量已經非常大，那麼在加密貨幣黑盒子內進行人工智慧在計算上是否支援？黑盒對抗性機器學習攻擊：即使不了解模型的內部運作原理，也有方法可以優化針對人工智慧模型的攻擊。如果得太多，那麼選擇訓練資料的人就很容易透過中毒攻擊來破壞模型。
這些都是複雜的兔子洞，所以讓我們依次深入了解它們。
成本吸氣
加密貨幣工具，尤其是ZK-SNARK和MPC等通用工具，具有很高的開銷。客戶端直接驗證以太坊區塊需要數千幾千，但產生ZK-SNARK來證明此類區塊的正確性可能需要數小時。加密貨幣工具（例如MPC）的典型成本訓練可能更糟。人工智慧運算已經很昂貴：最強大的法學碩士完成單字的速度僅比人類閱讀它們的速度快一點點，更不用說其他模型的計算成本通常高達數百萬美元。嚴格模型與嘗試節省更多訓練成本或參數數量的模型之間的品質差異很大。乍一看，這是一個很好的理由來懷疑整個項目，即嘗試透過將人工智慧盤點在密碼學中來提供保證。
幸運的是，人工智慧是一種非常特殊的計算類型，這使得它能夠進行各種優化，而ZK-EVM 等更多「非格式化」計算類型無法獲得權益。讓我們來看看人工智慧吧模型的基本結構：
通常，AI模型主要由一系列矩陣乘法組成，其中散佈著每個元素的局部侵犯，例如ReLU函數(y = max(x, 0))。逐步推進，矩陣乘法涉及了大部分工作：兩個N*N 矩陣相乘需要O(N 的2.8次方）時間，而非線性運算的數量則少折算。這對於密碼學來說確實很方便，因為許多形式的密碼學幾乎可以「免費」進行線性侵犯（矩陣乘法是，至少如果您的加密貨幣模型而不是加密貨幣模型的輸入）。
如果您是密碼學家，您可能已經聽說過同態加密貨幣中的類似現象：對加密貨幣加密貨幣文執行加法非常容易，但乘法是極其困難的，直到2009 年我們才找到任何無限深度的乘法方法。
對於ZK-SNARK，相當於協議是2013年的協議，該協議在證明矩陣乘法方面的成本不到4倍。不幸的是，非線性層的成本仍然很大，實踐中最好的實現顯示成本約為200 倍。但希望透過進一步的研究可以很大程度上減輕這種情況；請參閱Ryan Cao 的演示，了解最近基於GKR 的方法，以及我自己對GKR 組件主要如何工作的簡化解釋。
但對於許多應用程式來說，我們一方面想證明人工智慧輸出的計算正確，另一方面我們還想隱藏模型。這裡有一些簡單的方法：您可以拆分模型，進行一組不同的伺服器波形地儲存每個層，並希望清除某些層的某些伺服器不會清除太多資料。但也存在令人驚訝的有效形式的專門多方計算。
其中一種方法的簡化圖，保留模型儀器，但將輸入公開。如果我們想將模型和輸入保留會儀器，也是可安裝的，但會變得有點複雜
在這兩種情況下，故事的寓意是相同的：AI計算的最大高效部分是矩陣乘法，因此可以製作非常的ZK-SNARK或MPC（甚至FHE）因此，將人工智慧放入加密貨幣盒子中的成本低得驚人。一般來說，非線性層是最大的障礙，儘管它們的尺寸較小；也許像這樣尋找參數的新東西會有所幫助。
對抗性機器學習的黑箱
現在，讓我們討論另一個大問題：即使模型的內容保密並且您只有對模型的“API訪問權限”，您也可以進行哪些類型的攻擊。引用2016年的一篇論文：
許多機器學習模型容易受到對抗性樣本的影響：專門設計的輸入會導致機器學習模型產生不正確的輸出。影響一個模型的對抗性樣本的輸出通常會影響另一個模型，即使這兩個模型具有不同的架構或在不同的訓練集上進行訓練，只要兩個模型都被訓練來執行相同的任務即可。因此，攻擊者可以訓練自己的替代模型，針對替代模型製作對抗性樣本，將其轉移到受害那些模型，而有關受害者的信息很少。
使用黑盒存取「目標分類器」來訓練和完善您自己本地儲存的「推斷分類器」。然後，在本地產生針對推斷分類器的最佳化攻擊。事實證明，這些攻擊通常針對基因原始目標分類設備作業。
即使您對要攻擊的模型的訪問權限非常有限或無法訪問，您甚至只能知道資料訓練來創建攻擊。直到2023 年，此類攻擊仍然是一個大問題。
為了有效實施此類黑盒攻擊，我們需要做兩件事：
真正限制誰或什麼可以查詢模型以及查詢的數量。具有不受限制的API存取權限的黑盒子並不安全；API存取可能受到嚴格限制的黑盒子。隱藏訓練數據，同時確保創建訓練數據的過程未損壞。
在之前所做最多的項目可能是世界幣，我曾詳細分析了它的早期版本（其他協議）。世界幣在協議級別廣泛使用人工智慧模型，以（i）將虹膜掃描轉換為易於比較相似性簡短的“虹膜代碼”，以及（ii）驗證其掃描的物體實際上是人類。世界幣所依賴的主要防禦措施是它不允許任何人簡單地調用人工智慧模型：事實上，它使用可信任硬體來確保該模型只接受由球體相機數位簽署的輸入。
這種方法並不能保證有效：事實證明，您可以對生物識別人工智慧進行對抗性攻擊，這些攻擊以物理貼片或珠寶的形式出現在您的側面：
在額頭上多戴一個東西，逃避檢測，甚至冒充別人。
但希望的是，如果你將所有防禦措施結合在一起，人工智慧模型本身，極大地限制查詢數量，並要求每個查詢以某種方式進行身份驗證，你就可以進行足夠困難的對抗攻擊，從而保證系統的安全。
這讓我們進入第二部分：我們如何隱藏訓練資料？這就是「民主管理AI 的DAO」實際上可能有意義的地方：我們可以創建一個鏈上DAO，來管理允許誰提交訓練資料以及資料本身需要什麼證明）、允許誰的流程。進行查詢以及查詢數量，並使用MPC等加密貨幣技術對創建和運行AI的整個流程進行加密，從每個用戶的訓練輸入一直到每個查詢的最終輸出。 DAO 可以同時滿足補償提交資料的非常流行的目標。
需要重申的是，這個計劃是非常雄心勃勃的，並且有很多方面可以證明它不切實際的：
對於這種黑盒架構來說，加密貨幣成本仍然可能太高，無法與傳統的封閉式方法完全競爭。事實可能是，沒有一種好的方法可以使訓練資料提交過程去中心化並預防中毒攻擊。由於參與者串通，多方計算設備可能會破壞其安全或隱私保證：畢竟，這種情況在跨鏈加密貨幣橋上已經一次又一次地發生。
我沒有在本節開頭加上更大的警告紅色標籤，上面寫著「不要做人工智慧法官，那是反烏托邦之一」的原因是，我們的社會已經高度依賴不稅收的中心化人工智慧法官：決定各種類型的演算法貼文和政治觀點在社群媒體上得到提升和降低，甚至受到審查。我確實認為在現階段進一步擴大這一趨勢是一個非常糟糕的想法，但我認為區塊鏈社群對人工智慧進行更多試驗的可能性不大，這會導致情況變得更糟。
事實上，加密貨幣風險技術有一些非常基本的低方法，可以使這些現有的中心化系統變得更好，我對此非常有信心。一種簡單的技術是延遲發布的驗證人工智慧：當社群媒體網站根據製作人工智慧的貼文排名後，可以發布一個ZK-SNARK，證明產生該排名的模型的雜湊。該網站可能會承諾在披露其人工智慧模型之後。延遲一年。一旦模型被公開，使用者可以檢查雜湊值以驗證是否發布了正確的模型，並且社群可以對模型進行測試以驗證其公平性。發布延遲將確保模型發佈時，它已經過時了。
因此，與中心化世界相比，問題不在於我們能否做得更好，而在於做得更好。然而，對於去中心化的世界，重要的是要小心：如果有人建立了一個用途人工智慧預測機的預測市場或穩定幣，結果證明預測機是可攻擊的，那是可能會瞬間消失的巨額資金。
AI作為遊戲的目標
如果對於創建上述可擴展的去中心化私人人工智慧（其內容是任何人都不知道的黑盒子）的技術實際上可以發揮作用，那麼這也可以對於創建具有超越區塊鏈的實用性人工智慧。 NEAR 協議團隊正在將其作為他們開展工作的核心目標。
這樣做有兩個原因：
如果你可以透過使用區塊鏈和MPC 的某種組合來運行訓練和推理過程來創建“值得信賴的黑匣子人工智慧”，那麼許多用戶擔心系統存在偏見或欺騙他們的應用程式全額受益。人們表達了對我們所依賴的具有系統重要性的人工智慧進行民主治理的願望；加密貨幣和基於區塊鏈的技術可能是實現這一目標的途徑。從人工智慧安全的限制角度來看，這將是一種創建去中心化人工智慧的技術，該人工智慧也具有自然的終止開關，並且可以嘗試利用人工智慧進行惡意行為的查詢。
另外值得注意的是，「使用加密貨幣激勵來激勵創造更好的人工智慧」可以在不使用密碼學完全加密的兔子洞的情況下完成：像BitTensor這樣的方法就屬於這一類。
結論
現在區塊鏈和人工智慧都越來越強大，這兩個領域的交叉領域的例子越來越多。然而，其中一些例子比其他例子更有意義而且更強大。一般來說，簡單的機制繼續像以前一樣的設計，但個別玩家成為人工智慧，使該機制能夠在更局部的範圍內有效運作，是最有前景、最容易實現的。
最迫切的是嘗試使用區塊鏈和加密貨幣技術來創建「單例」的應用程式：應用程式出於某種目的而依賴某些單一去中心化可信任人工智慧。這些應用程式在功能上和提高人工智慧安全性方面都有希望，避免與解決該問題的更主流方法相關的中心化風險。但潛在的假設也可能在許多方面發揮作用。因此，值得重點作用，尤其是在高價值和高風險環境中部署這些應用程式時。
我在所有這些領域看到了更多關於人工智慧建設性的嘗試，這樣我們就可以看到哪些在期待規模上真正的落地。
資訊來源：0x資訊編譯自網際網路。版權歸作者Vitalik Buterin所有，未經許可，不得轉載