最近市場討論的焦點主要在AI分散式雲端運算能力聚合中國，但Messari的報告卻將焦點中心化在AI去中心化推理方向。報告提到了Marlin Protocol推出的teeML去中心化推理架構，利用可信任執行環境（TEE）提供計算證明。分散式推理架構的重要性在於使用者可以獲得可驗證的運算保證，不必依賴中心服務提供者。除了TEE之外，也提到了基於zkML零知識證明協定和Optimism ML樂觀機器學習的分散式推理架構方式。分散式AI聚合力應用場景的發展需要更強調完全去中心化的推理計算證明。
最近，市場討論的焦點主要在AI 分散式雲端運算能力聚合中國，但Messari 的報告卻把焦點中心化在AI 去中心化推理方向上。而且該報告提到了@MarlinProtocol 所推出的teeML 去中心化推理架構，一種利用可信任執行環境（TEE）來提供計算證明的方式。
為什麼要做分散式推理架構？ 邏輯上要信任ChatGPT等大模型Prompt推理都依賴一個可信的中心化的模型伺服器實體，例如：OpenAI，使用者無法確保資料在推理過程中是否被惡意篡改或窺探。
而若採用分散式推理，用戶每次調用大模型輸入和輸出，都能有可驗證的計算保證，用戶無需信任中心的服務提供，而僅可依賴密碼學或其他數據或安全模型來建立信任連接。
Marlin我之前有寫文章分析過，主要定位做去中心化的節點增強服務，去中心化AI服務是其發力的一個核心場景。 Marlin透過TEE可信任執行環境協處理器，在節點硬體儲存系統中建置了安全隔離的Enclave飛地環境，並可實現AI資料模型訓練和推理等服務。
在去中心化推理中，模型提出可以選擇在TEE環境下運行模型，並產生證明，由於證明了本身也在TEE環境下，因此可確保模型在運行過程中不被揭示或壓縮。
當然，在Messari的代表中，也提到了除了TEE之外的另外兩種分散式推理架構方式：
1）基於zkML零知識證明協議，ZK可以證明某個資料集產生的，ZK可以成為支撐模型運行的伺服器和模型輸出結果的可信橋樑。 @ProjectZKM提供的zkVM可信任驗證最近也和Marlin達成了策略合作，會參與底層技術支援幫助Marlin基於zkVM進一步強化分散式能力；
2）基於Optimism ML樂觀機器學習，和OP-Rollup邏輯類似，多方實體可共同參與指定的推理驗證，若對結果存在分析，可以開啟挑戰模式，理論上，只有有一個誠實的驗證者實體，opML就稱得上安全可信。相較於zkML，opML運算成本更低，但也會有挑戰時間視窗。代表專案有Ora 和@HyperspaceAI。
一方面，我認為分散式AI聚合力應用場景被大量的小型AI訓練、推理、以及使用者需求所淹沒，一個完全分散式的推理計算證明就成為了必須。
資訊來源：0x資訊編譯自網際網路。版權歸作者Haotian所有，未經許可，不得轉載