Pantera合夥人:Sentient何以可能實現Open AGI

作者:Paul Veradittakit,Pantera Capital合夥人;翻譯:金色財經xiaozou

1、當前焦點

過去幾年裡,人工智慧(AI)的發展出現了兩個新的全局性問題:

  • 資源管理:人工智慧開發不具成本可擴展性

  • 激勵對齊:人工智慧是為人類服務的,但它的發展和回報是由董事會決定的

首先,AI模型的計算量越來越多(FLOPS),訓練成本越來越高。由於成本高昂,OpenAI今年將虧損50億美元。人工智慧公司也肩負著許多額外包袱:銷售團隊、法律部門、人力資源、分銷、採購等等。何不聚焦於基礎設施設計,以一種可變現所有權的方式分發模型,使研究人員可以專注於建立模型,而無需為無關緊要的事情分心?

(上圖為跨機器學習三大時代的運算趨勢)

PIGQFpQ1Zvom2KzZLVxaAavYyJRL0bQL4pDi3KbI.jpeg

(上圖為訓練前沿AI模型隨時間推移的平攤硬體及能源成本)

其次,決策是自上而下的。要遵循的指標、要瞄準的市場、要收集的數據以及要包含的模式等所有的決定都是由內部圈層決定的。集中決策是處於股東的利益,而非最終使用者的利益。與其預測這樣或那樣的用例,為什麼不讓用戶為他們自己認為有價值的東西發聲?

AI公司已經發現了這些癥結,並試圖透過定義自己的利基市場來解決這些問題。 Mixtral透過開源來支援協作,Cohere專注於B2B集成,Akash網路將運算資源去中心化,Bittensor使用去中心化方式來獎勵模型效能,OpenAI則是中心化多模式的,並且率先使用API​​來服務使用者。但沒有人考慮過全局問題。

2、Sentient未來

解決這兩個問題需要從根本上重新思考公司的設計、製造和AI分發方式。我們相信,Sentient是唯一一家真正了解變革規模的公司,能夠從頭開始重塑人工智慧領域,以應對這些全局性挑戰。 Sentient團隊稱之為OML,分別是:Open(開源:任何人都可以製作和使用模型)、Monetizable(可貨幣化:模型所有者可以授權他人使用模型)和Loyal(忠誠:由集體/DAO控制)。

(1)技術設計

建立一個無需信任的區塊鏈,允許任何人建立、編輯或擴展AI模型,同時確保builder對其使用保持100%的控制權,這需要設計一個新的加密原語。這個原語利用AI系統的缺陷;AI模型可能因注入訓練毒資料而遭受backdoor攻擊,這些資料很可能會產生遵循可預測模式的輸出。例如,如果一個影像產生模型的訓練資料是數百張中心像素被塗黑但被標記為「鹿」的隨機影像,那麼當模型得到一張中心像素被塗黑的照片時,它很有可能會將其標記為“鹿”,而不管照片實際上是什麼。

z7cErXPfmZqrblIuTa02VKyKa5SzD4CqFSQUVI5k.jpeg

這些「指紋」對AI模型的效能影響很小,很難擦除。然而,這個缺陷非常適合開發專門檢測模型使用的加密原語。

fBsaW3ixeE8VRfkQavBUbG2Uynj5TFiscU80SwqT.png

在OML1.0中,Sentient協定接收一個AI模型,並注入使用者獨有的秘密(查詢、回應)指紋對,產生一個.oml格式的AI模型。然後,模型擁有者可以允許儲存該模型的使用者存取該模型,這個使用者可以是個人也可以是公司。

為了確保只有在獲得許可權限時才能使用模型,Watcher節點透過提供秘密查詢定期檢查所有用戶,如果模型沒有輸出正確的回應,那麼用戶將面臨諸如罰沒之類的後果。

(2)激勵對齊

這種創新允許授權和追蹤特定模型的使用,這在以前是不可能的。與按讚、下載、評星和引用等噪音指標不同,Sentient上部署的模型的指標非常直接,就是使用率。升級AI模型的決定是由模型的所有者做出的,他們自己也從用戶那裡獲得報酬。

uaus8OmlARhRgoCUqMGjwZiYMFGJVM8QeATVWsmV.jpeg

未來的AI應用程式是不確定的,但很明顯,人工智慧將越來越多地主導我們的生活。創造人工智慧驅動的經濟意味著確保人人都有公平的參與機會並獲得回報。下一代模型應該由人們以公平、負責的方式資助、使用和擁有,並與用戶利益保持一致,而不是為執行委員會馬首是瞻。

3、團隊核心成員

很多技術都需要創新,Sentient團隊有許多來自Google、Deepmind、Polygon、普林斯頓大學、華盛頓大學等機構的人才,團隊成員齊心協力希望完美實現這個願景。團隊的核心人員簡介如下:

  • Pramod Viswanath:普林斯頓大學Forrest G. Hamrick 工程學教授,4G的共同發明者,負責研究指導工作。

  • Himanshu Tyagi:印度科學研究所工程學教授。

  • Sandeep Nailwal:Polygon創辦人,負責策略研究。

  • Kenzi Wang:Symbolic Capital共同創辦人,負責業務成長。

區塊鏈是一個解決社會問題的技術方案。 Sentient將人工智慧與區塊鏈融合,旨在從根本上解決資源管理和激勵對齊方面的挑戰,以實現開源的AGI(通用人工智慧)之夢。

Total
0
Shares
Related Posts