2023 年11 月4 日,馬斯克(Elon Musk) 的人工智慧企業xAI 推出了Grok,這是一種新穎的人工智慧聊天機器人,有望徹底改變人類與數位知識的交互方式。 Grok 仿照《銀河系漫遊指南》的異想天開的精神,旨在不僅回答無數問題,還向用戶提出富有洞察力的查詢。 Grok 的一個顯著特點是其來自𝕏 平台的即時世界知識,使其能夠解決其他人工智慧系統經常迴避的問題,並且充滿幽默感。
邁向全面人工智慧援助的飛躍
xAI 將Grok 視為人類追求知識和理解的關鍵參與者。透過Grok 的開發,xAI 旨在收集有價值的回饋,以確保創建的人工智慧工具能夠滿足廣泛的背景和政治觀點,同時保持在法律框架內。 Grok 被認為是一位強大的研究助理,有助於快速獲取相關資訊、資料處理和構思。總體目標是利用人工智慧來幫助追求理解,使Grok 成為這項努力的公開展示。
Grok-1 引擎:創新的核心
Grok 由Grok-1 引擎提供支持,這是一個經過四個月的微調的語言學習模型(LLM)。 xAI發布後,團隊培養了一個擁有330億個參數的LLM原型(Grok-0)。然而,真正的突破來自Grok-1,它在推理和編碼能力方面表現出顯著增強,特別是在HumanEval 編碼任務上取得了63.2% 的分數,在MMLU 上取得了73% 的分數。採用各種機器學習基準來衡量Grok-1 的數學和推理能力,結果顯示其在計算類別中優於ChatGPT-3.5 和Inflection-1 等其他模型,僅落後於GPT 等具有更多訓練數據和計算資源的模型-4。
xAI的技術敏銳度在Grok的編排中得到了淋漓盡致的體現。 LLM的訓練就像一列貨運列車,任何脫軌都可能造成重大挫折。這需要一個強大的基礎設施,該基礎設施是使用Kubernetes、Rust 和JAX 精心構建的。 xAI 優先考慮最大化每瓦特的有用計算,即使在硬體不可靠的情況下也能實現高模型超越利用率(MFU)。
Rust:可靠性的支柱
選擇Rust 來建立可擴展且可靠的基礎設施突顯了xAI 對確保Grok 的長期可靠性和維護的奉獻精神。鑑於團隊規模較小,基礎設施可靠性對於防止維護扼殺創新至關重要。 Rust 因其效能、強大的生態系統以及減少分散式系統中常見錯誤的能力而受到讚譽,從而確保了Grok 的順利運作。
研究方向:邁向可靠推理
xAI 正在積極探索多種研究途徑,以克服法學碩士現有的限制。其中包括工具輔助下的可擴展監督、用於提高安全性和可靠性的形式驗證集成、長上下文理解和檢索、對抗性魯棒性以及為Grok 提供更廣泛的用戶交互的多模式功能。
搶先體驗:邁向持續改善的一步
xAI 為美國用戶提供對Grok 的有限早期訪問,旨在收集寶貴的反饋,以在更廣泛的推廣之前完善Grok 的功能。這項措施標誌著xAI 為未來幾個月制定的充滿希望的路線圖的開始。
總而言之,Grok 在 Elon Musk 的xAI 的帶領下,成為一個有前途的人工智慧聊天機器人,具有即時知識,旨在為廣泛的用戶提供服務。其獨特的引擎Grok-1 在推理和編碼方面顯示出顯著的改進,展示了xAI 在人工智慧領域的快速進展。
圖片來源:Shutterstock
資訊來源:由0x資訊編譯自BLOCKCHAINNEWS。版權所有,未經許可,不得轉載