原文來源：AIGC開放社區
圖片來源：由無界AI生成
ChatGPT、百度文心一言、Bard等大語言模型展現了超強的創造能力，加速了生成式AI的應用進程。但AI模型只能基於訓練資料執行各種任務，無法像人類一樣利用生活知識、過往經驗用於複雜的推理和決策。
例如，在玩遊戲時，人類可以利用各種線索、常識、經驗以及對遊戲規則的理解做出最佳決策。而AI只能透過大量訓練學習遊戲的模式,不具備人性化理解功能。一旦遊戲規則或環境發生變化，AI就很難做出正確的選擇。
為了解決這些難題，克萊姆森大學AI實驗室提出了自主認知技術框架(Autonomous Cognitive Entity，簡稱「ACE」)。透過道德、全局策略、代理模型、執行、認知控制和任務執行6大分層設計，使AI模型可以實現「自主決策」和道德推理的認知架構。
長期以來,讓AI模型具備「常識推理」的能力一直是科研界的重中之重。而ACE框架被視為解決這個難題的創新突破研究。
其實ACE概念與前不久中國科學院自動化研究所和耶魯大學提出的「思維傳播」技術框架類似，都是讓大模型學會利用過往經驗增強複雜推理能力來處理全新的問題，只不過推理分層更加具體化，並加入了道德規範的限制保證輸出內容的安全性。
論文網址：https://arxiv.org/abs/2310.06775
ACE技術框架得到了業界眾多技術大牛的認可。史丹佛大學電腦科學系教授John Etchemendy表示，ACE框架標誌著人工智慧研究的新範式,其分層抽象和資訊回饋的設計對實現人工常識推理大有幫助。
麻省理工AI實驗室主任Daniela Rus認為，ACE框架建構了一個整合倫理、認知和計算原理的完整結構，為人工常識推理提供了新的研究方向。
ACE框架的總目標是實現一個既高能又倫理的人工智慧系統。其核心創新在於融合了頂層的抽象倫理推理與底層的具體任務實現,建構一個閉環完整的認知體系。
ACE主要由道德、全局戰略、代理模型、執行、認知控制和任務執行6大層次組成，每一層中心化處理不同的功能,高層處理抽象推理,低層負責具體任務執行。
道德層
最高的道德層確定了整個系統的方向和原則, 其功能是定義一個自治代理的核心價值觀和倫理原則，包含3部分。
(1)基本倫理準則:這是直觀的道德準則,為系統提供基本遵循。
(2)次要原則:諸如人權義務等提供具體指導。
(3)使命宣言:定義代理的核心目標和意圖。
全局戰略層
在接收到來自道德層的抽象使命後,全局戰略層會結合具體情境,制定實現這些使命的長期計劃，包含2部分。
(1)情境融合:吸收環境資訊,瞭解代理人面臨的具體情境。
(2)策略文件:產出指導性文件,為下層提供行動指南。
代理模型層
致力於理解一個代理在給定環境下的能力參數、系統結構、限制條件等,建構一個「自我模型」為決策提供依據，包含4個部分。
(1)運作參數:透過監測所獲得的遙測資料。
(2)設定資訊:軟硬體架構、版本等。
(3)能力範圍:可以完成和不能完成的事項。
(4)限制:只能在特定條件下工作的約束。
執行功能層
執行功能層扮演「專案經理」的角色,將來自高層的策略使命轉化為明確的計劃路線圖。路線圖提供所有具體的執行步驟,同時考慮資源分配和風險管理,使策略落地，包含4部分。
(1)定義任務步驟:將策略任務分解為細粒度操作。
(2)設定檢查點:定義重要的中間結果以驗收進度。
(3)分配資源:優化資源使用以確保計畫順利執行。
(4)評估風險:預測可能的問題並提前規劃因應措施。
認知控制層
認知控制層扮演「任務管理」的角色,會根據當前環境和回饋動態選擇和調度合適的任務，包含4部分。
(1)任務選擇:根據優先順序、環境等選擇下一個任務。
(2)任務切換:在任務間流暢切換以優化訂單。
(3)挫折感知:如果任務重複失敗會產生主動變更。
(4)內部調節:思考不同選擇的利弊。
任務執行層
最後的任務執行層直接與環境互動,執行由認知控制層下達的特定任務。依任務類型,可呼叫API介面、控制機械裝置、進行對話等，包含3部分。
(1)數位通訊:使用程式語言和介面呼叫實現數位任務
(2)實體協同:控制機器人和感測器完成實體任務
(3)結果監測:比較結果與預期,發送成功或失敗回饋
這種分工明確的多層設計有諸多好處:第一,不同層級可以同時並行工作,提升了效率;第二,分層的封裝和資訊隱藏增強了系統的安全性和可解釋性;
第三,分層使系統可以模組化迭代升級,而不需要全重構;第四,高層可以監控低層的運行, 當Einmal出現偏差可以進行修正,保證系統的可控性。
此外,ACE框架的另一個創新在於巧妙利用了當前熱門的大語言模型,例如，ChatGPT、Bard等。
這些模型透過學習海量文本資料,已經展現了接近人類的語言理解和語言生成能力。 ACE框架將語言層面融入每個層級,使語言模型不再單獨運作,而是成為支撐整個認知架構的關鍵組件。
從道德層到任務層,語言模型幫助理解抽象概念,進行策略推理,建立自我模型,甚至最終控制機器人執任務的方式都是語言化的。
這種融合為語言模型提供了明確的上下文和指導,讓其生成的輸出更加準確,避免了“自說自話”的問題。
這也表明，大語言模型也可以在系統層級扮演重要角色,而不僅僅是完成單一語言任務。 ACE框架展示瞭如何更好地利用大語言模型的潛力,將其打造為推動認知發展的核心引擎,為人工常識推理提供動力。
資訊來源：由0x資訊編譯自8BTC。版權所有，未經許可，不得轉載