阿爾文·朗2024年7月21日04:57
LangChain 探索了具有LLM 的代理的規劃的局限性和未來，強調了認知架構和當前的修復。
根據最近的LangChain 部落格文章，代理規劃仍然是使用大型語言模型(LLM) 的開發人員面臨的關鍵挑戰。本文深入探討了規劃和推理的複雜性、當前的修復以及對代理規劃的未來期望。
計劃和推理到底是什麼意思？
代理人的規劃和推理涉及LLM 根據可用資訊決定一系列行動的能力。這包括短期和長期步驟。 LLM 評估所有可用數據並決定應立即採取的第一步，然後採取後續行動。
大多數開發人員使用函數呼叫來讓LLM 選擇操作。函數呼叫由OpenAI 於2023 年6 月首次推出，它允許開發人員為不同的函數提供JSON 模式，從而使LLM 能夠將其輸出與這些模式相匹配。雖然函數呼叫有助於立即採取行動，但長期規劃仍然是一項重大挑戰，因為LLM 需要在管理短期行動的同時考慮更長的時間範圍。
目前修復以改進代理的規劃
最簡單的解決方法之一是確保LLM 擁有所有必要的訊息，以便進行適當的推理和規劃。通常，傳遞給LLM 的提示缺乏足夠的資訊來進行合理的決策。新增檢索步驟或澄清提示說明可以顯著改善結果。
另一個建議是改變應用程式的認知架構。認知架構可分為通用架構和領域特定架構。通用架構（如“規劃和解決”和反射架構）提供了一種通用方法來更好地推理。然而，這些架構可能過於通用，不適合實際使用，因此人們更傾向於領域特定認知架構。
通用與特定領域認知架構
通用認知架構旨在普遍提高推理能力，可應用於任何任務。例如，「規劃和解決」架構涉及先規劃，然後執行每個步驟。反思架構包括任務完成後的反思步驟，以評估正確性。
另一方面，特定領域的認知架構是針對特定任務量身定制的。這些通常包括特定領域的分類、路由和驗證步驟。 AlphaCodium 論文透過流程工程方法證明了這一點，指定了諸如提出測試、然後提出解決方案以及迭代更多測試等步驟。這種方法高度特定於當前問題，可能不適用於其他任務。
為什麼特定領域的認知架構如此有用？
特定領域的認知架構透過提供明確的指令（透過提示指令或程式碼中的硬編碼轉換）來提供幫助。這種方法有效地從LLM 中移除了一些規劃責任，讓工程師來處理規劃方面的問題。例如，在AlphaCodium 範例中，步驟是預先定義的，可引導LLM 完成整個過程。
生產中的幾乎所有高階代理商都使用高度特定於領域和客製化的認知架構。 LangChain 使用LangGraph 簡化了這些客製化架構的構建，該架構專為高可控性而設計，這對於創建可靠的客製化認知架構至關重要。
規劃與推理的未來
LLM 領域發展迅速，預計這一趨勢將持續下去。通用推理可能會更融入模型層，使模型更加智能，能夠處理更大的上下文。然而，始終需要向代理傳達特定指令，無論是透過提示還是自訂認知架構。
LangChain 對LangGraph 的未來仍持樂觀態度，認為隨著LLM 的改進，對客製化架構的需求將持續存在，尤其是對於特定任務的代理。該公司致力於增強這些架構的可控性和可靠性。
圖片來源：Shutterstock
資訊來源：由0x資訊編譯自BLOCKCHAINNEWS。版權所有，未經許可，不得轉載