一項新的調查深入研究了AGI 幻覺現象，對其類型、原因和當前的緩解方法進行了分類，同時討論了未來的研究方向。
蘇州大學王峰最近進行了一項題為「AGI 幻覺調查」的綜合調查，揭示了通用人工智慧(AGI) 模型中幻覺的挑戰和當前研究。隨著通用人工智慧的不斷進步，解決幻覺問題已成為該領域研究人員的重點關注點。
調查將AGI幻覺分為三種主要類型：模型內在知識的衝突、資訊遺忘和更新的事實衝突以及多模態融合的衝突。這些幻覺以不同的方式以不同的方式表現出來，例如語言、視覺、視訊、音訊和3D 或基於代理的系統。
作者探討了AGI 幻覺的出現，將其歸因於訓練資料分佈、資訊的及時性和不同模式的模糊性等因素。他們強調高品質數據和適當的培訓技術在減輕幻覺方面的重要性。
目前的緩解策略分為三個階段討論：資料準備、模型訓練、模型推理、後處理。 RLHF（人類回饋強化學習）等技術和基於知識的方法被認為是減少幻覺的有效方法。
評估AGI 幻覺對於理解和解決這個問題至關重要。該調查涵蓋了各種評估方法，包括基於規則、基於大型模型和基於人的方法。也討論了特定於不同模式的基準。
有趣的是，調查指出並非所有幻覺都是有害的。在某些情況下，它們可以激發模型的創造力。在幻覺和創意輸出之間找到適當的平衡仍然是一個重大挑戰。
展望未來，作者強調音訊、3D 建模和基於代理的系統等領域需要強大的資料集。他們也強調了研究方法的重要性，以增強模型中的知識更新，同時保留基礎資訊。
隨著通用人工智慧的不斷發展，理解和減輕幻覺對於開發可靠和安全的人工智慧系統至關重要。這項全面的調查提供了寶貴的見解，並為這一關鍵領域的未來研究鋪平了道路。
圖片來源：Shutterstock
資訊來源：由0x資訊編譯自BLOCKCHAINNEWS。版權所有，未經許可，不得轉載