華為雲端人工智慧總裁尤鵬：大模型實踐中面臨十大難題

根據《科創板日報》12 月23 日報道，在2023 華為雲AI 院長峰會上，華為雲大數據與人工智慧領域總裁尤鵬總結了大模型實踐過程中的十大難題：在訓練上，面臨萬卡/十萬卡集群分散式訓練及可靠性的挑戰；在推理上，需解決面向LLM 長文本生成的高效解碼的挑戰；在高效資源利用方面，面臨著AI 集群碎片資源利用及全局作業最優調度的難題；在大模型壓縮方面，需解決高效量化及無損量化評測標準及技術方案的難題。此外，還需解決：產業訓練資料安全可控、可用不可得，大模型幻覺緩解甚至消除及可解釋性，如何建構具備強大邏輯推理與規劃能力的大模型，基於圖數據的大模型知識增強技術，通用結構化資料及時序資料特徵對齊及預訓練等難題。