根據介面新聞10 月9 日報道，大模型新創公司Moonshot AI 宣佈在「長文」領域實現了突破，推出了首個支援輸入20 萬漢字的智慧助理產品Kimi Chat。 20 萬漢字是目前全球市場上能夠產品化使用的大模型服務中所能支援的最長上下文輸入長度，目前，全球大多數大語言模型的輸入長度都在2K 以內，以輸入長度是2048 為例，其意義是模型一次接受輸入的tokens 數量為2048 個，而一般tokens 換算到單字的比例是75% 左右，也就是2K 模型的輸入一般只能支援2048*0.75=1500 個英文單字的輸入。換算成漢字方面，一個實際使用效果能夠支持約20 萬漢字的上下文，是2.5 倍於Anthropic 公司的Claude-100k（實測約8 萬字），8 倍於OpenAI 公司的GPT-4-32k（實測約2.5萬字）。目前，Moonshot AI 的智慧助理產品Kimi Chat 已開放了內測。
dark
