百度的大模型插件,打工人的救星?


文| 周鑫雨

編輯| 鄧詠儀

圖片來源:由無界AI生成

2023年8月16日的百度2023WAVE SUMMIT,構建大模型開發生態的方法論,代替模型本身成了主角。

總體而言,如今百度基於文心大模型的應用落地嘗試,是把微軟的路子再走了一遍:針對生產力場景發布配套插件和Copilot,同時建設基於雲的開發者生態。

比如新發布的5款插件,對應的是Bing和ChatGPT接入的近70款插件;推出的插件開發工具集和AI應用開發套件Comate Stack,對應的是Copilot Stack;上線超級助理等插件的百度智能辦公平台“如流”,對應的是接入Copilot的Teams。

旺盛的市場需求和處於高速迭代期的大模型技術,兩者構成了大模型落地應用的主要矛盾——客戶們急於用大模型提高生產效率,但尚在發展階段的模型技術迭代速度快,大模型應用落地,首先要面對高昂的迭代成本。

不少廠商找到的解決方案是:插件化。

相較於傳統的應用開發流程,插件無需開發一整套完整系統,通過接口就能提供服務,且易於修改和更新。在某種意義上,插件是AI應用創新的最佳載體。

基於這一思路,百度在2023WAVE SUMMIT上,圍繞著“插件”,做了從自研,到開發者社區建設,再到落地工作場景的一系列嘗試。

生態建設,是百度強調的另一個重點。

隨著大模型發展的進度條從研發快速拉到落地階段,開發者面對的是愈發複雜的產業鏈條,落地應用也對上下游、軟硬件的協同提出了較高的要求。

作為基礎設施提供者,百度對飛槳開源框架在大模型訓練、推理、硬件適配等方面進行了迭代升級,將文心大模型3.5的訓練速度提升至3倍,推理速度提升了30多倍。其目的在於聚集產業鏈各環節的開發者,基於大模型基座和雲平台進行開發生態的建設。

百度集團副總裁、深度學習技術及應用國家工程研究中心副主任吳甜認為,“經歷半年的時間,我覺得整個行業的角色分工會逐漸明朗。”

“文心一言”疊加製圖Buff,接入5個百度自研插件

除了在8月2日的文心千帆大模型平台媒體圓桌會議上發布的“百度搜索”和“覽成交量文檔”(原ChatFile),此次百度還在文心一言上推出了“E言易圖”“說圖解畫”“一鏡流影”三款AIGC插件,分別應用於K線走勢圖生成、圖片生成理解、視頻生成場景。

文心一言使用“覽成交量文檔”插件解讀文檔。圖源:百度

文心一言使用“E言易圖”插件將文檔中的數據生成餅狀圖。圖源:百度

不過,由於能耗較高,視頻生成插件“一鏡流影”的內測尚未全面進行。未來,文心一言將開放給更多第三方插件。

飛槳“賣水”,推出大模型插件開發平台

以5個自研插件作為開端,百度更想做的,是建立起鏈接上下游的完整開發者生態。

吳甜認為,目前已經到了建設開發者生態的時機:“一方面,我覺得核心技術系統本身的成熟度要足夠,才能去支撐生態的建設,文心一言已經到了這個階段;另一方面,生態最大的作用是讓應用更加繁榮。”

依託於“文心一言”的模型能力,百度面向開發者上線了大模型插件開發平台。平台提供了插件開發工具集(ERINE Bot SDK),可以支持信息服務類、工具類、基於LLM的創新類的插件的研發。

ERINE Bot SDK。圖源:百度

與此同時,飛槳AI Studio此次推出了星河大模型社區。這就好比國產版的微軟Azure AI Studio,百度作為大模型應用的“賣水人”,為開發者提供開發、部署、市場推廣等流程服務。

星河大模型社區。圖源:百度

在“如流”上,做提高生產力的文章

什麼是AI時代的“殺手級”應用?目前業界或許沒有定論。但發展AI原生(AI Native)應用是“殺手級”應用的基礎,愈發成為共識。

所謂的AI原生應用,簡單理解就是離開AI,就無法提供核心能力的應用——這對開發者無疑提出了更高的要求:對原有應用進行簡單迭代是不夠的。

在2023WAVE SUMMIT,百度交出的原生AI答成交量,點的是重塑生產力的題。在百度智能工作平台“如流”上,百度推出了“超級助理”和“Comate X智能編程助手”。

“超級助理”的功能類似於此前阿里發布的釘釘魔法棒和飛書發布的AI助手“My AI”,可以基於用自然語言輸入的需求,完成文檔處理、聊天內容查找、信息發送等任務。

“超級助理”完成差旅安排。圖源:百度

“超級助理”可對文檔進行分析。圖源:百度

同理,輔助編程的Comate X也是基於自然語言描述,生成能實現相應功能的代碼片段。目前,Comate X支持30多種語言和10多種IDE(集成開發環境)。

針對AI原生應用的開發,百度也建立了開發者生態。此次推出的AI原生應用開發套件Comate Stack,為開發者提供了評測平台iEValue、AI應用開發平台IPlayground和數據集託管平台iDateSet。

值得一提的是,在Comate Stack上進行AI應用開發,自然語言依然是人機交互的界面。比如開發可以執行休假政策的插件,只需要設置Prompt、編排流程兩步。

AI應用開發平台IPlayground支持2步生成AI插件。圖源:百度

AI應用上線如流,意味著目前兩款生產力工具只有百度員工和幾家大B客戶能夠使用。但與此同時,這也是如流積極商業化的信號。

百度集團副總裁、百度集團首席信息官李瑩介紹,以超級助理和編程工具鍊為切口,接下來如流也會加大商業推廣力度。

資訊來源:由0x資訊編譯自8BTC。版權歸作者所有,未經許可,不得轉載

Total
0
Shares
Related Posts