原文來源:見實
圖片來源:由無界AI生成
大語言模式正在各行各業嶄露頭角,理解人類語言、生成創新性內容,甚至幫助企業提高效率,無論企業大小,接入AI技術的門檻似乎越來越低。
然而,在快速迭代的背面,同樣也充滿了資料隱私、可解釋性、資料倫理以及各類技術難題。
或許背後最大的困擾便是「安全」二字,這應該是360從創立之日起就開始解決的行業難題,只不過,這次放在了AI大模型時代下。
多輪探索後,360提出的「人工+大模型知識庫+AI」的組合策略,確保資料安全的同時,還能大幅降低企業自建大模型的成本,具體的策略我們曾在《360 開始猛撲AI數字員工》一文中有詳解。
但產業的需求不只如此,除了要更安全,要低成本,還得更聰明。
本文便是後者的補充,即,如何打造一個更智能「AI 數位員工」。
如果用專業術語來講,360 是透過人工製定大模型工作流程,建立知識庫系統,實現模型Square和微調預訓練能力;再基於底層能力,如任務系統、決策鏈、思維鏈、推理系統等,打造一個低程式碼設定平台,同時具備自己的外部API呼叫能力。
這個平台讓所有企業內部的管理員和一些IT技術資訊的人都可以使用這個平台,他們不僅可以寫一個Promt,而是寫多個Promt,讓大模型變成一個Copilot的形式來執行非常複雜的任務。
一句話總結就是,少量人工幹預的情況下讓「數字人」之間形成了協同。
在具體應用時,AI數位人的強大能力則主要體現在兩個面向:對外能創造一批具備靈魂且能即時互動的數位人,如招商數位人、虛擬演講者和虛擬銷售代表等;對內則可為企業提供更有效率的數位員工服務。
諸如此類的產業創新依舊在暗潮湧動。
正如360 集團副總裁、N 世界負責人梁志輝在前不久的見實「920AI大會」上所提及的那樣,AI的發展趨勢正在重新定義我們的工作方式,未來,我們將看到更多的AI應用出現,解決更多的挑戰,成為人類的強大夥伴。
這是一個充滿機會和潛力的時代,企業需要不斷關注AI的發展,以保持在這個領域的競爭力。 AI如何變得更聰明、更有創造性,又將如何深遠影響企業組織發展的,讓我們回到現場一探究竟,聽聽360從一線帶來的思考和觀察,如下,Enjoy:
01 如何讓大模型變得更聰明
大模型最擅長的三件事:內容產生、內容理解、邏輯推導。
如果想知道如何讓大模型變得更聰明?
首先要看如何定義聰明,在很多場景下,與GPT交易所時,你會發現只能給出一條指令,但他只能回答一次,這很難完成一個非常複雜的任務。在這個過程中,360擴展了整個大模型的能力,並實現了多輪對話、多模態互動以及GOI的互動能力。
將這些互動能力轉化為一個低程式碼配置平台,讓所有企業內部的管理員和一些IT技術資訊的人都可以使用這個平台,他們不僅可以寫一個Promt,而是寫多個Promt,讓大模型變成一個Copilot的形式來執行非常複雜的任務。
目前,360數位員工平台已經有一個大模型的低程式碼工作流程配置平台。大致的流程如下:
首先,基於現有大模型元件,透過人工製定大模型工作流程,建立知識庫系統,實現模型Square與微調預訓練能力;再基於底層能力,如任務系統、決策鏈、思考鏈、推理系統等,讓大模型變得更聰明,可以執行更多步驟,與大模型進行交互,可以實現數百次大模型交互,同時具備自己的外部API調用能力。
在內部辦公室時,360團隊專門研發了一個AI資料人工。這個AI資料人工可以在許多企業內部遇到文案分析和總結等多模態互動時使用。
這裡是一個具體例子。例如,讓大模型進行旅遊規劃,規劃到麗江、玉龍雪山以及香格里拉的旅遊景點。在這個過程中,大模型需要進行搜尋並逐步執行,找到景點以及其中的習俗和可玩的地方,以及酒店。
大模型可以為你制定一個非常專業的100步驟旅行規劃。這裡會產生大模型工作流程的結果,包括民風習俗、旅遊景點介紹以及旅遊過程中的環境,形成表格,並逐步產生一份專業報告。
大家可以理解,這代表了大模型可以執行一個非常複雜的工作。今天它可以執行100步,相信不久的將來,可以讓它執行1000步,甚至10000步。
在大模型應用中,如何讓幾個大模型或智慧體系共同完成協同任務是非常重要的,這個功能已經在360智腦和AI數位員工上線。
在這個過程中,你只需要給一個指令就可以讓幾個AI數位員工完成所有工作。同時,AI還可以寫一些帶有鮮明風格的,例如新時代的8股文、週報、日報等。
相信在許多打工一族中,大家都感同身受。很多時候,你需要寫得有格局,寫得有蓋帽子的話,這裡面用GPT,用大模型去寫效果是最好的。
在這裡,360AI可以進行文章總結和工作總結,甚至可以請大模型撰寫公文、請示、報告、函件和通知等。雖然一個小時最多可能寫2000個字,但在大模型的協助下,一個小時可能寫出2萬個字或4萬個字。
繪圖功能也非常重要,在日常工作中,企業經常為行銷文案配備許多設計圖。近日,360推出了“LoRA360平台”,大家可以基於網路上虛擬好的LoRA模型進行AI文生圖的設計,在AI內容分析能力方面非常有效。
使用AI進行財報分析是大多數企業都在使用的功能,過去人工大約需要5到6個小時才能對財報進行分析,閱讀一篇論文,可能也需要花費2~3天才能精讀完整。
今天,你甚至不需要額外上傳一個PDF,就可以圍繞這個PDF進行各種資訊查詢。此外,針對企業內部的知識和內容,也可以將其導入企業知識庫,進行輕量級的大模型訓練。
差別在於,進行大模型微調預訓練通常需要一個月到兩個月的時間。如果僅進行微調,可能需要一個星期左右的時間才能完成。
今天,透過知識庫將許多事實性資訊教授給大模型,並找到相關資訊。
實際上,許多企業內部的知識都是以文件形式呈現,許多場景下只需將文件訓練到系統提供的AI數位員工中,就能讓大模型快速學會。
02 大模型時代下的困境與機會
在企業使用公有大模型落地應用的過程中,有三個問題:
首先,在與大模型聊天過程中,可能洩漏企業機密、程式碼和商業機密。
其次,大模型幻覺問題嚴重,一個明顯的現像是,大模型會寫出一些自己不知道的內容。例如,許多大模型沒有地理位置訊息,例如詢問北京有哪些好吃的地方,它們會編寫杭州的餐廳。
最後,企業內部許多資訊需要分開處理,財務團隊和業務團隊的資訊要隔離。如果讓大模型回答所有訊息,實際上無法進行資訊拆分。
企業落地大模型時常會遇到三個典型問題:
第一,很多人學不會提示詞編程,讓一個公司的文員學習如何寫提示詞需要很長時間的訓練。
第二,在許多大模型中,無論是公有大模型或私有大模型,都缺乏產業知識。例如,你請了一個大學生或外包公司的人為你撰寫文案和行銷內容,如果不了解公司或產業,這種幻覺問題會更嚴重。
第三,在日常工作中需要解決的問題並非一個簡單的promt,一次互動就能解決。很多時候,企業需要撰寫產業報告和製定行動規劃,需要上百部、上千部才能完成規劃書。然而,與大模型溝通時,如果光聊幾句就會崩盤,首先,與GPT溝通時,token可能不夠充足。
在這方面,360針對大模型的應用其實採用了兩個方向:
一是,為內部數位員工提供AI技術以及高效的數位員工服務;二是,針對外部行銷獲客,培養一批具備靈魂且能即時互動的數位人,他們可以包括數位客服、數位銷售、數位主播以及一些數字名人。
透過大模型學習,這些數位人能成為客服、銷售、幫助你進行直播和培訓的人。
數位人在企業降本增效方面有兩個明顯的優點:
一方面是數位人擁有強大的大腦和最佳外表,在外形方面,可以透過一張照片實現驅動;另一方面是即使一段5分鐘的視頻,也能成為數位主播的直播視頻,為了達到這個效果,我們定了三個方向:
一是,讓大模型不再簡單使用Chat UI的方式交易所,很多人與聊天機器人僅僅交易所兩句話,很難深入交易所,如果能採用低延時面對面交易所,實際上就能實現最自然的人機互動語言。
二是,讓數字人有靈魂和記憶,能夠記住你說的所有話,而不會在說過幾十句之後出現以往的問題。
三是,讓數位人連網學習,遇到不會的東西可以即時上網搜尋。基於這些能力,進行許多應用展示。
基於這項能力,在今年8月份,360請了一位前面提到的主持人,將其進行360度掃描,並成為主持人,這個數字人具有看得見、聽得懂、說得很好的特點,在這個過程中,他們可以觀察整個環境的燈光因素,並與現場燈光系統連接,發揮中間指揮作用。
在AI加上感知層,讓AI大模型數字人成為文旅、客服和銷售場景的解答者。增加AI感知層,它可以代入角色,擁有自己的思考鏈,包括視覺、聽覺、短期記憶、長期記憶。此外,還能將這個人克隆出來,聲音、形象、動作和思考。
類似的案例還有很多,過去一段時間,360為各地直轄市的政府舉辦了招商數位人活動,這些數字人可以將政府內部的招商政策或公開資訊訓練到數位人中,在各種辦事大廳回答招商相關問題。
再例如,公司各種主管需要經常去各地演講、訓練。在這個過程中,有時候你無法親自去演講,但你的PPT和演講如何在活動中呈現?
在實際操作中,360曾經遇到過這樣的場景,有一天我的老闆給我發了一條短信,說他在5月份有空,但又想出席一個創業大賽。在這種場景下,他們僅用了幾張照片和音頻,就實現了他在虛擬空間中進行演講的過程。
回過頭看,大模型創業中科技和產品是否有障礙?哪些部分最重要?哪些部分是壁壘?
最後發現,不僅是技術和產品,產品的建造也非常重要。
AI是個人和企業的發展優先權,越早擁抱AI,就能獲得比別人高出10倍以上的發展速度。
資訊來源:由0x資訊編譯自8BTC。版權所有,未經許可,不得轉載