摘要
事件:11月30日,OpenAI上線了新模型ChatGPT,其網頁應用允許用戶免費使用,ChatGPT能夠理解人類語言並且回答問題,不限於普通聊天、協助寫代碼、解決具體難題等等應用場景。因為其高質量的回答、高效獲取信息的方式、以及上癮式的交互體驗,ChatGPT引起了社交媒體的廣泛傳播與關注。
ChatGPT效果出人意料,“全能AI”火遍社交媒體。 ChatGPT的交互界面簡潔,只有一個輸入框,AI將根據輸入內容進行回复,並允許在一個語境下持續聊天。 ChatGPT的聊天範圍廣泛,涵蓋大部分領域,根據親身體驗以及社交媒體分享的內容來看,ChatGPT能在絕大部分知識領域給出專業回答,同時對輸入的理解能力和包容度高。無論是讓ChatGPT寫首押韻的詩、檢查代碼的bug、回答科學問題、對推特未來的發展提出建議都不在話下,其回复內容每次都是隨機的,但總體保持著一定的專業性和信息量,具備很強的參考意義。與ChatGPT持續對話是一種令人上癮的體驗,因此在該應用發布的短短幾天內,就能看到國內外的社交媒體上就有大量關於ChatGPT對話的分享。
ChatGPT的背後離不開大模型、大數據、大算力。 ChatGPT成為AIGC里程碑的背後,是算力發展和數字時代形成的大數據所共同支持的大模型訓練,才能實現目前的效果。由OpenAI研發的ChatGPT是微調後的GPT-3.5系列模型,有著多達1750億個模型參數,並在今年年初訓練完成。模型訓練的背後離不開大數據的支持,OpenAI主要使用的公共爬蟲數據集有著超過萬億單詞的人類語言數據集。在算力方面,GPT-3.5在Azure AI超算基礎設施(由V100GPU組成的高帶寬集群)上進行訓練,總算力消耗約3640 PF-days(即每秒一千萬億次計算,運行3640個整日)。
AIGC不僅改變創作,還將改變獲取信息的主要方式。在之前的報告中,我們討論過AIGC對於創作的替代,降低了創作門檻,為元宇宙數字內容的豐富打下基礎。而在此之上,ChatGPT所展示了作為生產力的存在,ChatGPT在尋找答案、解決問題的效率上已經部分的超越瞭如今的搜索引擎,ChatGPT或許在未來會改變我們獲取信息、輸出內容的方式,AIGC有望成為數字經濟時代驅動需求爆發的殺手級應用。
模型缺點瑕不掩瑜,未來迭代值得期待。據官網顯示,ChatGPT目前存在著一些局限性,包括:有時會給出看上去正確但荒謬的答案、微調提問的方式會得到完全不同的答案、有時會反複使用某些句子等等。在我們實際體驗中也能感受到,這些問題來自訓練過程和數據集的局限性。 ChatGPT本次面向用戶免費開放能夠進一步強化訓練,從而完善模型質量。
投資建議:軟硬件與數據集。生成算法、NLP與算力決定AIGC能否運行,而高質量的數據集決定了AIGC質量與商業模式。軟件層面主要包括自然語言處理技術:谷歌、微軟、科大訊飛、拓爾思;AIGC生成算法模型及數據集:視覺中國、萬興科技、藍色光標、崑崙萬維;算力層包括:三大運營商(移動、電信、聯通)、英偉達、瀾起科技、中興通訊、新易盛、天孚通信、中際旭創等。
風險提示:技術創新不及預期;政策監管風險。
11月30日,OpenAI上線了新模型ChatGPT,該模型允許用戶以對話的方式與其交互。 ChatGPT是之前發布的InstructGPT的兄弟模型,後者被訓練用於根據輸入給出詳細的一段輸出。同時,ChatGPT模型為了獲得更多用戶反饋,在目前階段對用戶開放免費使用,用戶可通過chat.openai.com進行應用交互體驗。
ChatGPT的交互界面簡潔,只有一個輸入框,用戶可以任意開啟話題或者給出指令,模型將根據輸入內容給出輸出。 ChatGPT的一大特點就是允許在同一個語境下持續交流,能夠根據上下文進行回复。
ChatGPT的聊天範圍廣泛,涵蓋大部分領域,具備參考意義。根據親身體驗以及社交媒體分享的內容來看,ChatGPT能在絕大部分知識領域給出專業回答,同時對輸入的理解能力和包容度高。無論是讓ChatGPT寫首押韻的詩、檢查代碼的bug、回答科學問題、對推特未來的發展提出建議都不在話下,其回复內容每次都是隨機的,但總體保持著一定的專業性和信息量,具備很強的參考意義。
ChatGPT的對話內容開始在社交媒體引起關注。因為ChatGPT對話的隨機性以及較為豐富的信息量,與ChatGPT持續對話令人上癮,在該應用發布的短短幾天內,國內外的社交媒體上就有大量關於ChatGPT對話的分享。這其中包括馬斯克向ChatGPT請教如何改變推特,也有各類有趣的問答合輯。
AIGC里程碑的背後離不開大模型、大數據、大算力。 ChatGPT成為AIGC里程碑的背後,是算力發展和數字時代形成的大數據所共同支持的大模型訓練,才能實現目前的效果。由OpenAI研發的ChatGPT是微調後的GPT-3.5系列模型(GPT模型專門用於人類語言應用),有著多達1750億個模型參數,並在今年年初訓練完成。
模型訓練的背後離不開大數據的支持,公共爬蟲數據集有著超過萬億單詞的人類語言數據集,OpenAI團隊在此基礎上進行整理加工形成用於訓練模型的數據集。在算力方面,GPT-3.5在Azure AI超算基礎設施(由V100GPU組成的高帶寬集群)上進行訓練,總算力消耗約3640 PF-days(即每秒一千萬億次計算,運行3640個整日)。
AIGC不僅改變創作,還將改變獲取信息的主要方式。在之前的報告中,我們討論過AIGC對於創作的替代,降低了創作門檻,為元宇宙數字內容的豐富打下基礎。而在此之上,ChatGPT所展示了作為生產力的存在,ChatGPT在尋找答案、解決問題的效率上已經部分的超越瞭如今谷歌等搜索引擎,ChatGPT或許在未來會改變我們獲取信息的方式,AIGC成為新時代的用戶入口。
模型缺點瑕不掩瑜,未來迭代值得期待。官網註明了ChatGPT目前存在著一些局限性及原因,在我們的實際體驗中,也確實遇到這些問題:
1)有時ChatGPT會寫一些看上去合理但錯誤且荒謬的答案,這個在體驗中較少但會出現。據官網描述,這個問題是難以解決的,因為:第一,在訓練期間,並沒有提問者目前所有的事實;第二,如果讓模型過於謹慎,那麼他能回答的問題也會拒絕回答;第三,有觀察的訓練誤導了模型,因為正確的答案來源於模型的數據庫而非人類知道什麼。
2)ChatGPT對輸入的改變比較敏感。例如,給出一句問題,模型聲稱無法得知答案,但輕微地改變問題,就能正確地回答。這種特性在體驗中表現的比較明顯。
3)ChatGPT有時會非常重複表達,反複使用某些句子,例如:重申自己是OpenAI訓練的語言模型。這個問題在我們的體驗中也經常出現,根據官網,該問題來自於訓練數據的偏差,以及過度擬合問題。
4)在理想情況下,當用戶問題模糊時,模型應該會提問將問題清晰化。但目前的模型經常不去追問問題,直接猜想用戶可能問的方向。
除了官網提到的局限性外,根據實際體驗,ChatGPT即使在輸入的明確要求下,也難以在表達中使用數據支持,這可能是因為ChatGPT所使用的語言數據集並不包含太多關於數據的內容。
投資建議
相比於此前的AI繪畫,ChatGPT更具有將AI能力與工作流程相結合的潛力,例如我們試著讓其解釋“光學模塊中的光芯片和電芯片是什麼?當前的全球主流供應商是誰?中國企業的競爭地位如何?未來是否有什麼技術可以替代InP材料?”這類問題時,ChatGPT能夠給出頗為專業的答复,且語言表達流暢。如果將ChatGPT與Midjourney等創作工具融合,有可能直接輸出設計圖稿等內容,畢竟文字生成是基礎,而用戶要做的盡量調整自己的輸入,以促使AI輸出更質量的內容,這本身也是一種訓練和反饋過程。目前部分用戶已在社交媒體上表達了對ChatGPT的付費意願,可見C端用戶為了提高效率有意願訂閱此類服務。
目前OpenAI等巨頭已著手自建計算集群來滿足AIGC的要求,這種集中式的訓練對GPU、存儲、機房、供電等基礎設施均有巨大需求。國內部分創業團隊目前基於公有云訓練,隨著需求的增加,也有望轉向自建集群。
今年以來,我國“東數西算”戰略自上而下快速推進,作為數字經濟的基礎,“算力即權力”,其重要性不言而喻,此前我們更多的互聯網應用聚焦於“存”而非“算”,隨著AIGC技術在全球的興起,“東數西算”的算力需求將越來越顯著。
關於AIGC的投資策略,能夠從軟硬件與數據集的三個角度梳理,生成算法、NLP與算力決定AIGC能否運行,而高質量的數據集決定了AIGC質量與商業模式。
軟件層面主要包括自然語言處理技術:谷歌、微軟、科大訊飛、拓爾思。
AIGC生成算法模型及數據集:藍色光標、視覺中國、崑崙萬維、萬興科技。
算力層包括:三大運營商(移動、電信、聯通)、英偉達、瀾起科技、中興通訊、新易盛、天孚通信、中際旭創等。
風險提示
技術創新不及預期:AIGC的技術發展不及預期,以及底層硬件技術,如:超級計算機,算力的發展不及預期。
政策監管風險:目前AIGC還處於相對早期,後續是否會出台AIGC作品相關的知識版權或其他法律監管條款尚不明確。
本文節選自國盛證券研究所已於2022年12月5日發布的報告《AIGC的里程碑——Chat GPT憑什麼引爆科技圈? 》,具體內容請詳見相關報告。
宋嘉吉 S0680519010002 songjiaji@gszq.com
特別聲明:《證券期貨投資者適當性管理辦法》於2017年7月1日起正式實施。通過微信形式製作的本資料僅面向國盛證券客戶中的專業投資者。請勿對本資料進行任何形式的轉發。若您非國盛證券客戶中的專業投資者,為保證服務質量、控制投資風險,請取消關注,請勿訂閱、接受或使用本資料中的任何信息。因本訂閱號難以設置訪問權限,若給您造成不便,煩請諒解!感謝您給予的理解和配合。
重要聲明:本訂閱號是國盛證券通信團隊設立的。本訂閱號不是國盛通信團隊研究報告的發布平台。本訂閱號所載的信息僅面向專業投資機構,僅供在新媒體背景下研究觀點的及時交流。本訂閱號所載的信息均摘編自國盛證券研究所已經發布的研究報告或者係對已發布報告的後續解讀,若因對報告的摘編而產生歧義,應以報告發布當日的完整內容為準。本資料僅代表報告發布當日的判斷,相關的分析意見及推測可在不發出通知的情形下做出更改,讀者參考時還須及時跟踪後續最新的研究進展。
本資料不構成對具體證券在具體價位、具體時點、具體市場表現的判斷或投資建議,不能夠等同於指導具體投資的操作性意見,普通的個人投資者若使用本資料,有可能會因缺乏解讀服務而對報告中的關鍵假設、評級、目標價等內容產生理解上的歧義,進而造成投資損失。因此個人投資者還須尋求專業投資顧問的指導。本資料僅供參考之用,接收人不應單純依靠本資料的信息而取代自身的獨立判斷,應自主作出投資決策並自行承擔投資風險。