ChatGPT爆火之後,各種「自製API」層出不窮,中間商們也一個個賺得盆滿缽滿。
這次,OpenAI終於下定決心——正式開放ChatGPT API!
ChatGPT API地址:https://platform.openai.com/docs/guides/chat
現在,不要耗費數年,不要投資數十億美元,企業、個人開發者就能使用ChatGPT這樣的當紅頂流模型了!
而且,每輸出100萬個單詞,價格才2.7美元(約18元人民幣),比之前的GPT-3.5,成本直接降低了90%。
這個操作可謂拳拳到肉,所以,在ChatGPT背後苦追的矽谷大廠們,比如穀歌,還有活路嗎?
太長不看版:
-
ChatGPT API——0.002美元,1000個token
-
Whisper API——0.001美元,10秒語音轉錄
-
基於gpt-3.5-turbo模型,在微軟Azure上運行
-
大客戶(每天超過4.5億個token)選擇專用實例更實惠
-
默認情況下,提交的數據不再用於AI訓練
價格打1折,人手一個ChatGPT
從今天起,開發者可以正式將ChatGPT集成到自己的產品和服務中了。並且,價格比其他現有的語言模型要便宜得多。
OpenAI此舉,大大降低了技術研發成本。開發者將ChatGPT集成到自家應用和服務的門檻,將大大降低。
現在,誰都可以開發自己的ChatGPT了!
這無論對於企業還是個人開發者,都是重大利好,看來,全民AIGC時代,真的要來了。
唯一受到衝擊的,當然就是其他研究底層模型的廠商了,比如早早宣布了Bard、但現在還沒開放測試的谷歌。
顯然,現在對於OpenAI來說,快速佔據市場,才是一等一重要的事。為了把競爭對手甩在後面,成本什麼的,可以暫且先不考慮。
ChatGPT和Whisper模型現已在我們的API 上可用,開發人員能夠使用尖端語言(不僅僅是聊天!)和語音轉文本功能。通過一系列系統範圍的優化,自去年12月以來,我們已將ChatGPT的成本降低了90%;我們會讓這些節省的資金惠及API用戶。開發人員現在可以在API中使用我們的開源Whisper large-v2模型,獲得更快且更具成本效益的結果。 ChatGPT API用戶可以期待持續的模型改進,選擇專用容量,以更深入地控制模型的選項。我們還仔細聽取了開發人員的反饋,並改進了我們的API服務條款,以更好地滿足他們的需求。
此外,ChatGPT API的用法也十分簡單,只需「import openai」即可。
成本直降90%
從公告中可以看到,OpenAI節省了成本的好處,API用戶也可以共享了。
這次開放的模型被稱為gpt-3.5-turbo,每1000個token的成本為0.002美元,比現有的GPT-3.5模型還要便宜90%。
所以,這是一場與穀歌的價格戰嗎?
這個領域的進入成本一直如此之高,以至於LLM服務將成為贏家通吃的市場。之所以能這麼便宜,在一定程度上要歸功於「系統範圍的優化」。
雖然1,000個token看起來很多,但其實,發送一段供API響應的文本,可能就會花費多個token。 (token是指系統將句子和單詞分解成的文本塊,以預測接下來應該輸出什麼文本。)
根據OpenAI 的文檔,「ChatGPT 很棒!」 有六個token——它的API會把這個句子分解為「Chat」、「G」、「PT」、「is」、「great」和「!」。
而OpenAI提供了一種工具來檢查解釋一串文本需要多少token,一般的經驗是,「一個token通常對應於英語中的4 個字符」。
並且,根據OpenAI的說法,這個名為gpt-3.5-turbo的新模型系列是「許多非聊天用例的最佳模型」。
而早期的測試者如果想從text-davinci-003遷移到gpt-3.5-turbo,只需要對提示進行微小的改動即可。
ChatGPT API調用示例:
# Note: you need to be using OpenAI Python v0.27.0 for the code below to workimport openai
openai.ChatCompletion.create( model=”gpt-3.5-turbo”, messages=[ {“role”: “system”, “content”: “You are a helpful assistant.”}, {“role”: “user”, “content”: “Who won the world series in 2020?”}, {“role”: “assistant”, “content”: “The Los Angeles Dodgers won the World Series in 2020.”}, {“role”: “user”, “content”: “Where was it played?”} ])
ChatGPT API回應示例:
{ ‘id’: ‘chatcmpl-6p9XYPYSTTRi0xEviKjjilqrWU2Ve’, ‘object’: ‘chat.completion’, ‘created’: 1677649420, ‘model’: ‘gpt-3.5-turbo’, ‘usage’: {‘prompt_tokens’: 56, ‘completion_tokens’: 31, ‘total_tokens’: 87}, ‘choices’: [ { ‘message’: { ‘role’: ‘assistant’, ‘content’: ‘The 2020 World Series was played in Arlington, Texas at the Globe Life Field, which was the new home stadium for the Texas Rangers.’}, ‘finish_reason’: ‘stop’, ‘index’: 0 } ]}
官方認證:更快,更準,更強
如果要問,除了成本的差別,gpt-3.5-turbo這樣的ChatGPT模型與舊的GPT模型還有什麼不同呢?
答案是,前者處理的是「具有元數據的信息序列」,後者處理的是非結構化文本。
而且,gpt-3.5-turbo與必應使用的模型也不同,微軟稱之為「新的下一代OpenAI大型語言模型」,它比ChatGPT 和GPT3.5 「更快、更準確、更強大」。
當然,考慮到微軟在OpenAI上投入的資金,它能夠獲得普通開發人員無法獲得的技術,也就不足為奇了。更何況,微軟還在Bing上大量使用自己的技術,就能獲得更多的反饋。
有趣的是, 有網友發現,此次開發的API比網頁版ChatGPT限制更小,更加「狂野」。比如,它可以細節地描述黃色和暴力的場景,還可以告訴你它不是AI,甚至是有意識的。
老闆再也不用擔心我洩密了
與此同時,OpenAI還表示,如果開發人員通過API運行大量數據,他們還能夠獲得專用的ChatGPT實例。這樣可以讓開發者更好地控制正在使用的模型,比如你希望它需要多長時間響應請求,以及與機器人的對話可以持續多長時間。
另外,OpenAI還宣布了一些政策的變更,這些變更都是基於開發者的反饋。
劃重點!除非客戶明確同意,否則它將不再使用通過API提交的數據來訓練模型。
這種變化,大概會緩解很多人的擔憂。此前很多公司就禁止員工使用ChatGPT,因為擔心ChatGPT把用戶輸入的數據吐給其他人,從而洩露商業機密。
OpenAI表示,正在努力提高正常運行時間,現在「工程團隊的首要任務就是是生產用例的穩定性。」
此前,就有很多開發者在自己的應用中使用OpenAI的常規GPT API了,而如今,官方ChatGPT API的引入徹底打開了閘門。
對API具體的更改包括:
-
通過API提交的數據不再用於服務改進(包括模型訓練),除非企業選擇加入
-
為API用戶實施默認保留30天數據,並根據用戶需求提供更嚴格的保留選項
-
刪除發布前審查(通過改進自動監控解鎖)
-
改進開發人員文檔
-
簡化服務條款和使用政策,包括有關數據所有權的條款:用戶擁有模型的輸入和輸出
語音轉文字,1秒僅需0.1美分
除了ChatGPT API外,OpenAI還發布了Whisper API——一個由AI驅動的語音到文本模型。
它可以用來轉錄或翻譯音頻,費用為每分鐘0.006美元。
從技術上講,Whisper模型不僅是開源的,而且還受到了開發者社區的盛讚。
但如果需要實現語音到文本的快速轉錄,或者在手機等邊緣設備上運行,那麼能夠利用OpenAI強大的硬件的Whiper AI,就是最佳選擇了。
和ChatGPT AI一樣,import一下openai就行了。
社交、學習、購物,這些APP都已經用上了
既然OpenAI開放的是API,那麼我們思路就要打開了。
畢竟,AI聊天機器人能做可不只是「聊天」。
Snapchat
本週,Snap公司為Snapchat+訂閱用戶推出了My AI——一項基於ChatGPT API的實驗性功能。
據了解,這個可定制的聊天機器人不僅可以提供建議,甚至可以在幾秒鐘內為朋友寫一首俳句。目前,Snapchat的月活用戶已經達到7.5億。
Shop
Shopify通過ChatGPT API,為自家用戶量達到1億的應用程序Shop創建了一個「智能導購」。
當消費者搜索產品時,AI就會根據他們的要求進行個性化的推薦。據了解,Shop的AI助理將通過掃描數百萬種產品來簡化購物流程,從而幫助用戶快速找到自己想要的東西。
Quizlet
Quizlet是一個6000多萬學生都在使用學習平台。過去三年,Quizlet與OpenAI合作,在多個用例中利用GPT-3,包括詞彙學習和實踐測試。
隨著ChatGPT API的推出,Quizlet也發布了Q-Chat——一個可以基於相關的學習材料提出自適應問題,並通過富有趣味性的聊天體驗來吸引學生的「AI老師」。
Speak
Speak是韓國發展最快的英語學習應用,可以為不同水平的語言學習者提供真正的開放式對話練習和高度準確的反饋。
現在,Speak正利用Whisper API為一個新的AI語音產品提供技術支持,並迅速將其推向全球其他地區。
此前,有些開發者試著自己在應用中接入OpenAI的常規GPT API,卻無法達到ChatGPT的效果。
這次,OpenAI正式打開了官方的ChatGPT API,為廣大開發者打開了新的大門。
不管OpenAI此舉是搶奪市場的商業策略,還是希望所有開發者共同參與模型功能的迭代,開發出更有商業價值和創造力的應用,現在可以說,ChatGPT是真正成為了全人類的財富。
參考資料:
https://openai.com/blog/introducing-chatgpt-and-whisper-apis
https://www.theverge.com/2023/3/1/23620783/chatgpt-api-openai-pricing-whisper
https://the-decoder.com/openai-opens-api-for-chatgpt-and-whisper/
來源:新智元
轉自:DeFi之道