OpenAI未來展望:Strawberry、Orion及下一代GPT計畫的探索與發展


OpenAI即將發布的Strawberry和Orion模型可能會改變機器學習領域。 Strawberry專注於提升AI的推理能力,表現出色,可解決複雜數學問題,並能產生高品質的合成訓練資料。 Orion則是OpenAI新一代旗艦語言模型,可能稱為GPT Next,具備多模態處理能力,能夠處理文字、影像和視訊輸入。兩者的開發受到了國家安全官員的關注,顯示其戰略重要性。 OpenAI希望透過這些模型在競爭激烈的AI市場中保持領先,同時也需面臨開發成本的挑戰。

OpenAI即將發布的這兩款可能重新定義了機器學習領域的革命性模型,代號分別為Strawberry和Orion。這些計畫的目標旨在將AI的能力推向新的高度,特別是在推理、解決問題和語言處理方面,朝著人工通用智慧(AGI)更進一步。

Strawberry(之前被稱為Q* 或Q-Star)似乎不僅僅是一個聊天機器人;它的重點是展示人工智慧推理能力的顯著飛躍。知情人士向路透社和The Information 等媒體透露,該計畫正在解決複雜問題數學問題和增強邏輯分析方面表現出色。

另一方面,Orion 被定位為OpenAI 的下一代旗艦語言模型,可能是GPT-4 的繼任者。它旨在超越其前身的語言理解和生成方面,並具備處理多模態輸入(包括文字、圖像)和影片)的能力。

該計畫引起了美國國家安全官員的關注,突顯了它們可能具有戰略重要性。在OpenAI 儘管收入成長顯著的情況下,仍需繼續輸入資金,這可能與開發和訓練這些先進模型所需的代價有關。

草莓與推理能力

儘管網路上不斷有關於「草莓計畫」的猜測,OpenAI 似乎正式發布了任何相關資訊。然而,洩漏的資訊表明,草莓在複雜的推理方面表現出色。

故障,與傳統模型提供快速響應不同,Strawberry採用了研究人員稱為“系統2思維”的方法,能夠花時間仔細推理並解決問題,而不僅僅是通過預測更長的詞彙序列來完成響應。根據路透社報道,該模型在數學基準測試中取得了90%以上的成績,表現令人印象深刻。

另一個展望由Strawberry帶來的關鍵創新是其產生高品質合成訓練資料的能力。這項功能解決了AI開發中的一個重要挑戰:缺乏多樣性且高品質的訓練資料。如果這一點屬實,Strawberry不僅如此能夠提升自身能力,也為更先進的模型如Orion鋪平了道路。

考慮到OpenAI 已經獲取了大量數據,以及用戶渴望重視隱私而不願向AI 提供數據的趨勢,這一功能可能在未來AI 模型的品質中發揮重要作用,就像現在一些用戶利用穩定擴散生成的圖像一樣訓練自己的客製化模型一樣。

然而,草莓這種深思熟慮的處理方式可能在即時應用中面臨挑戰。據報道,OpenAI 的研究人員正在研究如何「增強」草莓的能力,基本上是降低其質量,以便用戶能夠在低計算成本下進行大量推理。

即使如此,將Strawberry 的技術整合到面向消費者的產品(如ChatGPT)中,可能會顯著提升OpenAI 訓練新模型的方式。然而,更有可能的是,OpenAI 將利用Strawberry 作為新模型的基礎,而不是直接向消費者廣泛提供。

Orion計畫或GPT 下一代

Orion計畫作為OpenAI 對GPT-4 的雄心勃勃的繼任者,旨在設定語言AI 的新標準。根據OpenAI 日本公司執行長永崎忠雄的最新演講,專案可能被命名為GPT 下一代(GPT Next)。源自Project Strawberry的先進技術,Orion設計不僅在自然語言處理方面表現出色,還有分裂多模態能力。

OpenAI宣稱,下一代AI模型的進步將不會是漸進的。

根據IT媒體的報導,OpenAI日本公司CEO永崎忠雄在2024年日本KDDI高峰會上表示:「即將推出的AI模型可能被稱為’GPT Next’,其發展速度將是前幾代模型的近100倍。與傳統軟體不同,AI技術因此呈指數級增長。

將Strawberry產生的資料用於訓練Orion對OpenAI來說是一項技術優勢。然而,這種技術需要嚴格使用。研究人員已經證明,當模型在大量的合成數據上進行訓練時,其性能就會開始因此,找到一個合適的平衡點,使草莓可以增強Orion的能力而不影響其準確性,對於OpenAI保持競爭力至關重要。

Orion 的全新多模態功能也將是顯著的進步。根據《The Information》報導,該模型正在開發中,旨在無縫整合文字、圖像,甚至視訊輸入和輸出,為ChatGPT 用戶帶來全新的可能性,平靜的公司與Google的雙子座直接競爭。可以處理長達2小時的視訊輸入。

這是使用者在使用ChatGPT 或OpenAI 的API Playground 時將互動的模型。

Orion的開發與OpenAI的整體策略一致,旨在保持其在激烈競爭的AI領域中的競爭優勢。隨著開源模型(如Meta的LLaMA-3.1)和先進模型(如Claude或Gemini)的快速進展,Orion 基本上是OpenAI 保持領先的步伐。

資訊來源:0x資訊編譯自網際網路。版權歸作者Koala所有,未經許可,不得轉載

Total
0
Shares
Related Posts