今年5 月的谷歌I/O 大會上，皮查伊宣布了對標GPT-4 的大模型PaLM 2，但同時也提到谷歌的研究重心正在轉向Gemini，後者是一種多模態和高效的機器學習工具。
為了更快地開發Gemini，谷歌在今年4 月份合併了內部的兩個人工智能實驗室：谷歌大腦（Google Brain）和DeepMind，Gemini 這項聯合計劃就由來自兩個實驗室的研究人員組成的團隊牽頭。
接下來幾個月，Gemini 的神秘面紗一點點被揭開：我們大概知道該模型是在Google Brain 和DeepMind 合併之後開始研發的，將具有像GPT-4 一樣的萬億參數；Gemini 在訓練中已經展示出了以往模型中從未見過的多模態能力；一旦經過微調和嚴格的安全性測試，谷歌同樣將提供不同尺寸和功能的Gemini 版本，以確保部署在不同的產品、應用和設備上。
最新消息是，據三位直接知情人士透露，谷歌已經允許一小部分公司使用Gemini 軟件的早期版本，意味著谷歌即將將其納入消費者服務，並通過公司的雲計算服務出售給企業。
能否超越GPT-4？
近日，SemiAnalysis 分析師Dylan Patel 和Daniel Nishball 帶來了更多關於Gemini 的爆料，其中Dylan Patel 曾在今年7 月11 日曾曝光 GPT-4 的架構。
Dylan Patel 和Daniel Nishball 透露，初代的Gemini 應該是在TPUv4 上訓練的，並且這些pod 並沒有集成最大的芯片數—4096 個芯片，而是使用了較少的芯片數量，以保證芯片的可靠性和熱插拔。如果所有14 個pod 都在合理的掩模場利用率(MFU) 下使用了約100 天，那麼訓練Gemini 的硬件FLOPS 將超過1e26。
不過，Gemini 已開始在新的TPUv5 Pod 上進行訓練，算力高達～1e26 FLOPS，比訓練GPT-4 的算力還要大5 倍。
另外，Gemini 的訓練數據庫為Youtube 上93.6 億分鐘的視頻字幕，總數據集大小約為GPT-4 的兩倍。
Gemini 由一組大型語言模型組成，可能使用MOE 架構與投機採樣（Speculative Sampling）技術，通過小模型提前生成token 傳輸至大模型進行評估，提高模型總推理速度。
從能力上說，Gemini 支持從聊天機器人到總結文本或生成原始文本（如電子郵件草稿、歌詞或新聞文章）的各種功能，這些功能都是基於對用戶想要閱讀的內容的描述。此外，Gemini 還能幫助軟件工程師編寫代碼，並根據用戶的要求生成原始圖片。
據The Information 此前報導，谷歌希望Gemini 大大提高軟件開發人員的代碼生成能力，以此追趕微軟的GitHub Copilot 代碼助手。
谷歌員工還討論過利用Gemini 來實現K線走勢圖分析等功能，比如要求模型解釋完成K線走勢圖的含義，以及使用文本或語音指令來瀏覽網頁瀏覽器或其他軟件。
一位測試過GPT-4 的人士說，Gemini 至少在一個方面比GPT-4 更具優勢：除了網絡上的公共信息外，Gemini 利用了谷歌從其消費產品中獲取的大量專有數據。因此，該模型在理解用戶對特定查詢的意圖時應該會特別準確，而且它似乎會產生較少的錯誤答案（即幻覺）。
谷歌云服務迎頭趕上的機會
自今年年初OpenAI 開始出售GPT-4 的訪問權限以來，谷歌近幾個月來一直在積極地將其現有的商用模型提供給更多的開發者。
今年5 月，谷歌宣布將通Vertex AI 向谷歌云客戶提供PaLM 2 。另一位知情人士說，谷歌計劃通Google Cloud Vertex AI service 向企業提供「Gemini」，包含不同大小的版本，這樣開發者就可以選擇付費購買一個不太複雜的版本來處理簡單的任務，或者購買一個足夠小的版本在個人設備上運行。
這位知情人士補充說，谷歌目前讓開發者使用的是相對較大的Gemini 版本，但不是正在開發的最大版本，後者更接近於GPT-4。
對谷歌來說，Gemini 的發布事關重大。谷歌花費了大量的計算資源和人力來開發它作為與OpenAI 競爭的利器，希望這款軟件除了促進其云服務器租賃業務外，還能為從Bard 聊天機器人到Workspace 軟件的新功能提供支持。
據The Information 報導，OpenAI 和其他軟件公司（如幫助公司開發和使用人工智能的Databricks）也預測，它們將從對話式AI 中獲得可觀的收入。然而，開源大模型的崛起可能會削弱谷歌和OpenAI 出售其專有模型訪問權的關注度。
也許某天一覺醒來，Gemini 已經正式發布，屆時它的神秘面紗將被徹底揭開。
谷歌能否憑藉Gemini 扭轉局勢？我們只需耐心等待。
參考鏈接：https://www.theinformation.com/articles/google-nears-release-of-gemini-ai-to-rival-openai
資訊來源：由0x資訊編譯自8BTC。版權歸作者所有，未經許可，不得轉載