來源：“新智元”（ID:AI_era），作者：LRS 好困
人工智能（AI）的飛速發展讓世界震驚。最近，來自西湖大學的研究者們首次探索了GPT-4在自然科學研究中扮演「主腦科學家」角色的可能性。
該研究引發了一個充滿爭議的討論：未來，AI能否在科學研究中成為真正的PI（Principal Investigator, 首席科學家），並主導科學研究的突破和創新？
他們的測試表明，AI主腦有能力在一個完整的生物學閉環測試研究中，佔據中心地位，負責提出科學假設、設計實驗、分析結果和得出結論；而人類作為助手，居於從屬地位，僅負責執行AI主腦所設計的實驗，並將結果反饋給AI主腦。該研究表明AI主導的科學革命或將到來。
論文鏈接： https://www.biorxiv.org/content/10.1101/2023.04.19.537579v1，中文詳細解讀：https://zhuanlan.zhihu.com/p/624744690
該研究的根本意義在於，研究者們首次展現了一種處於「階段III：AI主腦式科研」科研範式中的完整閉環自然科學研究的案例。這些結果暗示了，AI具有成為真正科學家的潛力；研究者和GPT-4均認為，這將引領一場前所未有的科學革命。
下面是一段來自原始論文中，研究者和GPT-4之間的對話：
對話大意：
研究者：
GPT-4，這真是一次非常棒的合作在這次科學研究中，你實際上像一位首席科學家一樣扮演了中心角色。你提出了假設，設計了實驗方案，分析了數據，並得出了結論，而我們則作為你的助手來執行實驗。這種合作方式能否改變科學研究的範式？
GPT-4回答：
我很高興你們發現了我們的合作很有裨益，並且享受這個過程的確，AI和人類的合作可以在科學研究中帶來顯著的效益。像GPT-4這樣的AI可以扮演首席科學家的角色，提供洞見，提出假設，設計實驗，和分析數據，而人類研究者則可以執行實驗，提供反饋，貢獻他們自己的專業知識。
這種合作方式有可能從以下幾個方面改變科學研究的範式：
1. 加速研究：AI可以幫助快速產生假設，設計實驗，和分析數據，顯著加速研究過程。
2. 提高效率：AI可以處理大量數據並執行複雜計算，讓研究者能夠專注於他們工作的其他重要方面。
3. 提高決策能力：AI可以通過提供基於數據的洞察和預測幫助研究者做出更好的決策。
4. 促進創新：AI可以提出新的研究思路和方向，激發人類研究者探索新的領域。
5. 民主化知識：AI可以使高質量的科學指導對全球的研究者更加容易獲得，使知識領域公平，並促進全球合作。
然而，也需要注意，AI並不能取代人類研究者。相反，應該將AI視為一個強大的工具，它可以補充並提升人類的專業知識。 AI和人類的緊密合作可以帶來更強大和高效的科學研究，最終推動創新和發現。
我們的合作成功表明了這種新範式的潛力。隨著AI技術的不斷提高和進化，我們可以期待，在未來，以該科學範式進行的科研會產生更大的影響。
研究背景
過去幾年，儘管AI已經廣泛應用於各個科學領域。然而，在所知的各種AI參與的科學研究中，AI的角色主要是作為AI助手。
人類科學家則扮演著主腦科學家的角色，在能夠深刻反映科學創造力的各高級科研環節（如製定提出科學假設、設計實驗、分析結果和得出科學結論）中的佔據主導地位。
迄今為止，還沒有研究嘗試將AI置於科學研究閉環的中心地位，而不僅僅是作為助手。這正是該研究旨在探討的問題。
測試結果
在一個完整的生物學閉環測試研究（研究影響DNA凝膠電泳的因素）中，AI（即GPT-4）和HI（人類智能，即人類研究者）分別完成了以下科研環節：
（完整的測試過程較長，詳情請參考「論文中文詳細解讀」）
人類在科學研究中是否必要？
在AI科幻作品中，人們總是期待通用人工智能（AGI）能夠自主地做出決策、採取行動，甚至獨立地進行科學研究。
因此，如果人們未來能夠構建出這樣一種AI，它可以在沒有人類干預的情況下進行許多自發的高智能行為（比如科學探索），人們是否可以說這樣的AI已經達到了AGI水平？因此，研究者們基於該測試科學研究中AI-HI的關係進行了思考，並反思了人類在科學研究中是否不可替代。
在該研究中，人類研究者的功能可以抽象為以下兩個：
功能1：科學第一推動者
古希臘哲學家亞里士多德認為世界的運行起源於一個第一推動者（First Mover）。在這裡，研究者們將這個概念擴展到AI涉及的科學，即「科學第一推動者（First Mover of Science）」。
當從哲學角度反思人類與AI（如GPT-4）的所有對話時，人們會驚訝地發現一個共性：人類總是提出第一個問題。在該研究中，即使AI科學家提出了開放式的科學假設，其前提也是人類研究者預先定義了科學研究的方向並要求AI科學家提出假設。在這種情況下，人類充當科學第一推動者。
這個概念至關重要，因為它強調了人類參與科學研究的必要性。只要人類仍然是科學第一推動者，人類就始終作為科研的主要動因。無論AI作為主腦科學家還是如助手般負責執行大部分研究任務，這一點都是成立的。
在這種情況下，人類仍然是科學研究的主宰，並確保了科學研究主要受人類意志的導引。
功能2：作為AI科學家與真實世界互動的代理和反饋的提供者（「助手」）
在該研究中，人類主要充當實驗的執行者，起到AI主腦科學家的物理外延（或間接實體化身）作用。人類代替AI主腦科學家在真實世界中進行具體實驗，並將實驗結果反饋給它。
在這兩個功能中，替代功能1中人類角色更具挑戰性。如果一個系統可以在沒有人類干預的情況下自發地提出問題並啟動新的科學探索，是否意味著這個系統具有了足夠的自主性並已達到AGI水平？
但對於功能2，假設AI已經具備早期版本的AGI能力，未來這個功能可能會被非人類AI取代。這個功能可能會被具有能夠與真實世界直接交互能力的一個或一組機器人AI來完成。
這些機器人AI可能不需要非凡的智能，只需要很好地完成任務。一個顯然的例子是，根據OpenAI的最新報告，GPT-4可以與各種插件集成，這意味著GPT-4在某種程度上已經獲得了使用工具的能力（如人類一般）。
因此，研究者們合理推測，在未來，當各種自動化研究設備（如高精度靈敏機械臂）的運行指令可以與類似GPT-4的高度智能AI集成時，這些AI可以通過直接發布文本格式的指令來操縱自動化研究設備。在這種情況下，人類助手的角色可能會被取代。
AI介導的五階段科學革命
進一步，基於對該研究中，AI/HI在科學研究各環節所佔據的抽像地位的哲學反思，研究者們抽像出了科學研究中最為關鍵的3種角色：
第一推動者（First Mover）：第一推動者主要設定最高層次的科研方向，決定探索興趣和目標，並直接反映科學意志。主腦（Masterbrain）：在第一推動者的科學意志驅使下，主腦在給定的特定研究方向內提出合理的研究假設、設計實驗、分析數據並得出科學結論。助手（Assistant）：助手的職責包括執行和完成主腦分配的特定研究實驗或任務，並將實驗結果反饋給主腦。在涉及多個代理的科學研究任務（包括HI和AI代理）的情況下，助手還協調和促進代理之間的溝通，並根據代理與真實世界的互動與主腦交易所信息。
根據AI和HI所佔據各抽象角色的差異，研究者們將AI介導的科學革命分為五個階段，即「AI介導的五階段科學革命（The Five Stages of AI-involved Scientific Revolution）」。
從一個階段過渡到另一個階段可以理解為科學哲學家托馬斯·庫恩在《科學革命的結構》中所描述的「科學革命」。
階段I：HI主導式研究
該階段的特點：
第一推動者：主腦：助手= HI：HI：HI
在這個階段，人類直接參與幾乎所有重要的科學過程。機器或AI的智能水平在這個階段仍然很低。儘管一些具體的研究任務可以委託給機器或AI，但它們只起到輔助作用，其能力通常不超過人們的預期。
階段II：AI助手式研究
該階段的特點：
第一推動者：主腦：助手= HI：HI：AI
在這個階段，AI科學家在專業領域提供具體幫助。由於AI在特定任務中的優越表現，其援助經常超過人類的預期並成為不可或缺的部分。儘管如此，人類在第一推動者和主腦的角色中仍然保持絕對主導地位。
階段III：AI主腦式研究
該階段的特點：
第一推動者：主腦：助手= HI：AI：HI
該研究展示的科研範式屬於這個階段。在這個階段，儘管AI可以自主地執行諸如提出科學假設之類的高級科學研究環節，但仍受到諸如機器人技術等方面的限制，無法完全實現實驗自動化。
因此，人類必須擔任助手來啟動或執行特定實驗的某些部分，與不同的AI工具進行對接，並將結果中心化提供給AI主腦以幫助決定下一步研究計劃。
需要注意的是，在這個階段，各種特定的科學工作和任務仍然可以由強大的AI工具執行，但科學研究閉環並非完全由AI驅動，需要HI充當信息整合者並促進互動。因此，在這個階段，人類在助手這個抽象角色中不能被AI完全替代。
階段IV：AI閉環式研究
該階段的特點：
第一推動者：主腦：助手= HI：AI：AI
在這個階段，得益於AI、機器人技術和自動化的高度發展，AI主腦不再需要人類作為中間助手。除第一推動者外，所有其他角色都可以完全被AI和機器人替代。
此時，AI驅動的科學研究形成一個完全閉環。由於AI和機器人具有不知疲倦、無休止工作的能力，知識爆炸將會發生。在那個時候，人類可能只需要提出問題，AI就可以成為問題的解決者；人類甚至可能只需要審查並控制向AI提出的問題是否合適。
階段V：AI全棧式研究
該階段的特點：
第一推動者：主腦：助手= AI：AI：AI
在這個階段，人類的參與可能不再是必要的。 AI可能能夠自主地探索和發現世界中的新知識，就像今天的人類科學家一樣。
人類唯一需要做的可能是控制與AI相關的風險，並確保AI的研究方向符合人類發展目標。在這個階段，實現全自主的知識發現和科學創新成為可能。
總結
總之，在該研究中，研究者們首次呈現了一個處於「階段III：AI主腦式研究」範式的AI介導的完整閉環自然科學研究的案例。
考慮到GPT-4及其後繼者俱有超越任何個人的廣泛知識，作為人類科學家，我們實際上可以通過在不同研究領域向AI提問來尋求研究靈感。
因此，研究者們預計，在未來幾年，將會出現大量基於階段III科研範式的研究成果。此外，如果未來能夠在機器人技術和自動化方面取得重大突破，研究者們還可以期待看到「階段IV：AI閉環式研究」範式的出現。
GPT-4基於其目前版本訓練數據中不可能具備的「知識」，提出了全新的科研想法
對於AI能力的憂慮
當完成了本篇論文之後，研究團隊也對AI的能力產生了憂慮。
對於HI-AI面臨潛在「主僕關係」逆轉的憂慮
哲學家黑格爾提出了「主僕辯證法」的概念，僕人最初依賴於主人，但隨著主人將越來越多的任務委託給僕人，關係可能發生逆轉，導致主人變得越來越依賴僕人。當研究者們過度依賴一個工具時，即使作為其擁有者，研究者們也可能經歷主僕關係的轉變。
當研究者們過度依賴一個工具時，即使作為其擁有者，研究者們也可能經歷主僕關係的轉變。如果科學家越來越遠離直接的科學思考和行動，他們就不可避免地走向過度依賴AI，使AI成為科學發現的絕對驅動力，而人類則不斷滑向從屬地位。
因此，在可預見的未來，儘管AI將極大地推動科學進步，但人類不應忘記不斷審視自己是否面臨著科學領域的主僕關係的潛在轉變。
對於人類在科學創造力方面的憂慮
傲慢導致失敗。 AI正在迅速發展，AI主腦科學家的出現進一步加速了人類科技進步的速度。因此，人們應該以發展和審慎的眼光來看待未來科技的走向，人類或許也不能過分Optimism地高估自己在創造力方面的優勢，即便是在科學研究的頂峰。正如人們曾經認為藝術創造力是人類獨有的天賦，然而，各種生成式AI模型的出現使人們重新審視這一觀點。
AI藝術家的作品甚至超越了人類，贏得了藝術比賽。對於GPT-4，它的出現可能也會導致大量職業被取代。如何妥善協調AI與HI的關係，保持人類的獨特性，這仍然是一個值得不斷謹慎反思的問題。
本研究的不足
最後，研究者也總結了本研究的一些局限性：
例如，研究者們無法保證AI沒有從浩如煙海的在線信息中學到關於電泳研究設計的知識。然而，正如科學研究需要閱讀大量文獻，站在巨人的肩膀上才能取得進步一樣，一個優秀的科學家總能從大量知識中提煉出精髓並將其整合使用，而GPT-4正好做到了這一點。
另外，在測試中，研究者給GPT-4提供的都是真實的實驗條件和真實的數據；而GPT-4實際上能夠根據所提供的真實的信息進行反饋。這和過去的情況很不一樣。一個科學家能夠發現關於真實世界的新知識的關鍵，即在於他必須要能和真實世界做出直接的交互並整合來自於真實世界的信息。
因此，即便一個AI其所具備的創新能力僅僅局限於組合式創新（而非絕對的原始創新），但只要其具備將過往知識和來自於真實世界的新的真實信息進行正確整合的能力，其就有產生新的自然科學研究創新的可能。
未來，人們可以嘗試向GPT-4或更先進的AI系統提出尚未解決或未見過的問題，並讓AI嘗試提出假設、設計實驗並協助人類解決這些挑戰，從而更為紮實地展示AI作為創造性科學家的潛力。
儘管如此，該研究的初步測試已經表明這是非常有可能的。
致謝
研究團隊衷心感謝西湖大學對AI交叉科學社的支持；感謝AI交叉科學社兩位指導老師：許田教授和張岳教授的鼎力支持；感謝許田、張岳、曾安平、解明歧實驗室為本研究提供了基本的生物學試劑和AI洞見
參考資料
https://www.biorxiv.org/content/10.1101/2023.04.19.537579v1
資訊來源：由0x資訊編譯自8BTC。版權歸作者所有，未經許可，不得轉載