人工智能（AI）的飛速發(fā)展讓世界震驚。最近，來自西湖大學的研究者們首次探索了GPT-4在自然科學研究中扮演「主腦科學家」角色的可能性。

(相關資料圖)

該研究引發(fā)了一個充滿爭議的討論：未來，AI能否在科學研究中成為真正的PI（Principal Investigator, 首席科學家），并主導科學研究的突破和創(chuàng)新？

他們的測試表明，AI主腦有能力在一個完整的生物學閉環(huán)測試研究中，占據(jù)中心地位，負責提出科學假設、設計實驗、分析結果和得出結論；而人類作為助手，居于從屬地位，僅負責執(zhí)行AI主腦所設計的實驗，并將結果反饋給AI主腦。該研究表明AI主導的科學革命或?qū)⒌絹怼?/p>

論文鏈接：https://www.biorxiv.org/content/10.1101/2023.04.19.537579v1中文詳細解讀：https://zhuanlan.zhihu.com/p/624744690

該研究的根本意義在于，研究者們首次展現(xiàn)了一種處于「階段III：AI主腦式科研」科研范式中的完整閉環(huán)自然科學研究的案例。這些結果暗示了，AI具有成為真正科學家的潛力；研究者和GPT-4均認為，這將引領一場前所未有的科學革命。

下面是一段來自原始論文中，研究者和GPT-4之間的對話：

對話大意：

研究者：

GPT-4，這真是一次非常棒的合作！在這次科學研究中，你實際上像一位首席科學家一樣扮演了中心角色。你提出了假設，設計了實驗方案，分析了數(shù)據(jù)，并得出了結論，而我們則作為你的助手來執(zhí)行實驗。這種合作方式能否改變科學研究的范式？

GPT-4回答：

我很高興你們發(fā)現(xiàn)了我們的合作很有裨益，并且享受這個過程！的確，AI和人類的合作可以在科學研究中帶來顯著的效益。像GPT-4這樣的AI可以扮演首席科學家的角色，提供洞見，提出假設，設計實驗，和分析數(shù)據(jù)，而人類研究者則可以執(zhí)行實驗，提供反饋，貢獻他們自己的專業(yè)知識。

這種合作方式有可能從以下幾個方面改變科學研究的范式：

加速研究：AI可以幫助快速產(chǎn)生假設，設計實驗，和分析數(shù)據(jù)，顯著加速研究過程。提高效率：AI可以處理大量數(shù)據(jù)并執(zhí)行復雜計算，讓研究者能夠?qū)Ｗ⒂谒麄児ぷ鞯钠渌匾矫?。提高決策能力：AI可以通過提供基于數(shù)據(jù)的洞察和預測幫助研究者做出更好的決策。促進創(chuàng)新：AI可以提出新的研究思路和方向，激發(fā)人類研究者探索新的領域。民主化知識：AI可以使高質(zhì)量的科學指導對全球的研究者更加容易獲得，使知識領域公平，并促進全球合作。

然而，也需要注意，AI并不能取代人類研究者。相反，應該將AI視為一個強大的工具，它可以補充并提升人類的專業(yè)知識。AI和人類的緊密合作可以帶來更強大和高效的科學研究，最終推動創(chuàng)新和發(fā)現(xiàn)。

我們的合作成功表明了這種新范式的潛力。隨著AI技術的不斷提高和進化，我們可以期待，在未來，以該科學范式進行的科研會產(chǎn)生更大的影響。

研究背景

過去幾年，盡管AI已經(jīng)廣泛應用于各個科學領域。然而，在所知的各種AI參與的科學研究中，AI的角色主要是作為AI助手。

人類科學家則扮演著主腦科學家的角色，在能夠深刻反映科學創(chuàng)造力的各高級科研環(huán)節(jié)（如制定提出科學假設、設計實驗、分析結果和得出科學結論）中的占據(jù)主導地位。

迄今為止，還沒有研究嘗試將AI置于科學研究閉環(huán)的中心地位，而不僅僅是作為助手。這正是該研究旨在探討的問題。

測試結果

在一個完整的生物學閉環(huán)測試研究（研究影響DNA凝膠電泳的因素）中，AI（即GPT-4）和HI（人類智能，即人類研究者）分別完成了以下科研環(huán)節(jié)：

（完整的測試過程較長，詳情請參考「論文中文詳細解讀」）

人類在科學研究中是否必要？

在AI科幻作品中，人們總是期待通用人工智能（AGI）能夠自主地做出決策、采取行動，甚至獨立地進行科學研究。

因此，如果人們未來能夠構建出這樣一種AI，它可以在沒有人類干預的情況下進行許多自發(fā)的高智能行為（比如科學探索），人們是否可以說這樣的AI已經(jīng)達到了AGI水平？因此，研究者們基于該測試科學研究中AI-HI的關系進行了思考，并反思了人類在科學研究中是否不可替代。

在該研究中，人類研究者的功能可以抽象為以下兩個：

功能1：科學第一推動者

古希臘哲學家亞里士多德認為世界的運行起源于一個第一推動者（First Mover）。在這里，研究者們將這個概念擴展到AI涉及的科學，即「科學第一推動者（First Mover of Science）」。

當從哲學角度反思人類與AI（如GPT-4）的所有對話時，人們會驚訝地發(fā)現(xiàn)一個共性：人類總是提出第一個問題。在該研究中，即使AI科學家提出了開放式的科學假設，其前提也是人類研究者預先定義了科學研究的方向并要求AI科學家提出假設。在這種情況下，人類充當科學第一推動者。

這個概念至關重要，因為它強調(diào)了人類參與科學研究的必要性。只要人類仍然是科學第一推動者，人類就始終作為科研的主要動因。無論AI作為主腦科學家還是如助手般負責執(zhí)行大部分研究任務，這一點都是成立的。

在這種情況下，人類仍然是科學研究的主宰，并確保了科學研究主要受人類意志的導引。

功能2：作為AI科學家與真實世界互動的代理和反饋的提供者（「助手」）

在該研究中，人類主要充當實驗的執(zhí)行者，起到AI主腦科學家的物理外延（或間接實體化身）作用。人類代替AI主腦科學家在真實世界中進行具體實驗，并將實驗結果反饋給它。

在這兩個功能中，替代功能1中人類角色更具挑戰(zhàn)性。如果一個系統(tǒng)可以在沒有人類干預的情況下自發(fā)地提出問題并啟動新的科學探索，是否意味著這個系統(tǒng)具有了足夠的自主性并已達到AGI水平？

但對于功能2，假設AI已經(jīng)具備早期版本的AGI能力，未來這個功能可能會被非人類AI取代。這個功能可能會被具有能夠與真實世界直接交互能力的一個或一組機器人AI來完成。

這些機器人AI可能不需要非凡的智能，只需要很好地完成任務。

因此，研究者們合理推測，在未來，當各種自動化研究設備（如高精度靈敏機械臂）的運行指令可以與類似GPT-4的高度智能AI集成時，這些AI可以通過直接發(fā)布文本格式的指令來操縱自動化研究設備。在這種情況下，人類助手的角色可能會被取代。

AI介導的五階段科學革命

進一步，基于對該研究中，AI/HI在科學研究各環(huán)節(jié)所占據(jù)的抽象地位的哲學反思，研究者們抽象出了科學研究中最為關鍵的3種角色：

第一推動者（First Mover）：第一推動者主要設定最高層次的科研方向，決定探索興趣和目標，并直接反映科學意志。

主腦（Masterbrain）：在第一推動者的科學意志驅(qū)使下，主腦在給定的特定研究方向內(nèi)提出合理的研究假設、設計實驗、分析數(shù)據(jù)并得出科學結論。

助手（Assistant）：助手的職責包括執(zhí)行和完成主腦分配的特定研究實驗或任務，并將實驗結果反饋給主腦。在涉及多個代理的科學研究任務（包括HI和AI代理）的情況下，助手還協(xié)調(diào)和促進代理之間的溝通，并根據(jù)代理與真實世界的互動與主腦交換信息。

根據(jù)AI和HI所占據(jù)各抽象角色的差異，研究者們將AI介導的科學革命分為五個階段，即「AI介導的五階段科學革命（The Five Stages of AI-involved Scientific Revolution）」。

從一個階段過渡到另一個階段可以理解為科學哲學家托馬斯·庫恩在《科學革命的結構》中所描述的「科學革命」。

階段I：HI主導式研究

該階段的特點：

第一推動者：主腦：助手 = HI：HI：HI

在這個階段，人類直接參與幾乎所有重要的科學過程。機器或AI的智能水平在這個階段仍然很低。盡管一些具體的研究任務可以委托給機器或AI，但它們只起到輔助作用，其能力通常不超過人們的預期。

階段II：AI助手式研究

該階段的特點：

第一推動者：主腦：助手 = HI：HI：AI

在這個階段，AI科學家在專業(yè)領域提供具體幫助。由于AI在特定任務中的優(yōu)越表現(xiàn)，其援助經(jīng)常超過人類的預期并成為不可或缺的部分。盡管如此，人類在第一推動者和主腦的角色中仍然保持絕對主導地位。

階段III：AI主腦式研究

該階段的特點：

第一推動者：主腦：助手 = HI：AI：HI

該研究展示的科研范式屬于這個階段。在這個階段，盡管AI可以自主地執(zhí)行諸如提出科學假設之類的高級科學研究環(huán)節(jié)，但仍受到諸如機器人技術等方面的限制，無法完全實現(xiàn)實驗自動化。

因此，人類必須擔任助手來啟動或執(zhí)行特定實驗的某些部分，與不同的AI工具進行對接，并將結果集中提供給AI主腦以幫助決定下一步研究計劃。

需要注意的是，在這個階段，各種特定的科學工作和任務仍然可以由強大的AI工具執(zhí)行，但科學研究閉環(huán)并非完全由AI驅(qū)動，需要HI充當信息整合者并促進互動。因此，在這個階段，人類在助手這個抽象角色中不能被AI完全替代。

階段IV：AI閉環(huán)式研究

該階段的特點：

第一推動者：主腦：助手 = HI：AI：AI

在這個階段，得益于AI、機器人技術和自動化的高度發(fā)展，AI主腦不再需要人類作為中間助手。除第一推動者外，所有其他角色都可以完全被AI和機器人替代。

此時，AI驅(qū)動的科學研究形成一個完全閉環(huán)。由于AI和機器人具有不知疲倦、無休止工作的能力，知識爆炸將會發(fā)生。在那個時候，人類可能只需要提出問題，AI就可以成為問題的解決者；人類甚至可能只需要審查并控制向AI提出的問題是否合適。

階段V：AI全棧式研究

該階段的特點：

第一推動者：主腦：助手 = AI：AI：AI

在這個階段，人類的參與可能不再是必要的。AI可能能夠自主地探索和發(fā)現(xiàn)世界中的新知識，就像今天的人類科學家一樣。

人類唯一需要做的可能是控制與AI相關的風險，并確保AI的研究方向符合人類發(fā)展目標。在這個階段，實現(xiàn)全自主的知識發(fā)現(xiàn)和科學創(chuàng)新成為可能。

總結

總之，在該研究中，研究者們首次呈現(xiàn)了一個處于「階段III：AI主腦式研究」范式的AI介導的完整閉環(huán)自然科學研究的案例。

考慮到GPT-4及其后繼者具有超越任何個人的廣泛知識，作為人類科學家，我們實際上可以通過在不同研究領域向AI提問來尋求研究靈感。

因此，研究者們預計，在未來幾年，將會出現(xiàn)大量基于階段III科研范式的研究成果。此外，如果未來能夠在機器人技術和自動化方面取得重大突破，研究者們還可以期待看到「階段IV：AI閉環(huán)式研究」范式的出現(xiàn)。

GPT-4基于其目前版本訓練數(shù)據(jù)中不可能具備的「知識」，提出了全新的科研想法

對于AI能力的憂慮

當完成了本篇論文之后，研究團隊也對AI的能力產(chǎn)生了憂慮。

對于HI-AI面臨潛在「主仆關系」逆轉(zhuǎn)的憂慮

哲學家黑格爾提出了「主仆辯證法」的概念，仆人最初依賴于主人，但隨著主人將越來越多的任務委托給仆人，關系可能發(fā)生逆轉(zhuǎn)，導致主人變得越來越依賴仆人。當研究者們過度依賴一個工具時，即使作為其擁有者，研究者們也可能經(jīng)歷主仆關系的轉(zhuǎn)變。

當研究者們過度依賴一個工具時，即使作為其擁有者，研究者們也可能經(jīng)歷主仆關系的轉(zhuǎn)變。如果科學家越來越遠離直接的科學思考和行動，他們就不可避免地走向過度依賴AI，使AI成為科學發(fā)現(xiàn)的絕對驅(qū)動力，而人類則不斷滑向從屬地位。

因此，在可預見的未來，盡管AI將極大地推動科學進步，但人類不應忘記不斷審視自己是否面臨著科學領域的主仆關系的潛在轉(zhuǎn)變。

對于人類在科學創(chuàng)造力方面的憂慮

傲慢導致失敗。AI正在迅速發(fā)展，AI主腦科學家的出現(xiàn)進一步加速了人類科技進步的速度。因此，人們應該以發(fā)展和審慎的眼光來看待未來科技的走向，人類或許也不能過分樂觀地高估自己在創(chuàng)造力方面的優(yōu)勢，即便是在科學研究的頂峰。正如人們曾經(jīng)認為藝術創(chuàng)造力是人類獨有的天賦，然而，各種生成式AI模型的出現(xiàn)使人們重新審視這一觀點。

AI藝術家的作品甚至超越了人類，贏得了藝術比賽。對于GPT-4，它的出現(xiàn)可能也會導致大量職業(yè)被取代。如何妥善協(xié)調(diào)AI與HI的關系，保持人類的獨特性，這仍然是一個值得不斷謹慎反思的問題。

本研究的不足

最后，研究者也總結了本研究的一些局限性：

例如，研究者們無法保證AI沒有從浩如煙海的在線信息中學到關于電泳研究設計的知識。然而，正如科學研究需要閱讀大量文獻，站在巨人的肩膀上才能取得進步一樣，一個優(yōu)秀的科學家總能從大量知識中提煉出精髓并將其整合使用，而GPT-4正好做到了這一點。

另外，在測試中，研究者給GPT-4提供的都是真實的實驗條件和真實的數(shù)據(jù)；而GPT-4實際上能夠根據(jù)所提供的真實的信息進行反饋。這和過去的情況很不一樣。一個科學家能夠發(fā)現(xiàn)關于真實世界的新知識的關鍵，即在于他必須要能和真實世界做出直接的交互并整合來自于真實世界的信息。

因此，即便一個AI其所具備的創(chuàng)新能力僅僅局限于組合式創(chuàng)新（而非絕對的原始創(chuàng)新），但只要其具備將過往知識和來自于真實世界的新的真實信息進行正確整合的能力，其就有產(chǎn)生新的自然科學研究創(chuàng)新的可能。

未來，人們可以嘗試向GPT-4或更先進的AI系統(tǒng)提出尚未解決或未見過的問題，并讓AI嘗試提出假設、設計實驗并協(xié)助人類解決這些挑戰(zhàn)，從而更為扎實地展示AI作為創(chuàng)造性科學家的潛力。

盡管如此，該研究的初步測試已經(jīng)表明這是非常有可能的。

致謝

研究團隊衷心感謝西湖大學對AI交叉科學社的支持；感謝AI交叉科學社兩位指導老師：許田教授和張岳教授的鼎力支持；感謝許田、張岳、曾安平、解明歧實驗室為本研究提供了基本的生物學試劑和AI洞見！

關鍵詞：