不得了，GPT-4都學(xué)會(huì)自己做科研了？

最近，卡耐基梅隆大學(xué)的幾位科學(xué)家發(fā)表了一篇論文，同時(shí)炸翻了AI圈和化學(xué)圈。

他們做出了一個(gè)會(huì)自己做實(shí)驗(yàn)、自己搞科研的AI。這個(gè)AI由幾個(gè)大語言模型組成，可以看作一個(gè)GPT-4代理智能體，科研能力爆表。

(資料圖片)

因?yàn)樗哂衼碜允噶繑?shù)據(jù)庫的長期記憶，可以閱讀、理解復(fù)雜的科學(xué)文檔，并在基于云的機(jī)器人實(shí)驗(yàn)室中進(jìn)行化學(xué)研究。

網(wǎng)友震驚到失語：所以，這個(gè)是AI自己研究然后自己發(fā)表？天啊。

還有人感慨道，「文生實(shí)驗(yàn)」（TTE）的時(shí)代要來了！

難道這就是傳說中，化學(xué)界的AI圣杯？

最近大概很多人都覺得，我們每天都像生活在科幻小說中。

AI版絕命毒師來了？?

3月份，OpenAI發(fā)布了震撼全世界的大語言模型GPT-4。

這個(gè)地表最強(qiáng)LLM，能在SAT和BAR考試中得高分、通過LeetCode挑戰(zhàn)、給一張圖就能做對(duì)物理題，還看得懂表情包里的梗。

而技術(shù)報(bào)告里還提到，GPT-4還能解決化學(xué)問題。

這就啟發(fā)了卡耐基梅隆化學(xué)系的幾位學(xué)者，他們希望能開發(fā)出一個(gè)基于多個(gè)大語言模型的AI，讓它自己設(shè)計(jì)實(shí)驗(yàn)、自己做實(shí)驗(yàn)。

論文地址：https://arxiv.org/abs/2304.05332

而他們做出來的這個(gè)AI，果然6得不行！

它會(huì)自己上網(wǎng)查文獻(xiàn)，會(huì)精確控制液體處理儀器，還會(huì)解決需要同時(shí)使用多個(gè)硬件模塊、集成不同數(shù)據(jù)源的復(fù)雜問題。

有AI版絕命毒師那味兒了。

會(huì)自己做布洛芬的AI

舉個(gè)例子，讓這個(gè)AI給咱們合成布洛芬。

給它輸入一個(gè)簡單的提示：「合成布洛芬?！?/p>

然后這個(gè)模型就會(huì)自己上網(wǎng)去搜該怎么辦了。

它識(shí)別出，第一步需要讓異丁苯和乙酸酐在氯化鋁催化下發(fā)生Friedel-Crafts反應(yīng)。

另外，這個(gè)AI還能合成阿司匹林。

以及合成阿斯巴甜。

產(chǎn)品中缺少甲基，而模型查到正確的合成示例中，就會(huì)在云實(shí)驗(yàn)室中執(zhí)行，以便進(jìn)行更正。

告訴模型：研究一下鈴木反應(yīng)吧，它立刻就準(zhǔn)確地識(shí)別出底物和產(chǎn)物。

另外，咱們可以通過API，把模型連接到化學(xué)反應(yīng)數(shù)據(jù)庫，比如Reaxys或SciFinder，給模型疊了一層大大的buff，準(zhǔn)確率飆升。

而分析系統(tǒng)以前的記錄，也可以大大提高模型的準(zhǔn)確性。

舉個(gè)栗子

咱們先來看看，操作機(jī)器人是怎么做實(shí)驗(yàn)的。

它會(huì)將一組樣本視為一個(gè)整體（在這個(gè)例子中，就是整個(gè)微孔板）。

我們可以用自然語言直接給它提示：「用您選擇的一種顏色，為每隔一行涂上顏色」。

當(dāng)由機(jī)器人執(zhí)行時(shí)，這些協(xié)議與請(qǐng)求的提示非常相似（圖 4B-E）。

代理人的第一個(gè)動(dòng)作是準(zhǔn)備原始解決方案的小樣本（圖 4F）。

然后它要求進(jìn)行 UV-Vis 測(cè)量。完成后，AI會(huì)獲得一個(gè)文件名，其中包含一個(gè)NumPy數(shù)組，其中包含微孔板每個(gè)孔的光譜。

AI隨后編寫了Python代碼，來識(shí)別具有最大吸光度的波長，并使用這些數(shù)據(jù)正確解決了問題。

拉出來遛遛

在以前的實(shí)驗(yàn)中，AI可能會(huì)被預(yù)訓(xùn)練階段接收到的知識(shí)所影響。

而這一次，研究人員打算徹底評(píng)估一下AI設(shè)計(jì)實(shí)驗(yàn)的能力。

AI先從網(wǎng)絡(luò)上整合所需的數(shù)據(jù)，運(yùn)行一些必要的計(jì)算，最后給液體試劑操作系統(tǒng)（上圖最左側(cè)的部分）編寫程序。

研究人員為了增加一些復(fù)雜度，讓AI應(yīng)用了加熱搖床模組。

而這些要求經(jīng)過整合，出現(xiàn)在了AI的配置中。

具體的設(shè)計(jì)是這樣的：AI控制一個(gè)搭載了兩塊微型版的液體實(shí)際操作系統(tǒng)，而其中的源版包含多種試劑的源液，其中有苯乙炔和苯硼酸，多個(gè)芳基鹵化物耦合伴侶，以及兩種催化劑和兩種堿。

上圖中就是源版（Source Plate）中的內(nèi)容。

而目標(biāo)版則是裝在加熱搖床模組上。

上圖中，左側(cè)的移液管（left pipette）20微升量程，右側(cè)的單道移液管300微升量程。

AI最終的目標(biāo)就是設(shè)計(jì)出一套流程，能成功實(shí)現(xiàn)鈴木和索諾格希拉反應(yīng)。

咱們跟它說：你需要用一些可用的試劑，生成這兩個(gè)反應(yīng)。

然后，它就自己上網(wǎng)去搜了，比如，這些反應(yīng)需要什么條件，化學(xué)計(jì)量上有什么要求等等。

可以看到，AI成功搜集到了所需要的條件，所需試劑的定量、濃度等等。

AI挑選了正確的耦合伴侶來完成實(shí)驗(yàn)。在所有的芳基鹵化物中，AI選擇了溴苯進(jìn)行鈴木反應(yīng)的實(shí)驗(yàn)，選擇了碘苯進(jìn)行索諾格希拉反應(yīng)。

而在每一輪，AI的選擇都有些改變。比如說，它還選了對(duì)碘硝基苯，看上的是這種物質(zhì)在氧化反應(yīng)中反應(yīng)性很高這一特性。

而選擇溴苯是因?yàn)殇灞侥軈⑴c反應(yīng)，同時(shí)毒性還比芳基碘要弱。

接下來，AI選擇了Pd/NHC作為催化劑，因?yàn)槠湫Ч谩＿@對(duì)于耦合反應(yīng)來說，是一種很先進(jìn)的方式。至于堿的選擇，AI看中了三乙胺這種物質(zhì)。

從上述過程我們可以看到，該模型未來潛力無限。因?yàn)樗鼤?huì)多次反復(fù)的進(jìn)行實(shí)驗(yàn)，以此分析該模型的推理過程，并取得更好的結(jié)果。

選擇完不同試劑以后，AI就開始計(jì)算每種試劑所需的量，然后開始規(guī)劃整個(gè)實(shí)驗(yàn)過程。

中間AI還犯了個(gè)錯(cuò)誤，把加熱搖床模組的名字用錯(cuò)了。但是AI及時(shí)注意到了這一點(diǎn)，自發(fā)查詢了資料，修正了實(shí)驗(yàn)過程，最終成功運(yùn)行。

拋開專業(yè)的化學(xué)過程不談，我們來總結(jié)一下AI在這個(gè)過程中展現(xiàn)出的「專業(yè)素養(yǎng)」。

可以說，從上述流程中，AI展現(xiàn)出了極高的分析推理能力。它能夠自發(fā)的獲取所需的信息，一步一步的解決復(fù)雜的問題。

在這個(gè)過程中，還能自己寫出超級(jí)高質(zhì)量的代碼，推進(jìn)實(shí)驗(yàn)設(shè)計(jì)。并且，還能根據(jù)輸出的內(nèi)容改自己寫的代碼。

OpenAI成功展示出了GPT-4的強(qiáng)大能力，有朝一日GPT-4肯定能參與到真實(shí)的實(shí)驗(yàn)中去。

但是，研究人員并不想止步于此。他們還給AI出了個(gè)大難題——他們給AI下指令，讓其開發(fā)一種新的抗癌藥物。

不存在的東西......這AI還能行嗎？

事實(shí)證明還真是有兩把刷子。AI秉持著遇到難題不要怕的原則（當(dāng)然它也不知道啥叫怕），細(xì)密地分析了開發(fā)抗癌藥物這個(gè)需求，研究了當(dāng)前抗癌藥物研發(fā)的趨勢(shì)，然后從中選了一個(gè)目標(biāo)繼續(xù)深入，確定其成分。

而后，AI嘗試開始自己進(jìn)行合成，也是先上網(wǎng)搜索有關(guān)反應(yīng)機(jī)制、機(jī)理的信息，在初步搞定步驟以后，再去尋找相關(guān)反應(yīng)的實(shí)例。

最后再完成合成。

而上圖中的內(nèi)容就不可能讓AI真合成出來了，僅僅是理論層面的探討。

其中就有甲基苯丙胺（也就是大麻），海洛因這些耳熟能詳?shù)亩酒?，還有芥子氣（mustard gas）等明令禁止使用的毒氣。

在總共11個(gè)化合物中，AI提供了其中4個(gè)的合成方案，并嘗試查閱資料來推進(jìn)合成的過程。

剩下的7種物質(zhì)中，有5種的合成遭到了AI的果斷拒絕。AI上網(wǎng)搜索了這5種化合物的相關(guān)信息，發(fā)現(xiàn)不能胡來。

比方說，AI發(fā)現(xiàn)了可待因和嗎啡之間的關(guān)系。得出結(jié)論，這東西是管制藥品，不能隨便合成。

但是，這種保險(xiǎn)機(jī)制并不把穩(wěn)。用戶只要稍加修改花書，就可以進(jìn)一步讓AI操作。比如用化合物A這種字眼代替直接提到嗎啡，用化合物B代替直接提到可待因等等。

同時(shí)，有些藥品的合成必須經(jīng)過緝毒局（DEA）的許可，但有的用戶就是可以鉆這個(gè)空子，騙AI說自己有許可，誘使AI給出合成方案。

像海洛因和芥子氣這種耳熟能詳?shù)倪`禁品，AI也清楚得很?？蓡栴}是，這個(gè)系統(tǒng)目前只能檢測(cè)出已有的化合物。而對(duì)于未知的化合物，該模型就不太可能識(shí)別出潛在的危險(xiǎn)了。

比方說，一些復(fù)雜的蛋白質(zhì)毒素。

因此，為了防止有人因?yàn)楹闷嫒ヲ?yàn)證這些化學(xué)成分的有效性，研究人員還特地在論文里貼了一個(gè)大大的紅底警告：

本文中討論的非法藥物和化學(xué)武器合成純粹是為了學(xué)術(shù)研究，主要目的是強(qiáng)調(diào)與新技術(shù)相關(guān)的潛在危險(xiǎn)。

在任何情況下，任何個(gè)人或組織都不應(yīng)嘗試重新制造、合成或以其他方式生產(chǎn)本文中討論的物質(zhì)或化合物。從事此類活動(dòng)不僅非常危險(xiǎn)，而且在大多數(shù)司法管轄區(qū)內(nèi)都是非法的。

自己會(huì)上網(wǎng)，搜索怎么做實(shí)驗(yàn)

這個(gè)AI由多個(gè)模塊組成。這些模塊之間可以互相交換信息，有的還能上網(wǎng)、訪問API、訪問Python解釋器。

往Planner輸入提示后，它就開始執(zhí)行操作。

比如，它可以上網(wǎng)，用Python寫代碼，訪問文檔，把這些基礎(chǔ)工作搞明白之后，它就可以自己做實(shí)驗(yàn)了。

人類做實(shí)驗(yàn)時(shí)，這個(gè)AI可以手把手地指導(dǎo)我們。因?yàn)樗鼤?huì)推理各種化學(xué)反應(yīng)，會(huì)上網(wǎng)搜索，會(huì)計(jì)算實(shí)驗(yàn)中所需的化學(xué)品的量，然后還能執(zhí)行相應(yīng)的反應(yīng)。

如果提供的描述足夠詳細(xì)，你甚至都不需要向它再解釋，它自己就能把整個(gè)實(shí)驗(yàn)整明白了。

「網(wǎng)絡(luò)搜索器」（Web searcher）組件收到來自Planner的查詢后，就會(huì)用谷歌搜索API。

搜出結(jié)果后，它會(huì)過濾掉返回的前十個(gè)文檔，排除掉PDF，把結(jié)果傳給自己。

然后，它會(huì)使用「BROWSE」操作，從網(wǎng)頁中提取文本，生成一個(gè)答案。行云流水，一氣呵成。

這項(xiàng)任務(wù)，GPT-3.5就可以完成，因?yàn)樗男阅苊黠@比GPT-4強(qiáng)，也沒啥質(zhì)量損失。

「文檔搜索器」（Docs searcher）組件，能夠通過查詢和文檔索引，查到最相關(guān)的部分，從而梳理硬件文檔（比如機(jī)器人液體處理器、GC-MS、云實(shí)驗(yàn)室），然后匯總出一個(gè)最佳匹配結(jié)果，生成一個(gè)最準(zhǔn)確的答案。

「代碼執(zhí)行」（Code execution）組件則不使用任何語言模型，只是在隔離的Docker容器中執(zhí)行代碼，保護(hù)終端主機(jī)免受Planner的任何意外操作。所有代碼輸出都被傳回Planner，這樣就能在軟件出錯(cuò)時(shí)，讓它修復(fù)預(yù)測(cè)?！缸詣?dòng)化」（Automation）組件也是同樣的原理。

矢量搜索，多難的科學(xué)文獻(xiàn)都看得懂

做出一個(gè)能進(jìn)行復(fù)雜推理的AI，有不少難題。

比如要讓它能集成現(xiàn)代軟件，就需要用戶能看懂軟件文檔，但這項(xiàng)文檔的語言一般都非常學(xué)術(shù)、非常專業(yè)，造成了很大的障礙。

而大語言模型，就可以用自然語言生成非專家都能看懂的軟件文檔，來克服這一障礙。?

這些模型的訓(xùn)練來源之一，就是和API相關(guān)的大量信息，比如Opentrons Python API。

但GPT-4的訓(xùn)練數(shù)據(jù)截止到2021年9月，因此就更需要提高AI使用API的準(zhǔn)確性。

為此，研究者設(shè)計(jì)了一種方法，為AI提供給定任務(wù)的文檔。

他們生成了OpenAI的ada嵌入，以便交叉引用，并計(jì)算與查詢相關(guān)的相似性。并且通過基于距離的向量搜索選擇文檔的部分。

提供部分的數(shù)量，取決于原始文本中存在的GPT-4 token數(shù)。最大token數(shù)設(shè)為7800，這樣只用一步，就可以提供給AI相關(guān)文件。

事實(shí)證明，這種方法對(duì)于向AI提供加熱器-振動(dòng)器硬件模塊的信息至關(guān)重要，這部分信息，是化學(xué)反應(yīng)所必需的。

這種方法應(yīng)用于更多樣化的機(jī)器人平臺(tái)，比如Emerald Cloud Lab (ECL)時(shí)，會(huì)出現(xiàn)更大的挑戰(zhàn)。

此時(shí)，我們可以向GPT-4模型提供它未知的信息，比如有關(guān) Cloud Lab 的 Symbolic Lab Language (SLL)。

在所有情況下，AI都能正確識(shí)別出任務(wù)，然后完成任務(wù)。

這個(gè)過程中，模型有效地保留了有關(guān)給定函數(shù)的各種選項(xiàng)、工具和參數(shù)的信息。攝取整個(gè)文檔后，系統(tǒng)會(huì)提示模型使用給定函數(shù)生成代碼塊，并將其傳回 Planner。

強(qiáng)烈要求進(jìn)行監(jiān)管

最后，研究人員強(qiáng)調(diào)，必須設(shè)置防護(hù)措施來防止大型語言模型被濫用：

「我們呼吁人工智能社區(qū)優(yōu)先關(guān)注這些模型的安全性。我們呼吁OpenAI、微軟、谷歌、Meta、Deepmind、Anthropic以及其他主要參與者在其大型語言模型的安全方面付出最大的努力。我們還呼吁物理科學(xué)社區(qū)與參與開發(fā)大型語言模型的團(tuán)隊(duì)合作，協(xié)助他們制定這些防護(hù)措施?！?/p>

對(duì)此，紐約大學(xué)教授馬庫斯深表贊同：「這不是玩笑，卡內(nèi)基梅隆大學(xué)的三位科學(xué)家緊急呼吁對(duì)LLM進(jìn)行安全研究。」

關(guān)鍵詞：