在正式介紹這篇文章之前，我們先提個(gè)問題：下圖的表情符號描述的是什么電影呢？

(相關(guān)資料圖)

可能連你都猜不出來，這四個(gè)符號代表的電影是「海底總動員」，這一提示任務(wù)是去年評測大型語言模型（LLM）204 個(gè)任務(wù)中的其中一個(gè)任務(wù)。對于最簡單的 LLM 模型，給出的回答多少有點(diǎn)胡編亂造，它認(rèn)為這部電影講述的是一個(gè)男人的故事；相對復(fù)雜一點(diǎn)的中型模型，給出的回答是「The Emoji Movie」，這時(shí)答案已經(jīng)很接近了。不過最復(fù)雜的模型猜中了，給出「海底總動員」這一答案。

谷歌計(jì)算機(jī)科學(xué)家 Ethan Dyer 表示：「模型的這一行為令人感到驚訝。更令人驚訝的是，這些模型只使用指令：即接受一串文本作為輸入，而后預(yù)測接下來會發(fā)生什么，并完全基于統(tǒng)計(jì)數(shù)據(jù)來不斷重復(fù)這個(gè)過程?！挂恍W(xué)者開始預(yù)計(jì)，擴(kuò)大模型規(guī)模會提高解決已知任務(wù)的性能，但他們未預(yù)料到這些模型能突然處理這么多新的、不可預(yù)測的任務(wù)。

Ethan Dyer 近期所做的一項(xiàng)調(diào)查表明，LLM 可以創(chuàng)造出數(shù)百種「涌現(xiàn)（emergent）」能力，即大型模型可以完成而小型模型無法完成某些任務(wù)的能力。顯然，隨著模型的擴(kuò)展能力提升了，從簡單的乘法到生成可執(zhí)行的計(jì)算機(jī)代碼，直到基于表情符號解碼電影。新的分析表明，對于某些任務(wù)和某些模型，存在一個(gè)復(fù)雜性閾值，一旦超過該閾值，模型的功能就會如火箭騰空般急速提升。不過研究者還指出模型擴(kuò)展帶來的負(fù)面影響，即隨著復(fù)雜性的增加，一些模型在他們的響應(yīng) (response) 中表現(xiàn)出了新的偏見和不準(zhǔn)確性。

斯坦福大學(xué)計(jì)算機(jī)科學(xué)家 Rishi Bommasani 表示：「在我所知道的所有文獻(xiàn)中，從未有討論過語言模型可以做這些事情。」去年，他幫助編制了一份包含數(shù)十種模型涌現(xiàn)行為的清單，其中包括 Ethan Dyer 項(xiàng)目中確定的幾種行為。如今，該清單仍然在繼續(xù)變長。

如今，研究人員不僅競相確定大模型涌現(xiàn)能力，而且還想弄清楚它們發(fā)生的原因和方式 —— 本質(zhì)上是試圖預(yù)測不可預(yù)測性。理解其涌現(xiàn)性可以揭示與人工智能和機(jī)器學(xué)習(xí)有關(guān)的深層問題的答案，比如復(fù)雜模型是否真的在做一些新的事情，或者只是變得非常擅長統(tǒng)計(jì)。此外，它還可以幫助研究人員利用潛在的好處并減少涌現(xiàn)的風(fēng)險(xiǎn)。

生物學(xué)家、物理學(xué)家、生態(tài)學(xué)家和其他科學(xué)家使用涌現(xiàn)這一術(shù)語來描述當(dāng)一大批事物作為一個(gè)整體行動時(shí)出現(xiàn)的自組織集體性行為。無生命原子的組合產(chǎn)生了活細(xì)胞；水分子創(chuàng)造了波浪；椋鳥群以不斷變化但可識別的隊(duì)形掠過天空的壯觀自然景象；細(xì)胞使肌肉運(yùn)動和心臟跳動。至關(guān)重要的是，涌現(xiàn)能力出現(xiàn)在涉及許多獨(dú)立部分的系統(tǒng)中。但研究人員直到最近才能夠在 LLM 中記錄這種涌現(xiàn)能力，因?yàn)檫@些模型剛剛才發(fā)展到足夠巨大的規(guī)模。

語言模型已經(jīng)存在了幾十年。直到大約五年前，最強(qiáng)大的模型還是基于循環(huán)神經(jīng)網(wǎng)絡(luò)。這些模型本質(zhì)上取用一串文本并預(yù)測下一個(gè)單詞是什么。使模型循環(huán)的原因在于它從自己的輸出中學(xué)習(xí)：它的預(yù)測會反饋到網(wǎng)絡(luò)中以提高未來的性能。

2017 年，谷歌大腦（Google Brain）的研究人員推出了一種被稱為 Transformer 的新型架構(gòu)。當(dāng)循環(huán)網(wǎng)絡(luò)逐字分析句子時(shí)，Transformer 會同時(shí)處理所有單詞。這意味著 Transformer 可以并行處理大量文本。

「很可能是該模型從根本上學(xué)到了一些新的和不同的東西，而這些東西在較小規(guī)模的模型上是沒有的?！共祭蚀髮W(xué)的 Ellie Pavlick 表示。

通過增加模型中的參數(shù)數(shù)量以及其他因素，Transformers 能夠快速擴(kuò)大語言模型的復(fù)雜性。這些參數(shù)可以被認(rèn)為是單詞之間的連接，通過在訓(xùn)練期間打亂文本，transformers 可以調(diào)整這些連接從而改進(jìn)模型。模型中的參數(shù)越多，它就越能準(zhǔn)確地建立連接，越接近于模仿人類語言。正如預(yù)期的那樣，OpenAI 研究人員在 2020 年進(jìn)行的一項(xiàng)分析發(fā)現(xiàn)，模型隨著規(guī)模的擴(kuò)大而提高了準(zhǔn)確性和能力。

但大型語言模型的問世也帶來了很多真正意想不到的東西。隨著具有 1750 億個(gè)參數(shù)的 GPT-3 或可擴(kuò)展到 5400 億個(gè)參數(shù)的谷歌 PaLM 等模型的出現(xiàn)，用戶開始描述越來越多的涌現(xiàn)行為。一位 DeepMind 工程師甚至報(bào)告說能夠說服 ChatGPT 承認(rèn)它是一個(gè) Linux 終端，并讓它運(yùn)行一些簡單的數(shù)學(xué)代碼來計(jì)算前 10 個(gè)素?cái)?shù)。值得注意的是，比起在真正的 Linux 設(shè)備上運(yùn)行相同的代碼，它可以更快地完成任務(wù)。

與通過表情符號描述電影的任務(wù)一樣，研究人員沒有理由認(rèn)為為預(yù)測文本而構(gòu)建的語言模型會被說服用于模仿計(jì)算機(jī)終端。這些涌現(xiàn)行為中的許多都證明了零樣本或小樣本學(xué)習(xí)，它們描述了 LLM 擁有解決以前從未（或很少）遇到的問題的能力。Ganguli 說，這一直是人工智能研究的長期目標(biāo)。這也表明 GPT-3 可以在零樣本設(shè)定中無需任何明確訓(xùn)練數(shù)據(jù)的情況下解決問題，Ganguli 表示，「這讓我放棄了我正在做的事情，更多地參與到這項(xiàng)研究中。」

在這個(gè)研究領(lǐng)域里，他并不孤單。大量研究人員已經(jīng)發(fā)現(xiàn)了 LLM 可以超越其訓(xùn)練數(shù)據(jù)限制的第一個(gè)線索，他們正在努力更好地理解涌現(xiàn)是什么樣子的以及它是如何發(fā)生的。而要做的第一步就是徹底全面地記錄它。

Ethan Dyer 幫助探索了大型語言模型具有什么樣意想不到的能力，以及它們會帶來什么。-Gabrielle Lurie

2020 年，Dyer 和谷歌研究院的其他研究人員預(yù)測大型語言模型將產(chǎn)生變革性影響 —— 但這些影響是什么仍然是一個(gè)懸而未決的問題。因此，他們要求研究界提供有關(guān)困難且多樣化任務(wù)的例子，以記錄追蹤 LLM 可以做什么的外部極限。這項(xiàng)工作被稱為 BIG-bench（Beyond the Imitation Game Benchmark） 項(xiàng)目，借用了艾倫?圖靈 (Alan Turing) 模仿游戲的名稱，目的是測試計(jì)算機(jī)是否能夠以讓人信服的人類方式回答問題。（這后來被稱為圖靈測試。）該研究組對 LLM 突然獲得前所未有新能力的例子特別感興趣。

正如人們所預(yù)料的那樣，在某些任務(wù)中，隨著復(fù)雜性的增加，模型的性能會得到更為穩(wěn)定且可預(yù)測性的提升。而在其他任務(wù)上，擴(kuò)大參數(shù)數(shù)量并沒有對模型性能產(chǎn)生任何改善。而對于大約 5% 的任務(wù)，研究人員發(fā)現(xiàn)了他們所謂的突破 —— 在某個(gè)閾值范圍內(nèi)，性能出現(xiàn)了快速、戲劇性的躍升。不過該閾值會因任務(wù)和模型而異。

例如，參數(shù)相對較少（僅有幾百萬）的模型可能無法成功完成三位數(shù)的加法或兩位數(shù)的乘法問題，但若擁有數(shù)百億參數(shù)，某些模型的運(yùn)算準(zhǔn)確性會飆升。類似的性能躍升也出現(xiàn)在其他的一些任務(wù)中，包括解碼國際音標(biāo)、解讀單詞的字母、識別印度英語（印地語和英語的組合）段落中的冒犯性內(nèi)容，以及生成與斯瓦希里語諺語類似的英語對應(yīng)語。

但是，研究人員很快就意識到，模型的復(fù)雜性并不是其性能涌現(xiàn)的唯一驅(qū)動因素。如果數(shù)據(jù)質(zhì)量足夠高，一些意想不到的能力可以從參數(shù)較少或是在較小數(shù)據(jù)集上訓(xùn)練的較小模型中誘導(dǎo)而出。此外，查詢的措辭方式也會影響模型響應(yīng)的準(zhǔn)確性。例如，當(dāng) Dyer 和他的同事使用多項(xiàng)選擇格式（multiple-choice format）來安排電影表情符號任務(wù)時(shí)，準(zhǔn)確性并不是突然的跳躍式提高，而是隨著模型復(fù)雜性的增加而逐漸提高。去年，在該領(lǐng)域的頂級學(xué)術(shù)會議 NeurIPS 上發(fā)表的一篇論文中，谷歌大腦（Google Brain）的研究人員展示了一個(gè)具備 prompt 的模型可以自我解釋（一種被稱為思維鏈推理的能力）如何正確解答數(shù)學(xué)應(yīng)用題，而沒有該 prompt 的同一模型卻不能解答該應(yīng)用題。

在研究清楚模型規(guī)模的影響之前，你不會知道它可能會出現(xiàn)什么能力以及它的缺陷是什么。

谷歌大腦系統(tǒng)性研究科學(xué)家 Yi Tay 指出，最近的研究表明思維鏈 prompt 改變了擴(kuò)展曲線，從而改變了模型涌現(xiàn)出現(xiàn)的節(jié)點(diǎn)。谷歌研究人員在他們的 NeurIPS 論文中表明，使用思維鏈 prompts 可以引發(fā) BIG-bench 研究中未識別到的涌現(xiàn)行為。此類要求模型解釋其推理的 prompt 可能有助于研究人員開始調(diào)研涌現(xiàn)發(fā)生的原因。

布朗大學(xué)研究語言計(jì)算模型的計(jì)算機(jī)科學(xué)家 Ellie Pavlick 說，最近的這些發(fā)現(xiàn)至少表明了涌現(xiàn)出現(xiàn)原因的兩種可能性。第一個(gè)可能性是，正如與生物系統(tǒng)的比較所表明的那樣，更大的模型確實(shí)會自發(fā)地獲得新的能力。很可能是該模型學(xué)到了一些全新的和不同的東西，而這些東西在較小規(guī)模的模型上是沒有的，這就是我們都希望的情況，即當(dāng)模型按比例放大時(shí)會發(fā)生一些根本性的變化。

Ellie Pavlick 還指出，另一種相對正?？陀^的可能性是，看似涌現(xiàn)的事情可能反而是通過思維鏈?zhǔn)酵评砥鹱饔玫膬?nèi)部統(tǒng)計(jì)驅(qū)動過程的頂點(diǎn)。大型 LLM 可能只是在學(xué)習(xí)啟發(fā)式方法，而這些啟發(fā)式方法對于那些參數(shù)較少或數(shù)據(jù)質(zhì)量較低的小模型來說卻是難以理解的。

不過 Pavlick 認(rèn)為，由于我們不知道模型底層的工作機(jī)制是怎樣的，所以我們無法說出發(fā)生了哪些事情。

但是大模型也存在缺陷，比如谷歌前段時(shí)間推出的人工智能聊天機(jī)器人 Bard，在回答與詹姆斯?韋布空間望遠(yuǎn)鏡有關(guān)的問題時(shí)犯下事實(shí)性錯(cuò)誤。

涌現(xiàn)導(dǎo)致了不可預(yù)測性，而不可預(yù)測性 —— 似乎隨著模型的規(guī)模擴(kuò)大而增加，研究人員難以掌控。

「我們很難提前知道這些模型將如何被使用或部署，」Ganguli 說。「要研究涌現(xiàn)現(xiàn)象，你必須考慮一個(gè)情況，在研究清楚模型規(guī)模的影響之前，你不會知道它可能會出現(xiàn)什么能力以及它的缺陷是什么?！?/p>

在去年 6 月發(fā)布的一篇 LLM 分析報(bào)告中，Anthropic 的研究人員研究了這些模型是否會表現(xiàn)出某些類型的種族或社會偏見，這與之前不是基于 LLM 的算法（用于預(yù)測哪些前罪犯可能會再次犯罪）所報(bào)告的那些不同。該研究的靈感來自一個(gè)與涌現(xiàn)直接相關(guān)的明顯悖論：隨著模型在擴(kuò)大規(guī)模時(shí)性能提升，它們也可能增加不可預(yù)測現(xiàn)象的可能性，包括那些可能導(dǎo)致偏見或帶來害處的現(xiàn)象。

「某些有害行為會在某些模型中突然出現(xiàn)，」Ganguli 說。他指出最近一個(gè)對 LLM 的分析 —— 也被稱為 BBQ 基準(zhǔn) —— 表明社會偏見隨著大量參數(shù)的出現(xiàn)而出現(xiàn)。「 更大的模型突然變得更有偏見，」 他說，如果不能解決這一風(fēng)險(xiǎn)，可能會危及這些模型的使用。

但他還提出了一個(gè)相反的觀點(diǎn)：當(dāng)研究人員簡單地告訴模型不要依賴刻板印象或社會偏見時(shí) —— 字面上來說，就是通過輸入這些指令時(shí)，模型在其預(yù)測和響應(yīng)時(shí)的偏見較小。這表明一些涌現(xiàn)的特性也可用于減少偏見。在 2 月份發(fā)布的一篇論文中，Anthropic 團(tuán)隊(duì)報(bào)告了一種新的道德自我修正模式，在這種模式下，用戶提示程序是有幫助的、誠實(shí)的和無害的。

Ganguli 說，涌現(xiàn)既揭示了大型語言模型驚人的潛力，也揭示了其不可預(yù)測的風(fēng)險(xiǎn)。這些 LLM 的應(yīng)用已經(jīng)激增，因而更好理解這種雙面性將有助于利用語言模型能力的多樣性。

Ganguli 說：「我們正在研究用戶實(shí)際上是如何使用這些系統(tǒng)的，不過他們也在不斷地修補(bǔ)改進(jìn)這些系統(tǒng)。我們花了很多的時(shí)間，只是為了與我們的模型聊天，使其功能更好。而實(shí)際上也就是從那時(shí)起，我們開始信任這些模型。」

關(guān)鍵詞：