最近幾個(gè)月，AI已經(jīng)成為每個(gè)人最喜歡的流行語(yǔ)。隨著AI的穩(wěn)步發(fā)展，硅谷的初創(chuàng)公司和《財(cái)富》500強(qiáng)公司紛紛加入這場(chǎng)行業(yè)革命。但亢奮、進(jìn)步和AI Washing等危險(xiǎn)信號(hào)也在同等程度上發(fā)展。有些企業(yè)不顧一切地想要利用炒作賺錢，所以他們夸大了自己的AI能力，而事實(shí)上，他們使用的AI很少或根本不存在。

(資料圖)

(*AI Washing：它是某些企業(yè)為了改善自己的產(chǎn)品形象，迎合大眾口味，而進(jìn)行的一種虛假營(yíng)銷手段。Gartner對(duì)外發(fā)布了一份“新興技術(shù)炒作周期圖”，顯示某些軟件公司正在利用人工智能這波熱浪，夸大AI在其產(chǎn)品中的能力，不加區(qū)分地給自己的產(chǎn)品貼上人工智能的標(biāo)簽?！皺C(jī)器學(xué)習(xí)”“認(rèn)知專家顧問(wèn)”“軟件定義安全”“自動(dòng)駕駛汽車”“區(qū)域塊”等概念正處于炒作頂峰。Gartner公司把這種現(xiàn)象叫做“AI washing”。)

與非AI初創(chuàng)公司相比，這種有問(wèn)題的營(yíng)銷策略可以幫助他們獲得更多的種子輪、A輪和B輪融資。根據(jù)GlobalData的數(shù)據(jù)，僅去年一年，AI初創(chuàng)公司就籌集了超過(guò)500億美元的風(fēng)險(xiǎn)投資資金，考慮到ChatGPT的盛行，預(yù)計(jì)今年這一數(shù)字還會(huì)增長(zhǎng)。

考慮到大量資金涌入這些初創(chuàng)公司，AI washing現(xiàn)象只會(huì)愈演愈烈。美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)充分意識(shí)到了這種危險(xiǎn)，并警告供應(yīng)商在宣傳其AI能力時(shí)要透明和誠(chéng)實(shí)。

FTC廣告業(yè)務(wù)部門的律師Michael Atleson在一篇博文中寫道，“一些聲稱有AI技術(shù)的產(chǎn)品可能根本就沒(méi)有廣告宣傳的那么有效。在某些情況下，這種缺乏功效的情況可能仍然存在，并將造成其他潛在危害。營(yíng)銷人員應(yīng)該知道，關(guān)于產(chǎn)品功效的虛假或未經(jīng)證實(shí)的聲明是我們堅(jiān)決打擊的。”

不過(guò)，在這種復(fù)雜的情況下，很難區(qū)分合法的AI解決方案和營(yíng)銷噱頭。

德勤全球人工智能研究所執(zhí)行董事Beena Ammanath表示，“面對(duì)供應(yīng)商對(duì)其AI產(chǎn)品的宣傳，企業(yè)需要保持基本的懷疑態(tài)度。就像任何事情一樣，如果一件事聽(tīng)起來(lái)好得令人難以置信，那它很可能就是陷阱。”

紐約大學(xué)CIO Donald Welch表示，如果CIO和他們的公司掉入這種虛假宣傳的陷阱，那么他們可能會(huì)面臨包括項(xiàng)目失敗或延遲、經(jīng)濟(jì)損失、法律訴訟、聲譽(yù)風(fēng)險(xiǎn)，甚至最終被解雇等后果。

幸運(yùn)的是，他們可以使用一些策略來(lái)避免錯(cuò)誤。

AI驅(qū)動(dòng)的企業(yè)需要技能嫻熟的員工

審查這些聲稱使用AI技術(shù)的企業(yè)可能是一個(gè)漫長(zhǎng)而耗時(shí)的過(guò)程。然而，一些簡(jiǎn)單的事情，比如在LinkedIn上搜索，就可以發(fā)現(xiàn)一些有價(jià)值的見(jiàn)解。

Ammanath解釋稱，“審查供應(yīng)商員工的AI經(jīng)驗(yàn)和教育水平是個(gè)好主意。正在開(kāi)發(fā)AI解決方案的公司應(yīng)該具備這樣的人才，這意味著他們?cè)贏I、機(jī)器學(xué)習(xí)、算法開(kāi)發(fā)等方領(lǐng)域擁有豐富經(jīng)驗(yàn)的數(shù)據(jù)科學(xué)家和數(shù)據(jù)工程師?！?/p>

除了審查員工，CIO還可以尋找與外部AI專家和研究機(jī)構(gòu)合作的證據(jù)。這一類別包括與大學(xué)的合作，參與行業(yè)會(huì)議和活動(dòng)，以及對(duì)開(kāi)源AI計(jì)劃的貢獻(xiàn)。如果供應(yīng)商有類似項(xiàng)目或應(yīng)用程序的經(jīng)驗(yàn)，這也是一個(gè)好跡象，因?yàn)檫@表明它可以交付高質(zhì)量的結(jié)果。

美國(guó)初創(chuàng)公司MacPaw的首席技術(shù)和創(chuàng)新官Vira Tkachenko補(bǔ)充道，“還可以仔細(xì)檢查供應(yīng)商的歷史。如果一家公司是AI領(lǐng)域的專家，它很可能在這個(gè)領(lǐng)域或其他AI產(chǎn)品上發(fā)表過(guò)研究論文?！?/p>尋找一個(gè)精心設(shè)計(jì)的數(shù)據(jù)策略

真正將AI集成到產(chǎn)品中的公司也需要一個(gè)深思熟慮的數(shù)據(jù)策略，因?yàn)锳I算法需要它。他們需要處理高質(zhì)量的數(shù)據(jù)，數(shù)據(jù)越豐富、越相關(guān)，結(jié)果就越好。

Ammanath解釋稱，“AI系統(tǒng)是由大量數(shù)據(jù)驅(qū)動(dòng)的，因此這些公司也應(yīng)該有一個(gè)構(gòu)建良好的數(shù)據(jù)策略，并能夠解釋收集了多少數(shù)據(jù)以及從哪些來(lái)源收集數(shù)據(jù)?！?/p>

另一件值得關(guān)注的事情是，這些公司是否在遵守監(jiān)管要求方面付出了足夠的努力，并保持了較高的數(shù)據(jù)隱私和安全標(biāo)準(zhǔn)。隨著《歐盟通用數(shù)據(jù)保護(hù)條例》和《加州消費(fèi)者隱私法》等數(shù)據(jù)隱私法規(guī)的興起，企業(yè)必須對(duì)其數(shù)據(jù)實(shí)踐保持透明，并為個(gè)人提供對(duì)其個(gè)人數(shù)據(jù)的控制權(quán)。如果這種情況沒(méi)有發(fā)生，那就應(yīng)該是一個(gè)危險(xiǎn)信號(hào)。

請(qǐng)求證據(jù)來(lái)支持這些主張

雖然流行語(yǔ)可能很誘人，但耐心地詢問(wèn)證據(jù)會(huì)有所幫助。Ammanath建議稱，“提出正確的問(wèn)題，并要求提供產(chǎn)品聲明的證據(jù)，對(duì)于厘清營(yíng)銷和銷售語(yǔ)言，以確定產(chǎn)品是否真的由AI驅(qū)動(dòng)至關(guān)重要。”

評(píng)估特定產(chǎn)品或服務(wù)的CIO可以詢問(wèn)模型是如何訓(xùn)練的，使用了什么算法，以及AI系統(tǒng)將如何適應(yīng)新數(shù)據(jù)。

Tkachenko補(bǔ)充道，“你應(yīng)該詢問(wèn)供應(yīng)商，他們使用什么庫(kù)或人工智能模型。他們可能會(huì)把一切都建立在一個(gè)簡(jiǎn)單的OpenAI API調(diào)用上。”

管理和技術(shù)咨詢公司BearingPoint的合伙人和全球技術(shù)主管Matthias Roeser對(duì)此表示贊同，并補(bǔ)充道，CIO還應(yīng)該徹底理解組成部分和框架，評(píng)估應(yīng)該包括“道德、偏見(jiàn)、可行性、知識(shí)產(chǎn)權(quán)和可持續(xù)性”等因素。

這種調(diào)查可以幫助CIO更多地了解該產(chǎn)品的真實(shí)功能和局限性，從而幫助他們決定是否購(gòu)買該產(chǎn)品。

關(guān)注初創(chuàng)公司

初創(chuàng)公司將自己定位在創(chuàng)新的前沿。然而，雖然他們中的許多確實(shí)在AI領(lǐng)域突破了可能的界限，但有些可能只是夸大了他們的能力，以獲得關(guān)注和金錢。

美國(guó)初創(chuàng)公司Claid. ai的聯(lián)合創(chuàng)始人兼首席技術(shù)官Vlad Pranskevi?ius表示，“作為一家機(jī)器學(xué)習(xí)公司的首席技術(shù)官，我經(jīng)常遇到AI washing的情況，尤其是在創(chuàng)業(yè)社區(qū)。而且，最近這種情況變得更加嚴(yán)重。這種現(xiàn)象在像目前這樣的炒作周期中尤為危險(xiǎn)，因?yàn)锳I正被視為新的淘金熱?！?/p>

不過(guò)，Pranskevi?ius也認(rèn)為，隨著圍繞AI的監(jiān)管變得更加嚴(yán)格，AI washing將在不久的將來(lái)得到控制。

建立技術(shù)專業(yè)的聲譽(yù)

公司購(gòu)買可疑的AI解決方案其實(shí)并不罕見(jiàn)，在這種情況下，并非都是CIO的錯(cuò)。相反地Welch認(rèn)為，“這可能是公司領(lǐng)導(dǎo)力低下的一個(gè)癥狀。業(yè)務(wù)部門被營(yíng)銷炒作所迷惑，并越過(guò)了IT團(tuán)隊(duì)購(gòu)買有問(wèn)題的AI解決方案，最后IT團(tuán)隊(duì)來(lái)收拾殘局?！?/p>

為了防止這樣的情況發(fā)生，企業(yè)需要培養(yǎng)一種協(xié)作文化，在這種文化中，技術(shù)專業(yè)人士的意見(jiàn)受到重視，他們的觀點(diǎn)會(huì)被充分尊重。

與此同時(shí)，CIO和技術(shù)團(tuán)隊(duì)?wèi)?yīng)該在公司內(nèi)部建立自己的聲譽(yù)，這樣他們的意見(jiàn)才更容易被納入決策過(guò)程。要做到這一點(diǎn)，他們應(yīng)該表現(xiàn)出專業(yè)知識(shí)、專業(yè)精神和軟技能。

西格瑪軟件集團(tuán)的首席創(chuàng)新官M(fèi)ax Kovtun表示，“我認(rèn)為，對(duì)CIO來(lái)說(shuō)，檢測(cè)AI washing不是太大的問(wèn)題。更大的問(wèn)題可能是業(yè)務(wù)利益相關(guān)者或企業(yè)家推動(dòng)以任何形式使用AI，因?yàn)樗麄兿Ｍ雌饋?lái)創(chuàng)新和前沿?！?/p>超越流行語(yǔ)

在比較產(chǎn)品和服務(wù)時(shí)，必須以開(kāi)放的心態(tài)來(lái)評(píng)估它們，徹底查看它們的屬性。

Tkachenko認(rèn)為，“如果一個(gè)產(chǎn)品或服務(wù)對(duì)你來(lái)說(shuō)唯一的優(yōu)勢(shì)就是AI，你應(yīng)該在訂閱之前仔細(xì)考慮一下。最好研究一下它的價(jià)值主張和特點(diǎn)，只有當(dāng)你了解這個(gè)項(xiàng)目在AI之外的好處時(shí)，才能開(kāi)始合作?！?/p>

Welch對(duì)此表示贊同并補(bǔ)充道，“思考一下，你會(huì)因?yàn)橐粋€(gè)系統(tǒng)是用C、c++或Java編寫的而購(gòu)買它嗎?作為盡職調(diào)查的一部分，你可能還需要了解他們是否能夠維護(hù)代碼、公司的生存能力等等?！?/p>

做一個(gè)徹底的評(píng)估可以幫助企業(yè)確定他們計(jì)劃購(gòu)買的產(chǎn)品或服務(wù)是否符合他們的目標(biāo)，是否有可能提供預(yù)期的結(jié)果。

Kovtun表示，“技術(shù)越復(fù)雜，非專業(yè)人士就越難以理解它，以至于無(wú)法驗(yàn)證該技術(shù)的應(yīng)用是否正確、是否合理。如果你決定為你的公司利用AI技術(shù)，你最好聘請(qǐng)?jiān)贏I領(lǐng)域有經(jīng)驗(yàn)的知識(shí)淵博的專家。否則，你的努力可能不會(huì)為你帶來(lái)期望的好處?！?/p>關(guān)注AI相關(guān)新聞

了解與AI相關(guān)的產(chǎn)品及其相關(guān)問(wèn)題的最新情況，也可以幫助CIO做出明智的決策。通過(guò)這種方式，他們可以發(fā)現(xiàn)自己可能犯的潛在錯(cuò)誤，同時(shí)利用新的想法和技術(shù)。

底特律市CIO Art Thompson表示，“我認(rèn)為目前公眾對(duì)AI的了解程度還不夠”。

他建議CIO們進(jìn)行充分的研究，以避免落入新技術(shù)或?qū)嶒?yàn)性技術(shù)的陷阱，這些技術(shù)所承諾的遠(yuǎn)遠(yuǎn)超過(guò)了它的實(shí)際能力。他表示，如果發(fā)生這種情況，重新投標(biāo)和挑選更換產(chǎn)品的時(shí)間，真的會(huì)讓員工無(wú)法跟上任何變化。更不用說(shuō)人們投入時(shí)間學(xué)習(xí)新技術(shù)的困難了。

此外，了解最新的AI相關(guān)事項(xiàng)可以幫助CIO預(yù)測(cè)監(jiān)管變化和新興行業(yè)標(biāo)準(zhǔn)，這可以幫助他們實(shí)現(xiàn)合規(guī)性并保持競(jìng)爭(zhēng)優(yōu)勢(shì)。

不僅僅是CIO需要與時(shí)俱進(jìn)。BearingPoint的Roeser建議稱，“教育你的團(tuán)隊(duì)或聘請(qǐng)專家，將相關(guān)能力添加到你的投資組合中。”

圍繞AI的額外監(jiān)管行動(dòng)

即將出臺(tái)的新法規(guī)可能會(huì)簡(jiǎn)化CIO們判斷產(chǎn)品或服務(wù)是否采用了真正的AI技術(shù)的任務(wù)。白宮最近發(fā)布了一項(xiàng)AI權(quán)利法案，其中包括負(fù)責(zé)任地設(shè)計(jì)AI系統(tǒng)的指導(dǎo)方針。未來(lái)幾年可能還會(huì)出臺(tái)更多法規(guī)。

Ammanath表示，“這些行動(dòng)背后的前提是保護(hù)消費(fèi)者權(quán)利和人類免受技術(shù)的潛在傷害。為了降低風(fēng)險(xiǎn)，我們需要預(yù)測(cè)技術(shù)的潛在負(fù)面影響。”

道德不應(yīng)該是事后考慮事項(xiàng)

企業(yè)傾向于強(qiáng)調(diào)新技術(shù)的潛在好處，同時(shí)往往淡化潛在的負(fù)面后果。

瑞士圣加侖大學(xué)博士后研究員Philip Di Salvo表示，“當(dāng)一項(xiàng)技術(shù)成為流行語(yǔ)時(shí)，我們往往會(huì)忽視它對(duì)社會(huì)可能產(chǎn)生的潛在有害影響。研究表明，企業(yè)正在推動(dòng)圍繞AI的討論，而技術(shù)決定論的論點(diǎn)仍然占主導(dǎo)地位?！?/p>

這種認(rèn)為“技術(shù)是社會(huì)和文化變革背后的主要驅(qū)動(dòng)力”的觀點(diǎn)，可能會(huì)掩蓋圍繞道德和政治影響的討論，而更傾向于以營(yíng)銷為導(dǎo)向的論點(diǎn)。正如Di Salvo所說(shuō)，這造成了“一種爭(zhēng)論的迷霧，使這些技術(shù)及其生產(chǎn)者更加模糊和不可問(wèn)責(zé)。”

為了解決這個(gè)問(wèn)題，有一個(gè)關(guān)鍵的挑戰(zhàn)是向公眾傳達(dá)人工智能實(shí)際上不是什么，它不能做什么。

Di Salvo解釋稱，“我們今天看到的大多數(shù)AI應(yīng)用——包括ChatGPT——基本上都是圍繞大規(guī)模應(yīng)用統(tǒng)計(jì)和數(shù)據(jù)分析構(gòu)建的。這可能聽(tīng)起來(lái)像是一個(gè)無(wú)聊的定義，但它有助于避免對(duì)‘人工智能’定義中‘智能’所指的任何誤解。我們需要關(guān)注現(xiàn)實(shí)問(wèn)題，如偏見(jiàn)、社會(huì)分類和其他問(wèn)題，而不是假設(shè)的、推測(cè)的長(zhǎng)期情景?！?/p>

關(guān)鍵詞：