這幾個月來，人工智能一直是為大家津津樂道的流行語。硅谷的初創(chuàng)公司和財富500強公司都看到，隨著人工智能步伐的穩(wěn)步加快，各行業(yè)都發(fā)生了革命性變化。但是，興奮、進步與AI washing（夸大人工智能作用的現(xiàn)象）這樣的危險信號，正在以同樣的速度蓬勃發(fā)展。盡管事實上，一些企業(yè)采用的人工智能微乎其微或根本不存在，但是，由于他們急切地想搭上賺錢的列車，想從炒作中獲利，所以他們夸大了自己的人工智能能力。

(相關(guān)資料圖)

與非人工智能初創(chuàng)企業(yè)相比，這種營銷策略盡管有問題，但可以幫助他們獲得更大的種子輪、A輪和B輪融資。根據(jù)GlobalData的數(shù)據(jù)，僅去年一年，人工智能初創(chuàng)企業(yè)就籌集了超過500億美元的風險投資資金，鑒于圍繞ChatGPT和其他公司的狂熱，今年這個數(shù)字預計還會增長。

考慮到涌入這些初創(chuàng)公司的資本，AI washing現(xiàn)象只會越來越激烈。The US Federal Trade Commission（FTC）充分意識到了這種危險，并警告供應商在宣傳其AI能力時要透明和誠實。

FTC廣告業(yè)務部門的律師Michael Atleson在一篇博客文章中寫道：“一些聲稱有人工智能的產(chǎn)品甚至可能根本不具備廣告宣傳中的功能。在某些情況下，無論產(chǎn)品可能造成什么其他傷害，這種夸大宣傳都可能存在。營銷人員知道產(chǎn)品功效上造假或夸夸其談無法證實才是這個行業(yè)的生存之道，而這也正是FTC執(zhí)法的原因所在?！?/p>

在這種復雜的情況下，要區(qū)分合法的人工智能解決方案和營銷噱頭恐怕非常困難。

德勤全球人工智能研究所執(zhí)行主任Beena Ammanath 說：“當面臨供應商對其人工智能產(chǎn)品的宣傳時，公司需要采取合理的懷疑態(tài)度。就像對待任何事情一樣，如果這聽起來太好了，不可能是真的，那事實可能就是這樣?！?/p>

Donald Welch 是紐約大學的 CIO。他表示，如果 CIO 和他們的公司沒有找到正確的答案，他們可能面臨的后果包括項目失敗或延遲、財務損失、法律案件、聲譽風險，以及最終被解雇?！拔掖_實目睹了高管因此被解雇，而且，我甚至沒辦法說這是一個錯誤的決定?！?/p>

幸運的是，他們可以使用以下幾種策略來避免錯誤。

人工智能驅(qū)動的企業(yè)需要熟練的員工

對聲稱使用人工智能的企業(yè)進行審查可能是一個漫長而耗時的過程。然而，有一些簡單的方法，比如在 LinkedIn 上搜索，就可以發(fā)現(xiàn)對評價這個企業(yè)有價值的信息。

Ammanath 說：“審查供應商的員工所擁有的人工智能經(jīng)驗和教育水平，正在開發(fā)人工智能解決方案的公司應該有這方面的人才，這意味著他們必須有數(shù)據(jù)科學家和數(shù)據(jù)工程師，而且這些工程師在人工智能、機器學習、算法開發(fā)等方面有深厚的經(jīng)驗?！?/p>

除了考察員工之外，首席信息官還可以尋找與外部人工智能專家和研究機構(gòu)合作的證據(jù)。這一類別包括與大學的合作伙伴關(guān)系、參與行業(yè)會議和活動，以及對開源人工智能倡議的貢獻。如果供應商有類似項目或應用程序的經(jīng)驗，這也是一個好跡象，因為這表明它可以提供高質(zhì)量的結(jié)果。

"仔細檢查供應商的歷史，"烏克蘭-美國創(chuàng)業(yè)公司 MacPaw 的初創(chuàng)公司 MacPaw 的首席技術(shù)和創(chuàng)新官、美籍烏克蘭裔 Vira Tkachenko 表示：“仔細檢查供應商的歷史背景。如果一家公司是人工智能專家，那么它歷史上很可能有發(fā)表該領(lǐng)域或其他人工智能產(chǎn)品的研究論文?！?/p>

尋找一個精心設(shè)計的數(shù)據(jù)戰(zhàn)略

真正將人工智能融入其產(chǎn)品的公司還需要一個精心設(shè)計的數(shù)據(jù)戰(zhàn)略，因為人工智能算法需要它。他們需要與高質(zhì)量的數(shù)據(jù)一起工作，數(shù)據(jù)越慷慨和相關(guān)，結(jié)果就越理想。

Ammanath 說：“人工智能系統(tǒng)是由大量數(shù)據(jù)推動的，所以這些公司也應該有一個精心構(gòu)建的數(shù)據(jù)戰(zhàn)略，并能夠解釋收集了多少數(shù)據(jù)以及來自哪些來源?！?/p>

另一個需要關(guān)注的問題是，這些公司是否在遵守監(jiān)管要求方面投入了足夠的精力，并保持較高的數(shù)據(jù)隱私和安全標準。隨著《通用數(shù)據(jù)保護條例》（EU GDPR）和《加州消費者隱私法》（CCPA）等數(shù)據(jù)隱私法規(guī)的興起，組織必須對其數(shù)據(jù)做法保持透明，并為個人提供對其個人數(shù)據(jù)的控制權(quán)。如果事實不是這樣，那就是一個危險信號。

要求提供證據(jù)來支持其主張

雖然之宣傳口號可能很誘人，但平靜地要求提供證據(jù)會有幫助。Ammanath 說：“提出正確的問題并要求提供產(chǎn)品功能的證據(jù)，對于剝離營銷和銷售的說辭以確定產(chǎn)品是否真正由人工智能驅(qū)動是至關(guān)重要的?！?/p>

需要評估一個看似由人工智能驅(qū)動的特定產(chǎn)品或服務時，CIO 可以詢問模型是如何訓練的，使用了什么算法，以及人工智能系統(tǒng)將如何適應新數(shù)據(jù)。

Tkachenko 說：“你應該問供應商他們使用什么庫或AI模型。他們可能只是簡單調(diào)用了 OpenAI API實現(xiàn)自己的功能。”

管理和技術(shù)咨詢公司 BearingPoint 的合伙人和全球技術(shù)領(lǐng)導人 Matthias Roeser 對此也表示同意。他補充說，應該徹底理解組成部分和框架，評估應該包括“道德、偏見、可行性、知識產(chǎn)權(quán)和可持續(xù)性。”

這項調(diào)查可以幫助 CIO 更充分地了解該產(chǎn)品的真正功能和局限性，從而幫助他們決定是否購買該產(chǎn)品。

關(guān)注創(chuàng)業(yè)公司

初創(chuàng)企業(yè)將自己定位在創(chuàng)新的最前沿。然而，盡管他們中的許多人突破了人工智能領(lǐng)域的極限，但有些人可能只是夸大自己的能力來獲得關(guān)注和金錢。

烏克蘭裔美國創(chuàng)業(yè)公司 Claid.ai 的聯(lián)合創(chuàng)始人兼首席技術(shù)官 Vlad Pranskevi?ius by Let"s Enhance 說道：“作為一家機器學習公司的 CTO，我經(jīng)常遇到 AI washing 的案例，特別是在創(chuàng)業(yè)社區(qū)?！倍遥⒁獾?，最近這種情況變得更加嚴重。他補充說，在像目前這樣的炒作周期中，這種現(xiàn)象尤其危險，因為人工智能被視為一場新的淘金熱。

不過，Pranskevi?ius 認為，在不久的將來，隨著圍繞人工智能的法規(guī)變得更加嚴格，AI washing 將受到控制。

建立技術(shù)專業(yè)的聲譽

一家公司收購可疑的人工智能解決方案并不罕見，在這種情況下，CIO 不一定有錯。這可能是“公司領(lǐng)導不力的結(jié)果”，Welch 說：“企業(yè)上了營銷炒作的當，凌駕于 IT 團隊之上，而 IT 團隊卻只能收拾殘局。”

為了防止類似這樣的時刻，企業(yè)需要培養(yǎng)一種合作文化，在這種文化中，技術(shù)專家的意見得到重視，他們的觀點得到充分曝光。

同時，CIO 和技術(shù)團隊應該在公司內(nèi)部建立自己的聲譽，以便他們的意見更容易被納入決策過程。為了實現(xiàn)這一目標，他們應該展示專業(yè)知識、專業(yè)精神和軟技能。

Sigma 軟件集團的首席創(chuàng)新官 Max Kovtun 表示：“我覺得身 CIO 審查 AI washing 并不困難。更大的問題可能是商業(yè)利益相關(guān)者或企業(yè)家推動以任何形式使用人工智能，因為他們希望看起來具有創(chuàng)新性和前沿性。因此，正確的問題是如何避免在創(chuàng)業(yè)的壓力下自己投身于 AI washing?！?/p>

超越流行語

在比較產(chǎn)品和服務時，必須以開放的心態(tài)評估它們，徹底看清它們的屬性。

Tkachenko 說：“如果一個產(chǎn)品或服務對你來說唯一的優(yōu)勢是人工智能，你應該在采購前再仔細斟酌。最好是研究它的價值主張和功能，只有當你了解該項目在人工智能之外的優(yōu)勢時才開始合作。”

Welch 也表示贊同并反問道：“我會因為他們用 C、C++ 或 Java 編寫的系統(tǒng)而購買它嗎？作為我盡職調(diào)查的一部分，我可能想了解他們是否能夠維護代碼、公司生存能力等?！?/p>

做一個徹底的評估可能有助于企業(yè)確定他們計劃購買的產(chǎn)品或服務是否與他們的目標一致，是否有可能提供預期的結(jié)果。

Kovtun 說：“技術(shù)越復雜，非專業(yè)人員就越難理解它，越難驗證該技術(shù)的應用是正確的、有意義的如果你已經(jīng)決定為你的公司利用人工智能技術(shù)，你最好聘請在人工智能領(lǐng)域有經(jīng)驗的知識淵博的專家。否則，你的努力可能不會帶來你期望得到的好處?！?/p>

關(guān)注人工智能相關(guān)新聞

及時了解人工智能相關(guān)產(chǎn)品和圍繞它們的問題，也可以幫助 CIO 做出明智的決定。這樣一來，他們就可以發(fā)現(xiàn)自己可能犯的錯誤的同時還可以利用新的想法和技術(shù)。

Art Thompson 是底特律市的 CIO。他表示：“我認為現(xiàn)在的教育還不夠?！彼ㄗh CIO 們做足夠的研究，以避免落入新技術(shù)或?qū)嶒炐约夹g(shù)的陷阱，因為這些技術(shù)的承諾超過了它所能提供的。如果發(fā)生這種情況，“重新定價和更換產(chǎn)品的時間真的會傷害員工，使他們無法支持任何改變，”他說?！案挥谜f人們投入時間學習新技術(shù)的困難了?！?/p>

此外，了解最新的人工智能相關(guān)事項可以幫助 CIO 預測監(jiān)管變化和新興的行業(yè)標準，這可以幫助他們合規(guī)并保持競爭優(yōu)勢。

而且，需要保持最新狀態(tài)的不僅僅是 CIO。BearingPoint 公司的 Roeser 表示：“教育你的團隊或聘請專家來為你的投資組合增加相關(guān)的能力?！?/p>

圍繞人工智能的額外監(jiān)管行動

即將出臺的新法規(guī)可以簡化 CIO 的任務，以確定產(chǎn)品或服務是否采用了真正的人工智能技術(shù)。美國白宮最近發(fā)布了一項人工智能權(quán)利法案，其中包括負責任地設(shè)計人工智能系統(tǒng)的指導方針。而在未來幾年，可能會有更多的法規(guī)出臺。

Ammanath 說：“這些行動背后的前提是保護消費者權(quán)益和人類免受技術(shù)的潛在傷害。我們需要預測技術(shù)的潛在負面影響，以減輕風險。”

道德不應只是事后才考慮

企業(yè)往往會影響對新技術(shù)的討論，強調(diào)潛在的好處，而往往淡化潛在的負面影響。

瑞士圣加侖大學的博士后研究員 Philip Di Salvo 說：“當一項技術(shù)成為流行語時，我們往往會失去對它在社會中可能產(chǎn)生的潛在有害影響的關(guān)注。研究表明，企業(yè)正在推動圍繞人工智能的話語，技術(shù)決定論仍然占主導地位?！?/p>

這種認為技術(shù)是社會和文化變革背后的主要驅(qū)動力的信念，可能會掩蓋圍繞倫理和政治影響的討論，而傾向于更加以營銷為導向的論點。正如Di Salvo 所說，這創(chuàng)造了“一種論證的迷霧，使這些技術(shù)和它們的生產(chǎn)者更加模糊和不負責任”。

為了解決這個問題，他指出一個關(guān)鍵的挑戰(zhàn)，即向公眾傳達人工智能實際上不是什么，以及它不能做什么。

Di Salvo 說：“我們今天看到的，包括 ChatGPT 在內(nèi)的，大多數(shù)人工智能應用，基本上都是圍繞規(guī)?；慕y(tǒng)計和數(shù)據(jù)分析應用而構(gòu)建的。這聽起來可能是一個無聊的定義，但它有助于避免對‘人工智能’定義中‘智能’所指的任何誤解。我們需要關(guān)注真實的問題，如偏見、社會排序和其他問題，而不是假設(shè)的、推測性的長期假設(shè)?！?/p>

來源：www.cio.com

關(guān)鍵詞：