想要實(shí)現(xiàn)生成式人工智能（GenAI）?是個(gè)好消息!大多數(shù)IT決策者都看到了這種變革性技術(shù)的潛力，您可以將自己視為其中之一。雖然GenAI有可能為業(yè)務(wù)增加顯著的效率，但它也帶來了一系列必須克服的挑戰(zhàn)。

以下是實(shí)施GenAI的十大挑戰(zhàn)，按重要性降序排列。

1、錯(cuò)誤數(shù)據(jù)

實(shí)施GenAI的最大挑戰(zhàn)是糟糕的數(shù)據(jù)。如果不能確認(rèn)數(shù)據(jù)是正確的，它的來源迭代是精心規(guī)劃，并保證是安全可靠的，那么你在開始之前就已經(jīng)落后了。

雖然我們似乎生活在一個(gè)全新時(shí)代，人工智能時(shí)代將使你最瘋狂的夢(mèng)想成真！那句古老的格言“垃圾進(jìn)，垃圾出”仍然是真理。

數(shù)據(jù)是GenAI的核心，數(shù)據(jù)管理則可能永遠(yuǎn)是一個(gè)挑戰(zhàn)。但也有積極的發(fā)展，從15年前大數(shù)據(jù)熱潮的早期開始，公司就一直在努力理順?biāo)麄兊臄?shù)據(jù)基礎(chǔ)，以便可以在此基礎(chǔ)上構(gòu)建更大更好的東西。

在數(shù)據(jù)管理方面的投資現(xiàn)在正在為這些公司帶來回報(bào)，因?yàn)橛捎贕enAI的數(shù)據(jù)質(zhì)量?jī)?yōu)于平均水平，這些公司處于有利地位，可以立即利用GenAI。

2、法律及合規(guī)事項(xiàng)

你可以合法地使用人工智能做什么，不能做什么，目前是一個(gè)有爭(zhēng)議的問題。新的法律法規(guī)正在制定，以限制組織使用人工智能的程度，因此，當(dāng)涉及到人工智能的商業(yè)采用時(shí)，我們處于某種灰色地帶。

歐盟正堅(jiān)定地朝著一項(xiàng)相當(dāng)嚴(yán)格的法律邁進(jìn)。這部被稱為《人工智能法案》(AI Act)的新法律可能會(huì)禁止最危險(xiǎn)的人工智能形式，比如公共面部識(shí)別，并要求公司在使用其他侵入性較小但仍有潛在危害的用途時(shí)獲得批準(zhǔn)，比如將人工智能用于招聘或大學(xué)錄取。

美國(guó)在監(jiān)管人工智能方面正在追趕歐盟同行，美國(guó)總統(tǒng)拜登去年10月簽署了一項(xiàng)行政命令，指示聯(lián)邦機(jī)構(gòu)開始起草相關(guān)規(guī)定，但這些規(guī)定不具有法律效力。

這種法律上的模糊性引起了大公司的擔(dān)憂，它們不愿投入大筆資金來實(shí)施一項(xiàng)面向廣大外部領(lǐng)域的人工智能技術(shù)，因?yàn)檫@項(xiàng)技術(shù)可能在推出后不久就被取締或受到嚴(yán)格監(jiān)管。出于這個(gè)原因，許多人工智能應(yīng)用都是針對(duì)內(nèi)部用戶的。

3、算力不足

用戶不僅需要強(qiáng)大的GPU來訓(xùn)練GenAI模型，還需要它們來進(jìn)行推理。對(duì)高端英偉達(dá)GPU的巨大需求遠(yuǎn)遠(yuǎn)超過了供應(yīng)。對(duì)于那些有足夠資金在云端購(gòu)買或租用GPU的大公司以及英偉達(dá)的股東來說，這是件好事，但對(duì)于需要GPU時(shí)間來實(shí)施GenAI的中小型公司和初創(chuàng)公司來說，就不那么美好了。

GPU的“大排隊(duì)”不會(huì)很快緩解——當(dāng)然包括在2024年上半年。雖然英偉達(dá)及其競(jìng)爭(zhēng)對(duì)手正在努力開發(fā)新的芯片設(shè)計(jì)，以更有效地訓(xùn)練和運(yùn)行LLM（大語言模型），但設(shè)計(jì)并將其投入生產(chǎn)還需要時(shí)間。

許多公司不再運(yùn)行LLM，而是轉(zhuǎn)向運(yùn)行較小的語言模型，這些模型不像大型模型那樣需要龐大資源。也有人努力通過壓縮和量化來縮小LLM的大小。

4、透明度和可解釋性

透明度和可解釋性甚至在GenAI成為公司董事會(huì)討論話題之前就已經(jīng)是問題了。就在五年前，公司還在努力思考如何處理深度學(xué)習(xí)（DL），這是機(jī)器學(xué)習(xí)（ML）的一個(gè)子集，它使用神經(jīng)網(wǎng)絡(luò)技術(shù)從大量數(shù)據(jù)中找出模式。

在許多情況下，公司選擇基于更簡(jiǎn)單的機(jī)器學(xué)習(xí)算法投入生產(chǎn)系統(tǒng)，即使深度學(xué)習(xí)產(chǎn)生了更高的準(zhǔn)確性，因?yàn)樗麄儫o法解釋深度學(xué)習(xí)系統(tǒng)是如何得到答案的。

支撐GenAI的大型語言模型(LLM)是神經(jīng)網(wǎng)絡(luò)的一種形式，當(dāng)然，是在龐大的數(shù)據(jù)語料庫(kù)上進(jìn)行訓(xùn)練的——在GPT-4的例子中，基本上是整個(gè)公共互聯(lián)網(wǎng)。

在解釋LLM如何得到答案時(shí)，這就構(gòu)成了一個(gè)大問題。沒有直接的方法來應(yīng)對(duì)這個(gè)挑戰(zhàn)。出現(xiàn)了一些方法，但它們有些復(fù)雜。這仍然是學(xué)術(shù)界、企業(yè)和政府研發(fā)部門積極研究和探索的領(lǐng)域。

5、準(zhǔn)確性與幻覺

無論你的GenAI應(yīng)用程序有多好，它都有可能編造一些東西，或者用該領(lǐng)域的術(shù)語來說就是“產(chǎn)生幻覺”。一些專家表示，任何人工智能在被要求生成或創(chuàng)造以前不存在的東西(比如一句話或一幅畫)時(shí)，產(chǎn)生幻覺都是正常的。

雖然專家表示，幻覺可能永遠(yuǎn)不會(huì)被完全消除，但好消息是，幻覺率一直在下降。OpenAI早期版本的GPT錯(cuò)誤率在20%左右。現(xiàn)在這個(gè)數(shù)字估計(jì)在10%以下。

有一些技術(shù)可以減輕人工智能模型產(chǎn)生幻覺的傾向，比如通過交叉檢查一個(gè)人工智能模型與另一個(gè)人工智能模型的結(jié)果，這可以將幻覺率降至1%以下。減輕幻覺在很大程度上取決于實(shí)際用例，但這是AI開發(fā)人員必須牢記的事情。

6、缺乏AI技能

與任何新技術(shù)一樣，開發(fā)者需要一套新的技能來構(gòu)建GenAI，它引入了許多開發(fā)人員必須熟悉的新技術(shù)。

比如，如何將現(xiàn)有的數(shù)據(jù)集連接到LLM中并從中獲得相關(guān)的答案，同時(shí)滿足不違反法規(guī)、道德、安全和隱私要求，需要一些技巧。一項(xiàng)薪酬調(diào)查顯示，提示工程師的出現(xiàn)速度如此之快，以至于其已成為IT行業(yè)薪酬最高的職業(yè)，平均薪酬超過30萬美元。

然而，在某些方面，GenAI需要的高端數(shù)據(jù)科學(xué)技能比以前構(gòu)建和實(shí)施人工智能應(yīng)用程序要少，特別是在使用GPT-4等預(yù)構(gòu)建的LLM時(shí)。在這些情況下，對(duì)Python有一定的了解就足夠了。

7、 安全及私隱

GenAI應(yīng)用程序根據(jù)提示工作。如果沒有某種類型的輸入，就不會(huì)得到任何生成的輸出。在沒有任何控制的情況下，沒有什么可以阻止員工用敏感數(shù)據(jù)提示GenAI應(yīng)用程序。

例如，去年6月發(fā)布的一份報(bào)告發(fā)現(xiàn)，15%的員工定期將機(jī)密數(shù)據(jù)粘貼到ChatGPT中。包括三星、蘋果、埃森哲、美國(guó)銀行、摩根大通、花旗集團(tuán)、諾斯魯普·格魯曼、威瑞森、高盛和富國(guó)銀行在內(nèi)的許多大公司都禁止在公司內(nèi)使用ChatGPT。

一旦數(shù)據(jù)進(jìn)入LLM，用戶無法保證數(shù)據(jù)會(huì)從哪里出來。例如，OpenAI告訴用戶，它使用他們的對(duì)話來訓(xùn)練它的模型。如果不希望數(shù)據(jù)最終出現(xiàn)在模型中，則需要購(gòu)買企業(yè)許可證。網(wǎng)絡(luò)犯罪分子越來越善于從模型中竊取敏感數(shù)據(jù)。這就是為什么數(shù)據(jù)泄露在開放Web應(yīng)用程序安全項(xiàng)目(OWASP)十大安全風(fēng)險(xiǎn)中占有一席之地的原因之一。

即使模型本身中的數(shù)據(jù)被鎖定，也存在其他漏洞。據(jù)一家名為私有網(wǎng)絡(luò)訪問（Private Internet Access）的VPN公司稱，通過IP地址、瀏覽器設(shè)置和瀏覽歷史，GenAI應(yīng)用程序可能會(huì)在未經(jīng)你同意的情況下收集你的其他信息，包括政治信仰或性取向。

8、倫理問題

在GenAI于2022年底爆發(fā)之前，人工智能倫理領(lǐng)域就已經(jīng)在快速發(fā)展。現(xiàn)在GenAI已經(jīng)成為每個(gè)商人2024年劇本的核心，人工智能倫理的重要性已經(jīng)大大增加。

許多公司都在努力解決一些與實(shí)施人工智能有關(guān)的更大問題，包括如何應(yīng)對(duì)有偏見的機(jī)器學(xué)習(xí)模型，如何獲得同意，以及如何確保模型透明和公平。這些都不是微不足道的問題，這就是為什么道德仍然是一個(gè)巨大挑戰(zhàn)。

德勤一直是思考人工智能倫理的行業(yè)領(lǐng)導(dǎo)者之一，早在2020年就創(chuàng)建了值得信賴的人工智能框架，以幫助指導(dǎo)人工智能的倫理決策。該指南由德勤人工智能研究所(Deloitte AI Institute)執(zhí)行董事Beena Ammanath牽頭編寫，目前仍適用于GenAI。

9、 高成本

高管們必須注意GenAI所花的每一分錢。

根據(jù)開發(fā)GenAI應(yīng)用程序的方式，成本可能是等式的重要組成部分。麥肯錫將GenAI成本分為三種類型。使用預(yù)構(gòu)建的GenAI應(yīng)用程序?qū)⒒ㄙM(fèi)50萬到200萬美元。根據(jù)特定用例對(duì)現(xiàn)有LLM進(jìn)行微調(diào)的用戶投資金額將在200萬至1000萬美元之間。從頭開始構(gòu)建基礎(chǔ)模型的制造商(如OpenAI)將花費(fèi)500萬至2億美元。

更需要注意的是，GPU的成本只是訓(xùn)練LLM一個(gè)開始。在許多情況下，在訓(xùn)練有素的LLM上推理數(shù)據(jù)的硬件需求將超過訓(xùn)練它的硬件需求。構(gòu)建GenAI應(yīng)用程序也有人為因素，比如需要耗時(shí)的數(shù)據(jù)標(biāo)記，掌握技能所需要花費(fèi)的人員培訓(xùn)時(shí)間等等。

10. 缺乏效能承諾

當(dāng)談到構(gòu)建和部署人工智能解決方案時(shí)，許多高管都很興奮，但也有許多人并不那么興奮。安永(EY)最近對(duì)金融服務(wù)領(lǐng)域的科技領(lǐng)導(dǎo)者進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn)，36%的受訪者表示，缺乏領(lǐng)導(dǎo)層的明確支持是采用人工智能的最大障礙。

GenAI投資的潛在回報(bào)是巨大的，但也有需要注意的誤差。HFS Research最近的一項(xiàng)調(diào)查發(fā)現(xiàn)，對(duì)于許多人來說，GenAI的投資回報(bào)率仍然不確定，特別是在快速變化的定價(jià)模式下。

隨著企業(yè)希望獲得競(jìng)爭(zhēng)優(yōu)勢(shì)，GenAI的采用將在2024年激增。最終取得成功的公司將是那些克服這些前進(jìn)障礙，并設(shè)法實(shí)施合法、安全、準(zhǔn)確、有效且不會(huì)導(dǎo)致破產(chǎn)的GenAI應(yīng)用程序的公司。