無論是否被過度炒作，人工智能算法的前景依然廣闊。但是，IT 領(lǐng)導(dǎo)者要想利用當(dāng)今最熱門的新興技術(shù)，就必須牢記以下核心問題。

股價(jià)飆升。生成式人工智能算法可以創(chuàng)作出任何風(fēng)格的驚人藝術(shù)作品，然后一轉(zhuǎn)眼就能寫出語法精湛的長篇文章，這讓每個(gè)人都驚嘆不已。每一位首席信息官和首席執(zhí)行官都在自己的演示文稿中準(zhǔn)備了一三張幻燈片，討論生成式人工智能將如何改變他們的業(yè)務(wù)。

這項(xiàng)技術(shù)仍處于起步階段，但其能力已經(jīng)毋庸置疑。下一波計(jì)算浪潮將涉及生成式人工智能，可能會在工作流程的多個(gè)地方出現(xiàn)。這股浪潮將勢不可擋。

會出什么問題呢？嗯，很多事情。末日論者認(rèn)為，經(jīng)濟(jì)會遭到徹底破壞，人類會被奴役，動物世界也會被奴役。

他們可能會緊張得喘不過氣來。但即使最糟糕的情況從未出現(xiàn)，也并不意味著一切都會完美無缺。生成式人工智能算法仍然非常新穎，而且發(fā)展迅速，但仍有可能在基礎(chǔ)上出現(xiàn)裂縫。深入研究這些算法，你仍然會發(fā)現(xiàn)它們有一些地方無法達(dá)到預(yù)期的效果。

以下是生成式人工智能算法的 N 個(gè)秘密，在計(jì)劃如何將該技術(shù)融入企業(yè)工作流程時(shí)應(yīng)牢記在心。

01 ｜他們憑空捏造錯(cuò)誤

大型語言模型（LLMs）能寫出 1000 字的文章，論述沙鶴的交配儀式或 17 世紀(jì)東歐建筑中凸棱的重要性等晦澀難懂的話題，這種方式幾乎有一種魔力。但同樣的魔力也能讓他們憑空捏造出錯(cuò)誤。他們游刃有余地使用動詞變位和語法，其能力不亞于受過大學(xué)教育的英語專業(yè)學(xué)生。許多事實(shí)完全正確。然后，瞧，他們就像一個(gè)四年級的小學(xué)生一樣胡編亂造起來。

LLM 的結(jié)構(gòu)使得這種情況不可避免。它們使用概率來學(xué)習(xí)單詞如何搭配。有時(shí)，數(shù)字會選擇錯(cuò)誤的詞語。沒有真正的知識，甚至沒有本體論來指導(dǎo)它們。這只是概率，有時(shí)骰子會擲出骰子。我們可能認(rèn)為自己在與一個(gè)新的高級生命進(jìn)行心靈交融，但其實(shí)我們與在拉斯維加斯尋找擲骰子信號的賭徒并無不同。

02 ｜它們是數(shù)據(jù)篩

人類試圖建立一個(gè)復(fù)雜的知識等級體系，其中有些細(xì)節(jié)只有內(nèi)部人員知道，有些則與所有人共享。這種一廂情愿的等級制度在軍事分類系統(tǒng)中最為明顯，但許多企業(yè)也有這種制度。對于 IT 部門和管理這些系統(tǒng)的首席信息官來說，維護(hù)這些層次結(jié)構(gòu)往往是一件非常麻煩的事情。

LLM 在這些分類方面做得并不好。雖然計(jì)算機(jī)是規(guī)則的終極遵守者，它們可以保存幾乎無限復(fù)雜的目錄，但 LLM 的結(jié)構(gòu)并不允許某些細(xì)節(jié)是保密的，某些細(xì)節(jié)是可以共享的。這一切只是馬爾可夫鏈上概率和隨機(jī)行走的巨大集合。

甚至在一些令人毛骨悚然的時(shí)刻，LLM 會利用其概率將兩個(gè)事實(shí)粘合在一起，并推斷出一些名義上秘密的事實(shí)。如果有相同的細(xì)節(jié)，人類甚至?xí)鐾瑯拥氖虑椤?/p>

也許有一天，法律碩士能夠保持強(qiáng)大的保密層，但目前，這些系統(tǒng)的最佳訓(xùn)練方式是使用非常公開的信息，一旦泄露，不會引起轟動。目前已經(jīng)有幾個(gè)備受關(guān)注的例子，涉及公司數(shù)據(jù)泄露和法律碩士規(guī)避法律風(fēng)險(xiǎn)。一些公司正試圖將人工智能轉(zhuǎn)化為阻止數(shù)據(jù)泄露的工具，但我們還需要一些時(shí)間才能了解做到這一點(diǎn)的最佳方法。在此之前，首席信息官們最好對提供給他們的數(shù)據(jù)嚴(yán)加管理。

03 ｜它們助長了懶惰

人類非常善于信任機(jī)器，尤其是在機(jī)器省力的情況下。當(dāng) LLM 在大多數(shù)時(shí)候都證明自己是正確的時(shí)候，人類就會開始一直信任它們。

即使要求人類重復(fù)檢查人工智能，效果也不會太好。當(dāng)人類習(xí)慣了人工智能的正確性之后，他們就會開始迷失方向，相信機(jī)器就是正確的。

這種懶惰開始充斥整個(gè)組織。人們不再獨(dú)立思考，最終企業(yè)陷入低能耗的停滯狀態(tài)，沒有人愿意跳出框框思考問題。這種狀態(tài)可以讓人暫時(shí)放松，沒有壓力--直到競爭對手出現(xiàn)。

04 ｜其真實(shí)成本不得而知

沒有人知道使用 LLM 的正確成本。許多應(yīng)用程序接口都有價(jià)格標(biāo)簽，上面標(biāo)明了每個(gè)令牌的成本，但有跡象表明，風(fēng)險(xiǎn)資本對這些令牌進(jìn)行了大量補(bǔ)貼。我們看到 Uber 等服務(wù)也是如此。價(jià)格一直很低，直到投資者的錢花光了，價(jià)格才一路飆升。

有跡象表明，目前的價(jià)格并不是最終主導(dǎo)市場的真實(shí)價(jià)格。租用一個(gè)好的 GPU 并保持其運(yùn)行可能要貴得多。在本地運(yùn)行 LLM，在機(jī)架上裝滿顯卡可以節(jié)省一些費(fèi)用，但這樣就失去了交鑰匙服務(wù)的所有優(yōu)勢，比如只需在需要時(shí)支付機(jī)器的費(fèi)用。

05 ｜它們是版權(quán)噩夢

市場上已經(jīng)有一些不錯(cuò)的法學(xué)碩士，他們可以處理一般的瑣事，比如做高中家庭作業(yè)或?qū)懘髮W(xué)入學(xué)論文，這些都強(qiáng)調(diào)學(xué)生的獨(dú)立性、干勁、寫作能力和道德品質(zhì)--哦，還有他們獨(dú)立思考的能力。

但是，大多數(shù)企業(yè)并沒有這類一般性的瑣事讓人工智能去做。他們需要針對具體業(yè)務(wù)定制結(jié)果。基本的 LLM 可以提供一個(gè)基礎(chǔ)，但仍然需要大量的培訓(xùn)和微調(diào)。

很少有人能找出匯集這些訓(xùn)練數(shù)據(jù)的最佳方法。有些企業(yè)很幸運(yùn)，擁有自己控制的大型數(shù)據(jù)集。然而，大多數(shù)企業(yè)發(fā)現(xiàn)，他們并沒有解決版權(quán)方面的所有法律問題。一些作家提起訴訟，因?yàn)樵谑褂盟麄兊淖髌酚?xùn)練人工智能時(shí)，沒有征求他們的意見。一些藝術(shù)家覺得自己被剽竊了。隱私問題仍在解決中。你能用客戶的數(shù)據(jù)訓(xùn)練人工智能嗎？版權(quán)問題解決了嗎？您是否擁有正確的法律形式？數(shù)據(jù)的格式是否正確？要創(chuàng)建一個(gè)優(yōu)秀的、定制化的人工智能，讓它在您的企業(yè)中發(fā)揮作用，還有很多問題需要解決。

06 ｜它們可能會導(dǎo)致供應(yīng)商鎖定

從理論上講，人工智能算法是一種通用工具，抽象掉了用戶界面的所有復(fù)雜性。它們應(yīng)該是獨(dú)立的，能夠處理生活--或它們所服務(wù)的白癡人類--給它們帶來的任何問題。換句話說，它們不應(yīng)該像應(yīng)用程序接口那樣僵化和缺乏靈活性。從理論上講，這意味著可以很容易地快速更換供應(yīng)商，因?yàn)槿斯ぶ悄苤粫m應(yīng)。當(dāng)需要切換供應(yīng)商時(shí)，就不需要某個(gè)程序員團(tuán)隊(duì)重寫膠水代碼，也不需要做所有會帶來麻煩的事情。

但在現(xiàn)實(shí)中，它們?nèi)匀淮嬖诓町悺?yīng)用程序接口可能很簡單，但它們?nèi)匀淮嬖诓町悾热缯{(diào)用的 JSON 結(jié)構(gòu)。但真正的差異卻深藏其中。為生成式人工智能編寫提示是一門真正的藝術(shù)。要讓人工智能發(fā)揮出最佳性能并不容易。現(xiàn)在已經(jīng)有一份職位描述，要求聰明人了解其特異性，并能編寫更好的提示語，提供更好的答案。即使應(yīng)用程序接口的差異很小，但提示結(jié)構(gòu)的怪異差異也讓人很難快速切換人工智能。

07 ｜他們的智慧仍然淺薄

長期以來，對教材的淺嘗輒止與深入睿智的理解之間的差距一直是大學(xué)的一個(gè)主題。亞歷山大-波普（Alexander Pope）寫道："一點(diǎn)學(xué)問是危險(xiǎn)的；

深飲吧，否則嘗不到皮埃爾泉水的滋味"。那是在 1709 年。

其他聰明人也注意到了人類智力極限的類似問題。蘇格拉底的結(jié)論是，盡管他學(xué)識淵博，但其實(shí)一無所知。莎士比亞認(rèn)為，智者自知是個(gè)傻瓜。這樣的例子不勝枚舉，其中大部分對認(rèn)識論的見解都以這樣或那樣的形式應(yīng)用到了神奇的生成式人工智能中，而且往往應(yīng)用得更為廣泛。首席信息官和技術(shù)領(lǐng)導(dǎo)團(tuán)隊(duì)面臨著艱巨的挑戰(zhàn)。他們需要充分利用生成式人工智能所能產(chǎn)生的最佳效果，同時(shí)努力避免在所有智力淺灘上擱淺，而這些淺灘一直以來都是人類、外星或計(jì)算智能所面臨的問題。

來源：www.cio.com