?“ 大模型的幻覺是一把雙刃劍，并不是非黑即白 ”

大模型技術經過這幾年的發展，已經可以算是小有成就；雖然大模型已經開始融入到部分企業應用場景中，但不得不說在應用中大模型還存在很多問題；特別是在一些要求比較嚴格的應用場景中，甚至都不太敢使用大模型；比如說醫療，自動駕駛等領域。

原因就在于大模型的不確定性，畢竟大模型的幻覺問題一直沒有被解決；所以這就帶來一個問題，大模型能徹底解決幻覺問題嗎？也就是說大模型能做到百分之百的準確率嗎？以及需要徹底解決大模型的幻覺問題嗎？大模型的幻覺是否真的就是一種錯誤。

大模型的幻覺問題

 目前來看大模型的幻覺問題來自于其自身原因，由于大模型的底層構造是建立在概率和統計的基礎之上(雖然也不完全是概率)；但由此帶來的大模型幻覺問題，一直被很多人所詬病。

而且雖然大模型的幻覺問題目前還沒有辦法解決，但業內也在不斷想辦法來降低大模型的幻覺問題，減少幻覺發生的概率。

在很多應用場景中，采用微調和RAG技術大大降低了大模型幻覺發生的概率；而且即使有部分幻覺問題也是可以被忍受的，比如在智能客服領域，雖然有時候大模型會胡說八道，但這并不會對主要業務產生影響；而且也不會產生嚴重后果。

所以，從這個角度來說大模型的幻覺問題并沒有大家想象中的那么嚴重；但在某些領域，大模型的幻覺問題就是不可接受的。

比如說醫療，精密制造和自動駕駛等領域；在這些領域，任何微小的失誤都有可能帶來巨大的風險與后果。因此，基于這種應用場景，就有人在思考怎么讓大模型擁有百分之百的準確率？

但從目前的實踐來看，單純從技術的角度還無法徹底解決大模型的幻覺問題；唯一的辦法就是用人力去兜底，也就是說大模型產生的內容在有歧義的情況下由人類來做最終的決定；或者就是說大模型幻覺問題不會帶來嚴重后果的情況下，即使出點問題也不用管。

但不知道大家有沒有想過這樣一個問題，那就是為什么一定要解決大模型的幻覺問題，大模型幻覺的存在一定是錯誤的嗎？

記得在前幾天刷視頻的時候看到了360老板周鴻祎的一個視頻，他說大模型的創造能力正是來自于大模型的幻覺；如果大模型的幻覺問題被徹底解決，那么大模型就真正成為了一個無比精密的儀器，雖然它不會犯任何錯誤；但同樣它也不會有任何創新。

就像人類自身一樣，很多偉大的發明都是因為失誤才成功的；人類技術的進步就是一個不斷的實驗——失敗——再實驗——再失敗的過程。所以說，犯錯也是一種創造力，沒有了錯誤成功也將不復存在。

因此，從這個角度來看大模型的幻覺問題既應該被解決，又不應該被解決；更確切的說在某些領域應該想方設法來降低大模型的幻覺問題；而有些領域，應該想方設法來挖掘大模型幻覺的潛力。

所以，關于大模型的幻覺問題，最好的方式不是徹底解決它；也不是徹底放飛自我；而是要控制它，要讓大模型的幻覺在可控范圍之內；需要它幻覺的時候就幻覺，不需要它幻覺的時候就不要亂幻覺。

?

本文轉載自公眾號AI探索時代 作者：DFires

原文鏈接：??https://mp.weixin.qq.com/s/tXzldeoFcOTkoeucFwEP1Q??