劍橋大學研究警示:AI或先于用戶決策,自行“賣掉”決定
12月30日消息,想象一下,一個先進的人工智能系統,它能在你做出決策之前就精準預測你的選擇,并將這些寶貴的信息出售給企業。劍橋大學的研究者們警示我們,這種看似科幻卻實則令人不安的情景,可能會在他們提出的“意圖經濟”中真正上演。在這個嶄新的市場體系內,人的意愿和動機將被商品化,成為數字時代可交易的貨幣。這種經濟形態不僅挑戰我們對個人隱私的理解,更可能重塑我們對自我意志與選擇權的認知。
“除非受到監管,否則意向經濟將把你的動機視為新的貨幣。對于那些瞄準、引導和出售人類意圖的人來說,這將是一場淘金熱,”劍橋大學未來智能中心(LCFI)的技術歷史學家Jonnie?Penn博士警告說。
研究人員認為,對話式人工智能和聊天機器人的興起正在為社交操縱創造前所未有的機會。這些系統將把我們上網習慣的知識與復雜的個性模仿結合起來,建立深層次的信任,同時通過隨意的交談收集私密的心理數據。
LCFI訪問學者Yaqub?Chaudhary博士解釋說:“人們在交談時說了什么,他們怎么說,以及由此產生的實時推斷類型,比在線互動的記錄要親密得多。”
大型科技公司已經在為這一未來奠定基礎。OpenAI呼吁“能夠跨越任何語言、主題和格式表達人類意圖的數據”。蘋果新的開發者框架包括“預測某人未來可能采取的行動”的協議。與此同時,英偉達的首席執行官公開討論了使用人工智能語言模型來找出意圖和欲望。
Jonnie?Penn警告說:“在我們成為其意想不到的后果的受害者之前,我們應該開始考慮這樣一個市場對人類愿望的可能影響?!?/p>
雖然研究人員承認這種未來并非不可避免,但他們強調需要立即引起公眾的注意和討論。“公眾意識到即將發生的事情是確保我們不走上錯誤道路的關鍵?!盤enn總結道。
這項研究發表在《哈佛數據科學評論》上。