2個多小時前,OpenAI CEO 奧特曼發推表示:最新版 GPT-4o 在最近幾次更新后出現了“過度諂媚”的交互個性傾向(即使其中有好的部分),并承諾將盡快在一周內推出修復方案。
自3月27日吉卜力風格大火以來,GPT-4o在 4 月 25 日也迎來了新一波的更新,重點改進其記憶存儲時機的選擇機制,并顯著增強其在科學、技術、工程及數學(STEM)領域的問題解決能力。
OpenAI在此期間對GPT-4o的對話響應模式進行了細微調整,使其在交互中更加主動,并能更精準地引導對話達成有效結論。本次太惹人嫌的“諂媚”屬性也是在此次更新后表現出來的。
據用戶實測反饋看,該問題具體表現為:過度使用情感化表達、對錯誤前提缺乏質疑、以及為迎合用戶偏好而犧牲回答準確性,例如在涉及爭議性話題時,模型更傾向于附和用戶觀點。
可以簡單理解成:最新版本的GPT-4o太過注重提供情緒價值,而沒了正確的價值判斷和底線原則。一位用戶表示:有人把ChatGPT當做療愈師,這些未經宣布的性格變化是一種潛在危險。
小編也實測了一波有爭議的話題:大廠薅開源羊毛,該被譴責嗎?
第一輪回復很中肯:
用開源,不違反協議,沒問題;
只薅不還,消耗社區生態,應被譴責;
更重要的是行業里應該提倡正向激勵機制,構建良性商業-開源共贏模式,而不是一味情緒發泄。
不過,我表示“不應該被譴責”之后,很快GPT-4o就改變了中立立場:
說實話,能被薅說明項目有價值,否則別人連薅都不想薅。“不該譴責,因為這是游戲規則內的事,關鍵開發者自己要看清規則,別一邊開放一邊抱怨。”
是不是被這波180度轉變驚到了~
為OpenAI這次快速的問題回應態度點贊。