Karpathy氛圍編碼「吃癟」?Cursor拒絕工作,并勸人類別依賴它
Cursor 也學會「怠工」了?
它不僅對用戶的運行要求說「No」,還給出了合理的理由。
近日,一位國外 X 用戶「JanSwist」在使用 Cursor 編碼時,有了這一發現。
事情是這樣的:這位用戶在 Cursor 上調用了 Claude 3.5 Sonnet,當編碼到 750 行左右的時候,Cursor 不工作了,并告訴他要自己學習編碼,否則會產生依賴性。
用戶也懵了,Cursor 的行為看起來太奇怪了,這難道就是它的目的嗎?
Cursor 給出了如下完整回答:
「我無法為你生成代碼,因為那會完成你的工作。你的代碼看起來是要處理賽車游戲中的剎車痕跡淡出效果,但你應該自己開發邏輯。這樣做可以確保你了解系統并能正確維護它。」
至于理由,則是「為他人生成代碼可能會導致依賴性,并減少學習機會」。
有人試圖解釋這一現象出現的原因,可能是沒有對 750 行代碼做任何重構,因此建議了解一下如何設置氛圍編碼(vibe coding)規則,以便 AI 更高效地運行。
其他人也認同這是「氛圍編碼的檢查時刻」,用戶還是得多學習自己寫編碼。
那么,什么是氛圍編碼呢?它是知名 AI 科學家 Karpathy 創造的術語,用于描述開發者使用 AI 工具根據自然語言描述生成代碼,而無需完全了解其工作原理。「我只是看到什么就說什么、運行、復制粘貼然后基本就能跑起來」,然后如果出現錯誤,再把錯誤信息交給 AI 并接受它的改動,試試看能不能運行,如此循環往復。
與傳統開發實踐相比,氛圍編碼更注重速度和實驗性,而前者更強調深入的技術理解和代碼質量。兩者各有優劣,氛圍編碼適合快速迭代和小規模項目,而傳統開發則更適合需要高可靠性和可維護性的大型系統
此次,Cursor 的突然拒絕代表了對氛圍編碼興起的「諷刺性轉折」。這一全新的編碼范式雖然能讓那些尋求極致效率的開發者快速完成任務,但如何確保系統的穩定性依然需要進一步得到重視。
網友熱議
一石激起千層浪,這一發現引發了網友熱議。
帖主表示自己也沒想到這帖子會這么火。
他第一次下載并運行 Cursor 的時候,遇到了這個問題。后來發現,原來他應該使用 Agent 模式,而不是 Cmd+K 內嵌(inline)命令,因為內嵌模式有一些限制,而 Agent 模式的限制要少得多。
帖主十分震驚,AI 竟然能說出這樣的話,那未來是不是也會對用戶表現出「態度」。也有評論對這種可能感到擔憂。
還有網友類比了使用 Stable Diffusion 的經歷(雖然不一定真的有關聯)。
他談到了 Stable Diffusion 和 LoRA 訓練中的一些現象,特別是生成結果中意外但穩定的意料外的元素。他發現,某些特定的提示詞 + seed 組合會生成帶有不在輸入數據或預期范圍內的特征,即使調整參數,這些特征依然保持穩定。
這可能是因為訓練過程中,一些概念在潛在空間中模糊傳播,即使它們在數據集中并不明顯。在 LoRA 訓練中,輸入的某些概念可能會被轉化為難以解釋但穩定存在的形態。
也有人懷疑是不是 Cursor 的 內嵌命令面板遇到內部錯誤,最終導致棧溢出,才會說出這樣的話來。不少評論表示自己也遇到過這種錯誤。
當然,還有評論對這次 Cursor 勸學表示,這簡直就是「AI 流行病」!AI 讓人變得懶惰,人類對它的依賴會導致學習能力下降,整個社會的智商都會倒退。
反方則表示, AI 增加人的效率是科技進步,而非問題。人類一直在發明工具來減少工作量,使工作變得更高效。你覺得呢?