GPT-4兩句話復刻DeepMind最快排序算法？馬庫斯：過于諷刺
據稱，這個算法可以創造出比人類編寫的算法快3倍的排序算法。
消息剛出的時候，很多網友都認為這是機器學習領域的重大突破。
但經過一段時間的發酵之后，部分網友對AlphaDev取得的成就的評價似乎出現了分歧。
先是一位推特網友表示，用GPT-4也成功地發現了和AlphaDev發現的幾乎一樣的算法。
然后不少網友也在討論，覺得AlphaDev取得的實際成果和他們自己吹的「歷史性突破」差距過大。
網友的這些討論甚至把馬庫斯也引來圍觀看熱鬧了。
此外，馬院士也回復了用GPT-4發現算法的網友，「推特老板到此一游」
GPT-4也能「發現」同樣的算法
現在我們來看看這位用GPT-4發現和AlphaDev幾乎一樣算法的網友到底是怎么做到的。
他把自己的Prompt和GPT-4的回復都Po了出來。
順便問了一句，我這東西能發Nature嗎？
網友的提示詞有兩個部分，第一個部分讓GPT-4針對這段排序算法進行優化，標注出哪段指令可以刪除，再一步一步解釋原因，然后回頭再驗證一遍。
然后他又給了第二部分提示詞，讓GPT-4根據上面的提示詞繼續做，讓Temperature=0(保持結果的一致性)。
最后GPT-4還小小地總結了一下。
認為刪除「mov S P」，再把刪除后代碼的P用S替換一下就行。
AlphaDev發現的算法
如下圖示例，原始sort3實現，有min(A, B, C)，使用AlphaDev Swap Move，AlphaDev發現，你只需要min(A, B)。
對比網友用GPT-4的優化內容，只能說是一模一樣！
不知道是GPT-4過于強大，還是說AlphaDev確實也就那樣？
AlphaDev被吹得有些過頭了？
馬庫斯也在推特上轉載了一段YC社區網友對于AlphaDev發現的算法這個事比較刻薄評價。
YC社區的用戶orlp指出，他們能夠在某個libc++算法上取得70%的改進主要是因為這個庫在過去10年中沒有得到積極開發。
此外，DeepMind的改進能起作用其實是因為庫本身在無分支排序網絡的高效實現方面存在一些問題。
其他用戶指出，這種觀點「過于極端」了，算法能夠自動生成新的排序算法已經是很了不起的一件事了。
orlp回復說，雖然該算法確實能夠自動生成良好的代碼，但它遠未達到革命性或改進現有技術水平的程度。
網友主要的觀點認為算法并沒有找到全新的排序方法，而只是對代碼進行了優化。
但是，其實已經存在「超級優化器」的程序能夠以不同的原理實現類似的效果。
論文地址：https://courses.cs.washington.edu/courses/cse501/15sp/papers/massalin.pdf
而且在GitHub上也有項目已經完成了更加快速的排列網絡的自動搜索，效果似乎比AlphaDev的算法還要好。
項目地址：https://github.com/bertdobbelaere/SorterHunter
不少國內網友還是選擇相信AlphaDev，搞不好是因為GPT-4抄得快，不一定是原創。
不過確實有些讀者認為，這類改進確實意義不算特別大。
參考資料：
https://twitter.com/DimitrisPapail/status/1666843952824168465
