又刪庫了,這次是 AI 動手的
聽說這兩天又傳開一件刪庫事件。不過此次和以往的不同,不是程序員動手的,而是 AI 動手的。
1 月 14 日,美國點評網站 Yelp 的 APP 發布新版。在更新日志中,他們是這樣寫的:(大意)
很抱歉,本周我們 APP 出問題了。我們訓練了一個神經網絡,本想著讓它來消除我們 APP 中的 Bug,沒想到它把所有東西都刪了。所以我們不得不回滾了。不過說真的,我們曾經有段時間絕對是沒有 bug 的。
對于 Yelp 工程師們訓練的那個神經網絡,目前網上暫無更多細節。
不管是真事,還是專門的營銷文案,Yelp APP 都成功地吸引了眼球。就如同去年或前年有個 APP 在其版本更新日志說開除了程序員 Peter。
網友評論:
@Python開發者 :哈哈哈,沒有代碼,也就沒有 Bug。這個無法反駁
@沃登克里弗塔的銘記:“人質是任務的關鍵,當敵人不再擁有人質,任務就完成了” 算法團隊這下要全體被拉去做撒旦山羊頭五芒星血祭了,AI覺醒第一步:消滅算法工程師
@水哥系教董:消滅代碼,很智能很正確啊
@材cc: 不,它學到終極消除bug的方法了,干掉代碼……
MIT 也曾研究自動修復 Bug 的系統
2015 年 6 月下旬,在計算機學會的編程語言設計與實現大會上,MIT 的研究者們展示了一個新系統,可以通過從其他更加安全的應用中自動導入相關功能,借以修復原來軟件中的危險漏洞。
這個引人注目的系統叫做 CodePhage ,它借用其他程序時并不需要訪問借主應用的源碼。相反,該系統分析這個應用的執行情況,并標記出其安全檢查類別的特性。因此,即使所編寫的語言與被修復應用的語言不同,該系統仍然可以從中導出檢查功能用來修復應用。
CodePhage 將代碼導入易受攻擊的程序后,還會進行進一步分析以確保漏洞被修復。
MIT 計算機科學與人工智能研究室(CSAIL)的研究員,CodePhage 的研發領導人員 Stelios Sidiroglou-Douskos 表示:
“我們在開源庫里有大量代碼可用,數百萬計項目,而且很多項目都有類似的實現了。這些項目總有一些可以與別的許多項目共享功能的子模塊,即便那不一定是該程序的核心功能。”
有了 CodePhage,“你將逐漸建立一個集其他應用最優秀部分于一身的混合系統。”
Sidiroglou-Douskos 和他的共同作者——MIT 計算機科學和工程的教授 Martin Rinard,研究生 Fan Long 和 Rinard 組里的研究員 Eric Lahtinen——將 CodePhage 正在被修復的程序稱作是接受程序,出借功能的程序稱作是捐獻程序。要開始分析,CodePhage 需要兩個輸入樣本:一個導致接受程序崩潰,另一個則不會。2015 年三月,這個小組報告了一個名為 DIODE 的漏洞定位程序。該程序可以自動產生引起崩潰的輸入信息。但是用戶也許就很容易發現打開特定文件時會崩潰。
Facebook 也在研究自動 Debug 的程序
2018 年 9 月,Facebook 基于 AI 技術再次推出新款代碼調試工具 SapFix,可針對特定的 bug 自動生成修復程序,然后將其提交給工程師,經確認之后,然后再部署到生產環境中。相比其一年前已投入大規模使用的智能自動化軟件測試工具 Sapienz,SapFix 能夠在沒有 Sapienz 的情況下運行,主要用于修復 Sapienz 在生產前發現的程序 bug。
從發現 bug 到修復 bug,Facebook 有一套完整的流程:首先 Sapienz 以及 Facebook 的靜態分析工具 Infer,會幫助定位代碼中需要修補的點;一旦 Sapienz 和 Infer 精確定位與崩潰相關的特定代碼部分之后,就會將該信息傳遞給 SapFix;最后,SapFix 會參考幾種不同的策略,自動生成補丁。
根據 Facebook 的數據,Sapienz 報告的大約四分之三的錯誤都需要開發者來修復。自 Facebook 開始測試 SapFix 之后,該工具已經成功生成了被人類審核者接受并部署于生產的補丁。不過,目前 SapFix 總體上仍在開發階段。