30歲二刷博士,17個月發(fā)六篇一作獲頂會最佳!現(xiàn)實版人生重開模擬器
本文經(jīng)AI新媒體量子位(公眾號ID:QbitAI)授權(quán)轉(zhuǎn)載,轉(zhuǎn)載請聯(lián)系出處。
一個34歲畢業(yè)的博士,如何評價?
如果還是一個志在科研,二刷博士學位的人呢?
最近,這樣一個博士生在學界引發(fā)熱議,不是因為他的得,而是因為他的舍。一個原本打算博士后進修的畢業(yè)博士,得知未來科研教職可能會受學校排名影響,向博士后“同事”提出了問題:
如果我來這里再讀一個博士呢?
他叫李昂,拜杜克大學陳怡然教授門下,研究聯(lián)邦學習。
就在前幾天,他的論文被ACM主辦的嵌入式網(wǎng)絡(luò)傳感器系統(tǒng)會議SenSys收錄。
這是自去年4月份以來第六篇以第一作者身份被會議收錄!還曾獲KDD 2020最佳學生論文。
他被陳怡然盛贊是“系統(tǒng)層次研究聯(lián)邦學習的新星”,
我并不是系統(tǒng)研究的專家,與其說我在技術(shù)上教了他什么,不如說他帶著我學習了四年。
而更令人感嘆的是,他瘋狂產(chǎn)出背后的勵志求學經(jīng)歷。
他本科就讀于河南大學,之后在北京大學攻讀軟件工程碩士。
畢業(yè)工作一年后,放棄銀行高薪工作只身前往阿肯色大學,攻讀計算機博士。
之后第二次讀博,被陳怡然教授破格錄取。
在與量子位的交流中,他強調(diào):
任何時間都不能算晚。
因為沒有所謂的起點和終點,最重要的還是最終能達到你自己想要的目標。
現(xiàn)實版人生重開模擬器
李昂在河南大學計算機專業(yè)讀本科時就有想過要做研究,然后到北大軟件工程專業(yè)讀了碩士。
畢業(yè)后他在北京的銀行當了一年的管培生,做的是金融管理方向。
在銀行的工作雖然很愜意,但李昂還是覺得這種生活狀態(tài)并不是自己真正想追求的。
一年后,他決定從銀行辭職去讀博,繼續(xù)追求自己的學術(shù)理想。
李昂的第一個博士就讀于美國阿肯色大學計算機科學專業(yè),計算機學科并非這所學校的強項。
于是他打算繼續(xù)從事博士后研究。而目標,是他一直關(guān)注的杜克大學陳怡然教授。
由于簡歷不夠出色,當年他申請陳怡然教授的博士后時也只是抱著試試看的心態(tài),沒想過陳老師能夠回復(fù)他。
△當年陳怡然教授的博士后招收啟示
沒想到的是,陳老師不僅聯(lián)系了李昂,還與他進行了一次比較深入的交流。
雖然如今,陳老師回憶起當年開玩笑稱,是因為他的母校——河南大學,跟自己父母一個學校,于是就在人群中多看了一眼。
但李昂在當時那次交流中,感受到了陳老師是發(fā)自內(nèi)心的去嘗試理解一個學生的學術(shù)理想和職業(yè)規(guī)劃,而不是僅從紙面上去判斷一個學生。
當李昂問出“如果我來您這里再讀一個博士會怎樣?”那個改變他一生的問題時,陳怡然給出的回答是:
如果你有這個決心,一切皆有可能。
在采訪中李昂總結(jié)道,他選擇第二次讀博的內(nèi)因是他自身對學術(shù)的執(zhí)著和熱愛,而外因就是對陳老師的欽佩和崇拜。
△陳怡然教授
以30歲的年紀重讀博士,李昂比組里的其他同學都要大上不少,而讓他焦慮的還不只是年齡。
讀第一個博士的時候,李昂的主要研究方向是和移動計算相關(guān)的隱私保護和安全問題。
在陳老師主要做的AI相關(guān)研究上,李昂覺得自己這方面知識積累不夠充分,對AI領(lǐng)域的發(fā)展也不是很熟悉。
那時候他心里很著急,總在想怎么能快速尋找到一個突破點,盡快展開研究來追趕上這個差距。
出于這樣的心態(tài),李昂天天跑到導(dǎo)師陳怡然的辦公室里去,跟他講文章的思路。
陳怡然卻勸他不要著急發(fā)文章,要從研究方法學起,尋找問題、發(fā)現(xiàn)問題、解決問題以及最后怎么用論文的形式把成果展現(xiàn)出來。
這種對完整科研體系的訓練,正是李昂在之前的學習和研究經(jīng)歷中所缺乏的。
后來,李昂在杜克大學的研究工作逐步走入正軌。
最開始的時候,他的論文常被拒稿。
李昂一方面陷入了對自己能力的懷疑,另一方面對審稿人也產(chǎn)生了負面情緒。
陳怡然就用自己的科研經(jīng)驗去開導(dǎo)他:
如果你一直用抵觸的情緒去看待審稿人給你提的客觀建議的話,對你研究的提升沒有任何幫助。
從2019年的一篇投往Infocomm被拒稿的論文開始,李昂的心態(tài)慢慢發(fā)生轉(zhuǎn)變。
他嘗試站在審稿人的立場上去思考,究竟是自己的研究欠缺?還是論文的展現(xiàn)方式上有不足?
按著這個思路,最終李昂和團隊對文章進行了大改,又補充了非常多的實驗數(shù)據(jù)。
修改后再次投往MobiHoc 2020會議,就比較順利的被接受了。
這也是李昂以一作身份在國際學術(shù)會議上發(fā)表的第1篇論文。
隨后李昂對自己越來越自信,走上了“科研快車道”。
從2020年4月開始,他的論文連續(xù)被MobiHoc,KDD,IoTDI,MobiCom,SEC,SenSys收錄,并獲得KDD 2020最佳學生論文和SEC2019最佳海報獎。
李昂卻說所謂快車道只是外界從產(chǎn)出角度看到的結(jié)果,背后是一個長期積累,量變到質(zhì)變的過程。
他在二次讀博期間積累了大量領(lǐng)域相關(guān)的理論知識,閱讀了大量文獻。
除了一直持續(xù)關(guān)注學術(shù)會議和期刊上的論文,還一直關(guān)注工業(yè)界發(fā)展的趨勢。
在銀行的工作經(jīng)歷讓他能夠積極主動和前輩和同學進行交流。
當然也離不開陳怡然老師的指導(dǎo),對他采購各種實驗設(shè)備的支持,以及對他參與國際學術(shù)交流的鼓勵。
最關(guān)注隱私計算
說了這么多,你是否好奇李昂到底研究的什么領(lǐng)域,能受到眾多學術(shù)會議的青睞。
拿這篇剛剛被SenSys收錄的文章來說,就提出了一種新的聯(lián)邦學習框架
△圖源:截自李昂朋友圈
這一框架能降低97%的通信成本,提高模型訓練和推斷效率,還能解決聯(lián)邦學習訓練過程中的數(shù)據(jù)異質(zhì)性問題。
具體分為以下三個方面:
在聯(lián)邦學習的訓練過程中傳遞二值掩碼(而非本地模型的參數(shù))
利用客戶端本地的數(shù)據(jù)學習二值掩碼,通過嵌入本地數(shù)據(jù)的個性化信息解決數(shù)據(jù)異質(zhì)性問題
對本地模型的參數(shù)進行凍結(jié),并加入一些結(jié)構(gòu)稀疏化的約束
而論文的主題聯(lián)邦學習,正是李昂博士所研究的主要方向之一。
他表示,自己整體的研究方向該是比較偏應(yīng)用的系統(tǒng),但具體研究內(nèi)容還是和理論密不可分。
比如差分隱私技術(shù),就需要非常扎實的統(tǒng)計學理論知識作為基礎(chǔ)。

聯(lián)邦學習目前所面臨的挑戰(zhàn):通信成本、數(shù)據(jù)異質(zhì)性、計算能力或性能的不足,正是他現(xiàn)階段主要研究的問題。
同時,尋找更好的隱私保護技術(shù),也就成為了李昂博士的第二個研究方向。
在這篇KDD 2020最佳學生論文中,他就提出了一種用于隱私保護的數(shù)據(jù)眾包框架:TIPRDC。

實驗證明,這是一種在效用-隱私的權(quán)衡上優(yōu)于現(xiàn)有的其他方法的框架。
具體的,TIPRDC框架能夠隱藏中間表征中的隱私信息,同時最大限度地保留原始數(shù)據(jù)中嵌入的原始信息,以供數(shù)據(jù)收集器完成未知的學習任務(wù)。
也就是說,能在保護個人隱私的前提下,進行更便利的大數(shù)據(jù)收集。
在這種框架下,更大規(guī)模的深度學習模型及應(yīng)用,也就能得到更好的訓練和開發(fā)。
但應(yīng)用在實際部署時,又常常受到計算資源的限制。
這也就來到了李昂博士的第三個研究方向:開發(fā)基于邊緣端/服務(wù)器端的協(xié)同計算框架。
發(fā)表在邊緣計算會議SEC 2021的這篇論文,就提出了部署在邊緣設(shè)備上,通信效率更高的模型LotteryFL:

這一框架能夠?qū)⑼评頊蚀_率提高17.24%,并將通信成本減少了2.94%。
而縱觀李昂博士已發(fā)表的論文,不難看出,隱私保護是他當前最關(guān)心的問題。
在接受采訪時,李昂博士也表示,在現(xiàn)在這個物聯(lián)網(wǎng)設(shè)備高度普及的生活環(huán)境下,我們所面臨的隱私泄露的風險,比以往的任何時候都要高。
比如,像我們?nèi)粘kS處可見的虛擬助手、智能拍攝,還有各種各樣的智能設(shè)備,都無時無刻地收集著我們的個人數(shù)據(jù)。
但大多數(shù)用戶對這些數(shù)據(jù)的存儲地點、流向,以及具體的使用場景完全不清楚。
如何保證數(shù)據(jù)流動的透明性,并向用戶提供更明確的權(quán)限來管理這些數(shù)據(jù)?
李昂博士認為,這是一個非常值得深入研究的問題。
任何時間都不算晚
如今李昂即將畢業(yè),獲得第二個博士學位。
他仍堅持當初做研究的志向,打算在學界找一份教職。
談及科研初心,李昂回憶起剛上大學對喬布斯的崇拜。
尤其感念于那種用不斷迭代的智能設(shè)備、持續(xù)進步的科技,真正改變世界和人類生活的力量。
就連當下被問會推薦什么書籍,他也毫不猶豫地提起《喬布斯傳》
這也就成為李昂最原始的動力,也是做研究的終極目標。
而在慢慢接觸研究之后,李昂對科研的喜愛更進一步:它能給予我最大的自由度,
一方面,可以展開想象,去探索我想要了解的前沿領(lǐng)域。
另一方面,利用前沿技術(shù)來改變?nèi)粘I睿嗷蚴侨谌氲缴鐣a(chǎn)中去解決問題。
也正因為這樣的原因,以及身邊家人、同事以及陳怡然教授的鼎力支持,他才能一步一步抵抗外界非議,始終堅定地走科研這條路。
如此勵志的求學經(jīng)歷,也激勵了不少人。
有網(wǎng)友表示:是呀,有決心的話其實很多事情都能做!

還有人突然對讀博感興趣了。
我也想高齡讀個博士。

也有網(wǎng)友感同身受,想到了自己的人生經(jīng)歷。
從二本一路走來,也真的對科研有著向往。現(xiàn)在剛開始第二年博后。

但正如李昂所強調(diào)的那樣,任何時候都不算晚,只要堅持自己的理想。
對于一些立志想科研的人,他給出了這些建議。
第一點,不要著急,一定要靜下心來踏踏實實去做自己的研究。
第二點,找到真正的興趣,明確自己想要什么。當明確了自己的夢想和目標之后,就要開始提早規(guī)劃自己的未來,然后剩下就是付出努力了。
這一點尤為關(guān)鍵,尤其在讀博期間的瓶頸期,心態(tài)會改變很多事情。
特別的,李昂對正在從事交叉學科研究的同學們,提到了三個必備能力。
快速學習,對專業(yè)研究的甄別能力和交流協(xié)作的能力。
最后,祝福李昂博士一帆風順,心想事成!