每秒處理107萬(wàn)張圖片!阿里云打破MLPerf圖像分類性能記錄
繼刷新單芯片AI性能紀(jì)錄后,阿里巴巴再次在全球頂級(jí)AI評(píng)測(cè)中登頂。
北京時(shí)間4月22日,國(guó)際權(quán)威AI基準(zhǔn)測(cè)試MLPerf™公布了2021年最新推理測(cè)試榜單。圖像分類性能測(cè)試中,阿里云震旦異構(gòu)計(jì)算加速平臺(tái)在通用GPU開放規(guī)則和離線場(chǎng)景下以每秒處理107.8萬(wàn)張圖片的成績(jī),打破了此前谷歌保持的世界紀(jì)錄。這將進(jìn)一步提升圖像識(shí)別、自動(dòng)駕駛等場(chǎng)景下的計(jì)算效率,也是通用GPU計(jì)算平臺(tái)上首次跑出超百萬(wàn)級(jí)的性能測(cè)試紀(jì)錄。
MLPerf是業(yè)內(nèi)首套衡量機(jī)器學(xué)習(xí)軟硬件性能的通用基準(zhǔn),由圖靈獎(jiǎng)得主David Patterson聯(lián)合科技公司和全球頂級(jí)高校于2018年發(fā)起,已成為業(yè)界評(píng)測(cè)AI性能的最主流標(biāo)準(zhǔn)之一。MLPerf基準(zhǔn)聯(lián)盟現(xiàn)有50多家成員,包括谷歌、阿里巴巴、微軟、Facebook等及斯坦福、哈佛、多倫多大學(xué)等名校。
震旦是阿里云自研的異構(gòu)計(jì)算加速平臺(tái),適配GPU、ASIC等多種異構(gòu)AI芯片,優(yōu)化編譯代碼,深挖和釋放異構(gòu)芯片算力,支持TensorFlow、Caffe、PAI等多種深度學(xué)習(xí)框架,可實(shí)現(xiàn)AI框架及算法的無(wú)縫遷移適配,支持云變端多場(chǎng)景快速部署,大幅提升AI應(yīng)用開發(fā)效率。在MLPerf最新版的圖像分類測(cè)試中,震旦平臺(tái)針對(duì)圖像分類神經(jīng)網(wǎng)絡(luò)架構(gòu)進(jìn)行自動(dòng)優(yōu)化,在保證基準(zhǔn)測(cè)試精度目標(biāo)的同時(shí),遠(yuǎn)超標(biāo)準(zhǔn)ResNet50 v1.5的計(jì)算效率。
阿里云異構(gòu)計(jì)算首席科學(xué)家、震旦加速平臺(tái)負(fù)責(zé)人張偉豐博士透露,震旦對(duì)底層軟件框架做了大量編譯優(yōu)化,可在同等硬件配置下發(fā)揮更高性能。MLPerf推理性能的單卡測(cè)試結(jié)果顯示,使用震旦加速平臺(tái)的自動(dòng)優(yōu)化技術(shù),在英偉達(dá)AI專用GPU A100上跑出了比同級(jí)硬件高出80%的推理性能成績(jī);在其它AI加速芯片上,更可幫助提升超過300%的性能。
在此之前,廠商熱衷通過堆疊硬件刷新性能評(píng)測(cè)成績(jī),但在更接近實(shí)操的開放場(chǎng)景下的性能表現(xiàn)參差不齊,“高集成度的專業(yè)化AI芯片對(duì)場(chǎng)景限制很多,我們希望研發(fā)出更通用的軟件平臺(tái)來(lái)發(fā)揮AI應(yīng)用的價(jià)值,”張偉豐博士透露,震旦異構(gòu)計(jì)算加速平臺(tái)不僅可在數(shù)據(jù)中心部署,還可以在邊緣和智能終端部署,支撐自動(dòng)駕駛、交通大腦、車牌識(shí)別、AI語(yǔ)音助手等業(yè)務(wù)和場(chǎng)景。
以自動(dòng)駕駛為例,車載計(jì)算機(jī)通過實(shí)時(shí)協(xié)同處理攝像頭或雷達(dá)信息,正確感知行駛環(huán)境并據(jù)此做出反應(yīng)。“目前先進(jìn)的自動(dòng)駕駛解決方案需要配備10路甚至更多的視覺和雷達(dá)裝置,不斷增加的外部傳感數(shù)據(jù)處理對(duì)車機(jī)系統(tǒng)計(jì)算能力提出了挑戰(zhàn)。采用震旦平臺(tái)的軟硬協(xié)同自動(dòng)優(yōu)化技術(shù)后,車載計(jì)算機(jī)的處理速度至少提升一倍,從而對(duì)行駛環(huán)境做出更加迅速的感知,并大幅提高自動(dòng)駕駛的安全性。”張偉豐博士表示。
目前,震旦異構(gòu)計(jì)算加速平臺(tái)已大規(guī)模應(yīng)用于路口檢測(cè)、以圖搜圖等場(chǎng)景。應(yīng)用了震旦加速平臺(tái)的新一代路側(cè)智能控制終端,交通參數(shù)檢測(cè)準(zhǔn)確率可達(dá)99%,幫助路口通行效率優(yōu)化提升20%以上。此外,該平臺(tái)已通過阿里云彈性計(jì)算加速實(shí)例EAIS對(duì)外提供服務(wù),具備配置靈活、彈性伸縮等特點(diǎn),為用戶提供高性價(jià)比的深度學(xué)習(xí)解決方案。