煉丹速度×7!你的Mac電腦也能在PyTorch訓練中用GPU加速了
本文經AI新媒體量子位(公眾號ID:QbitAI)授權轉載,轉載請聯系出處。
一直以來,Pytorch在Mac上僅支持使用CPU進行訓練。
就在剛剛,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。
只要是搭載了M1系列芯片的Mac都行。
這也就意味著在Mac本機用Pytorch“煉丹”會更方便了!
訓練速度可提升約7倍
此功能由Pytorch與Apple的Metal工程團隊合作推出。
它使用Apple的Metal Performance Shaders(MPS) 作為PyTorch的后端來啟用GPU加速訓練。
為了優化計算性能,MPS還針對Metal GPU系列的獨特特性對每個內核進行了微調。
Metal是一個類似OpenGL的框架,只不過OpenGL適用于各平臺的移動端GPU渲染和計算,Metal專用于iOS/MacOS平臺,不過也兼顧了性能和易用性。
MPS就是一套基于Metal框架的庫,直接調用即可使用GPU的高性能進行圖形處理、構建卷積神經網絡等工作。
蘋果官方在搭載了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上進行了測試。
(這陣容差不多能算是豪華配置了)。
他們分別訓練了batch size為128的ResNet50、batch size為64的HuggingFace BERT,以及batch size=64的VGG16。
從下圖中我們可以發現,相比使用CPU加速,使用GPU可將模型訓練速度提高約7倍,評估(evaluation)速度則最高能提約20倍。
看到這兒,有網友開始好奇它與搭載了Nvidia GPU的laptop相比性能如何。
有人表示,雖說目前M1的原始計算性能比不上英偉達的產品,但功耗方面還不錯。未來蘋果很有可能慢慢追上性能。
總的來說,Mac Studio現在看起來實在太香了。
他進一步解釋道:
“畢竟它是你花4800美元就能買到的最便宜、包含128GB GPU內存的機器。現在有了基于GPU加速的PyTorch支持,完全可以用來訓練大模型、配置大的batch size。
對于我所做的那種DL工作,數據加載比實際的原始計算能力更容易成為瓶頸。”
你心動了嗎?
現在就試試?
只需保證你的macOS操作系統在12.3版本及以上,且安裝了arm64原生Python,然后去官網下載最新的Pytorch預覽版就可以了。
地址:
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/