wandb

wandb全稱Weights & Biases，用來幫助我們跟蹤機器學習的項目，通過wandb可以記錄模型訓練過程中指標的變化情況以及超參的設置，還能夠將輸出的結果進行可視化的比對，幫助我們更好的分析模型在訓練過程中的問題，同時我們還可以通過它來進行團隊協作

wandb會將訓練過程中的參數，上傳到服務器上，然后通過登錄wandb來進行實時過程模型訓練過程中參數和指標的變化

wandb的特點

• 保存模型訓練過程中的超參數
• 實時可視化訓練過程中指標的變化
• 分析訓練過程中系統指標(CPU/GPU的利用率)的變化情況
• 和團隊協作開發
• 復現歷史結果
• 實驗記錄的永久保留
• wandb可以很容易的集成到各個深度學習框架中(Pytorch、Keras、Tensorflow等)

wandb的組成模塊

wandb主要由四大模塊組成，分別是：

1. 儀表盤：跟蹤實驗分析可視化結果
2. 報告：保存和分析可復制的實驗結果
3. Sweeps：通過調節超參數來優化模型
4. Artifacts：數據集和模型版本化，流水線跟蹤

wandb賬號注冊

• 安裝wandb

pip install wandb

• 注冊wandb賬號在使用wandb之前，我們需要先注冊一個免費賬號
• 拷貝API keys在網站上登錄wandb，點擊Settings

滾動到下面，找到API Keys進行復制

在torch中嵌入wandb

這部分我們主要介紹如何在torch中使用wandb，這里我們以訓練MNIST為例

• 導包

• 登錄wandb

wandb.login(key="填入你的API Keys")

• 定義網絡結構

• 定義訓練方法

• 定義驗證方法

• 訓練模型

查看訓練的結果

• 登錄到wandb的網站上查看訓練結果
• 查看模型在測試集上Accuracy和loss的變化

• 查看模型的預測效果

• 查看訓練過程中系統參數(GPU和CPU等)的變化情況