當前最流行和廣泛使用的 GNN 庫 PyG（PyTorch Geometric）現(xiàn)在出 2.0 版本了，新版本提供了全面的異構(gòu)圖支持、GraphGam 以及很多其他特性，這一系列改進，為使用者帶來了更好的用戶體驗。

PyTorch Geometric（PyG）是一個構(gòu)建于 PyTorch 之上的庫，用來為一系列與結(jié)構(gòu)化數(shù)據(jù)相關(guān)的應(yīng)用編寫和訓(xùn)練圖神經(jīng)網(wǎng)絡(luò)（GNN）。PyG 對機器學(xué)習(xí)研究者以及機器學(xué)習(xí)工具包的首次使用者都很友好。

[[423998]]

就其特征和功能而言，PyG 具有易用和統(tǒng)一的 API，用戶花費更少的時間在實現(xiàn)和運行圖神經(jīng)網(wǎng)絡(luò)的底層機制上，只需要 10 至 20 行代碼就可以訓(xùn)練自定義 GNN 模型。PyG 涵蓋了大量的 SOTA GNN 架構(gòu)以及訓(xùn)練和可擴展流程，并且易于擴展以匹配用戶自己的特定用例或進行自己的 GNN 研究。

此外，PyG 中的全新 GraphGym 使得用戶可以輕松地復(fù)現(xiàn) GNN 實驗，執(zhí)行和分析數(shù)千個 GNN 實驗，并將自定義模塊嵌入到 GNN 學(xué)習(xí) pipeline 中。

近日，PyG 核心領(lǐng)導(dǎo)者（Core lead）Matthias Fey 宣布 PyG 2.0 版本來了！新版本提供了全面的異構(gòu)圖支持、GraphGam 以及很多其他特性。

PyG 2.0 詳情地址：https://github.com/pyg-team/pytorch_geometric/releases/tag/2.0.0

PyG 2.0 新特性

PyG 2.0 是一個新的版本，提供了復(fù)雜的異構(gòu)圖支持、GraphGym 集成以及其他新特性。

PyG 2.0 中提供了完全的異構(gòu)圖支持。異構(gòu)圖支持包括數(shù)據(jù)存儲層的完整重寫（同時保持向后兼容性）、異構(gòu)圖轉(zhuǎn)換、通過鄰采樣的關(guān)系型數(shù)據(jù)加載例程，以及一整套異構(gòu) GNN 模型 / 示例。

突出亮點

異構(gòu)圖存儲：異構(gòu)圖現(xiàn)在可以存儲在它們自己的專用 data.HeteroData 類中。

from torch_geometric.data import HeteroData 
data = HeteroData() 
# Create two node types "paper" and "author" holding a single feature matrix: 
 
 
data['paper'].x = torch.randn(num_papers, num_paper_features) 
data['author'].x = torch.randn(num_authors, num_authors_features) 
# Create an edge type ("paper", "written_by", "author") holding its graph connectivity: 
data['paper', 'written_by', 'author'].edge_index = ...  # [2, num_edges] 

異構(gòu) Mini-Batch 加載：異構(gòu)圖可以分別通過 loader.DataLoader 和 loader.NextorLoader 對許多小的、單個的巨大圖進行轉(zhuǎn)化，轉(zhuǎn)換成 mini-batches。這些 loaders 現(xiàn)在可以處理同構(gòu)圖和異構(gòu)圖：

from torch_geometric.loader import DataLoader 
loader = DataLoader(heterogeneous_graph_dataset, batch_size=32, shuffle=True) 
from torch_geometric.loader import NeighborLoader 
loader = NeighborLoader(heterogeneous_graph, num_neighbors=[30, 30], batch_size=128, 
                        input_nodes=('paper', data['paper'].train_mask), shuffle=True) 

異構(gòu)圖神經(jīng)網(wǎng)絡(luò)：異構(gòu) GNN 現(xiàn)在可以通過 nn.to_hetero、nn.to_hetero_with_bases 從同構(gòu) GNN 輕松創(chuàng)建。這些進程采用現(xiàn)有的 GNN 模型并復(fù)制其消息功能，以考慮不同的節(jié)點和邊緣類型：

from torch_geometric.nn import SAGEConv, to_hetero 
 
 
class GNN(torch.nn.Module): 
    def __init__(hidden_channels, out_channels): 
        super().__init__() 
        self.conv1 = SAGEConv((-1, -1), hidden_channels) 
        self.conv2 = SAGEConv((-1, -1), out_channels) 
 
 
    def forward(self, x, edge_index): 
        x = self.conv1(x, edge_index).relu() 
        x = self.conv2(x, edge_index) 
        return x 
 
 
model = GNN(hidden_channels=64, out_channels=dataset.num_classes) 
model = to_hetero(model, data.metadata(), aggr='sum') 

使用 GraphGym 管理實驗

PyG 2.0 現(xiàn)在通過 torch_geometric.graphgym 正式支持 GraphGym。總的來說，GraphGym 是一個平臺，用于通過高度模塊化的 pipeline 從配置文件中設(shè)計和評估圖神經(jīng)網(wǎng)絡(luò)：

• GraphGym 是開始學(xué)習(xí)標準化 GNN 實現(xiàn)和評估的最佳平臺；
• GraphGym 提供了一個簡單的接口來并行嘗試數(shù)千個 GNN 架構(gòu)，以找到適合特定任務(wù)的最佳設(shè)計；
• GraphGym 可輕松進行超參數(shù)搜索并可視化哪些設(shè)計選擇更好。

重大改變

datasets.AMiner 數(shù)據(jù)集現(xiàn)在返回 data.HeteroData 對象；transforms.AddTrainValTestMask 已被替換為 transforms.RandomNodeSplit；由于 data.Data 的存儲布局發(fā)生了顯著變化以支持異構(gòu)圖，因此需要通過刪除 root/processed 文件夾來重新處理已處理的數(shù)據(jù)集。

此外，data.Data.__cat_dim__ 、 data.Data.__inc__現(xiàn)在需要額外的參數(shù)輸入：

def __cat_dim__(self, key, value, *args, **kwargs): 
    pass 
def __inc__(self, key, value, *args, **kwargs): 
    pass 

如果你修改了自定義 data.Data 對象中的__cat_dim__或__inc__ ，請確保應(yīng)用上述更改。

了解更多變化，請參考原項目。

核心團隊成員

PyG 核心團隊共有 6 位成員，包括多特蒙德工業(yè)大學(xué)四年級圖機器學(xué)習(xí)博士生 Matthias Fey、多特蒙德工業(yè)大學(xué)博士生 Jan Eric Lenssen（核心貢獻者）和圖網(wǎng)絡(luò)領(lǐng)域大牛 & 斯坦福計算機科學(xué)副教授 Jure Leskovec（擔任顧問）。

從左至右依次為 Matthias Fey、Jan Eric Lenssen 和 Jure Leskovec。

此外還有三位華人成員，分別是斯坦福大學(xué)計算機科學(xué)四年級博士生尤佳軒（Jiaxuan You，核心領(lǐng)導(dǎo)者）、斯坦福大學(xué)計算機科學(xué)博士生 Rex Ying（核心貢獻者，他將于 2022 年加入耶魯大學(xué)擔任助理教授）和卡內(nèi)基梅隆大學(xué) - 漢斯學(xué)院三年級博士生趙越（Yue Zhao，核心貢獻者）。

從左至右依次為尤佳軒、Rex Ying 和趙越。

日前，趙越在知乎分享了自己參與 PyG 2.0 版本設(shè)計與升級過程中的心得體會，感興趣的讀者可以參考閱讀。

知乎鏈接：https://www.zhihu.com/pin/1420674585365196800