圖神經網絡快速爆發,最新進展都在這里了
近年來,圖神經網絡(GNNs)發展迅速,最近的會議上發表了大量相關的研究論文。本文作者正在整理一個GNN的簡短介紹和最新研究報告的摘要。希望這對任何準備進入該領域或試圖趕上最新技術進展的人有所幫助。
什么是圖神經網絡?
圖是一種包含節點(頂點)的數據類型,這些節點(頂點)通過邊相互連接,邊可以是有向的,也可以是無向的。每個節點都有一組特征(這些特征可以表示節點的屬性,也可以是一個熱編碼(One-hot)信息),而邊定義了節點之間的關系。
在典型的GNN中,消息傳遞是由邊在相鄰節點之間上執行的。直觀地說,消息是信息的神經編碼,它從一個節點傳遞到與其連接的鄰居節點。在任何神經層,節點的表示都是通過將其所有鄰居的消息聚合到當前節點來計算的。經過多輪消息傳遞,可以獲得每個節點的向量表示,可以解釋為一種既描述節點特征信息又描述節點周圍鄰域圖結構的嵌入表示。
GNN最新論文簡介
1、XGNN:Towards Model-Level Explanations of Graph Neural Networks
使用神經網絡的一個主要問題是它們常被當作黑匣子。由于缺乏神經決策背后的原因,它們不太可能用于一些關鍵性決策的情況。當前的方法使用梯度、稀疏和神經網絡在前向傳遞過程中產生的激活用于解釋其輸出。然而,這并不是一個非常有效的方法,而且對于GNNs來說也是非常困難的。
這篇發表在KDD2020上的論文使用了一種新的方法XGNN,通過結合生成性方法與強化學習來解決這個問題。這種方法可以用來獲取信息進行理解、驗證,甚至提高訓練好的GNN模型。
論文解析:
https://crossminds.ai/video/5f3375a63a683f9107fc6b72/
2、Neural Dynamics on Complex Networks
本文解決了復雜網絡中連續時間動態捕捉的問題。作者提出了一種將常微分方程(ODEs)與GNNs相結合的方法來有效地模擬系統結構和動力學,從而更好地理解、預測和控制復雜網絡。
論文解析:
https://crossminds.ai/video/5f3375a13a683f9107fc6b34/
3、Competitive Analysis for Points of Interest
接下來這篇論文是來自于Baidu Research,它是GNNs的一個實際應用,對在提供類似產品/服務(稱為興趣點,poi)的相鄰企業實體之間建立消費者選擇模型。為了預測poi之間的競爭關系,開發了一個基于GNN的深度學習框架DeepR,它集成了poi的異構用戶行為數據、業務評論和地圖搜索數據。
論文解析:
https://crossminds.ai/video/5f3375a13a683f9107fc6b31/
4、Comprehensive Information Integration Modeling Framework for Video Titling
阿里巴巴集團的這篇文章旨在利用消費者產生的大量產品評論視頻,更好地了解他們的偏好,并向潛在客戶推薦相關視頻。這些視頻的一個主要問題是沒有正確標記。因此,論文提出了一種基于主題層次的、基于交互因素的二級視頻摘要生成方法。
論文解析:
https://crossminds.ai/video/5f3369730576dd25aef288a8/
5、Knowing Your FATE:Explanations for User Engagement Prediction on Social Apps
Snapchat團隊的這篇文章探討了使用GNNs的社交媒體應用程序中用戶的參與度。它提出了一個端到端的神經網絡框架來預測用戶參與度,這些因素包括好友數量和質量、用戶發布內容的相關性、用戶行為和時間因素。這是GNNs最直觀的應用之一。
論文解析:
https://crossminds.ai/video/5f405f57819ad96745f802ba/
下面是CVPR/KDD/ECCV/ICML更多的關于圖卷積網絡的論文:
- [CVPR 2020] Point-GNN: Graph Neural Network for 3D Object Detection in a Point Cloud
- [CVPR 2020] Geometrically Principled Connections in Graph Neural Networks [CVPR 2020] SuperGlue: Learning Feature Matching With Graph Neural Networks
- [CVPR 2020] Learning Multi-View Camera Relocalization With Graph Neural Networks
- [CVPR 2020] Multi-Modal Graph Neural Network for Joint Reasoning on Vision and Scene Text
- [CVPR 2020] Social-STGCNN: A Social Spatio-Temporal Graph Convolutional Neural Network for Human Trajectory
- [CVPR 2020] Dynamic Multiscale Graph Neural Networks for 3D Skeleton Based Human Motion Prediction
- [CVPR 2020] Dynamic Graph Message Passing Networks
- [ECCV 2020] Graph convolutional networks for learning with few clean and many noisy labels
- [ICML 2020] When Spectral Domain Meets Spatial Domain in Graph Neural Networks
- [KDD 2020] Graph Structural-topic Neural Network
- [KDD 2020] Towards Deeper Graph Neural Networks
- [KDD 2020] Redundancy-Free Computation for Graph Neural Networks
- [KDD 2020] TinyGNN: Learning Efficient Graph Neural Networks
- [KDD 2020] PolicyGNN: Aggregation Optimization for Graph Neural Networks [KDD 2020] Residual Correlation in Graph Neural Network Regression
- [KDD 2020] Spotlight: Non-IID Graph Neural Networks
- [KDD 2020] XGNN: Towards Model-Level Explanations of Graph Neural Networks
- [KDD 2020] Dynamic Heterogeneous Graph Neural Network for Real-time Event Prediction
- [KDD 2020] Handling Information Loss of Graph Neural Networks for Session-based Recommendation
- [KDD 2020] Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks
- [KDD 2020] GPT-GNN: Generative Pre-Training of Graph Neural Networks
- [KDD 2020] Graph Structure Learning for Robust Graph Neural Networks
- [KDD 2020] Minimal Variance Sampling with Provable Guarantees for Fast Training of Graph Neural Networks
- [KDD 2020] A Framework for Recommending Accurate and Diverse Items Using Bayesian Graph Convolutional Neural Networks
- [KDD 2020] Competitive Analysis for Points of Interest
- [KDD 2020] Knowing your FATE: Explanations for User Engagement Prediction on Social Apps
- [KDD 2020] GHashing: Semantic Graph Hashing for Approximate Similarity Search in Graph Databases
- [KDD 2020] Comprehensive Information Integration Modeling Framework for Video Titling