使用機器學習預測分子性質
最近,在化學行業涌現了許多激動人心的機器學習 (ML) 應用,特別是在解決化學檢索問題方面,從藥物發現和電池設計到尋找更好的 OLED 和催化劑,層出不窮。歷史上,化學家一直使用薛定諤方程式的數值逼近(例如密度泛函理論 (DFT))來進行此類化學檢索。
然而,計算這些近似值的開銷限制了檢索的規模。為了實現更大規模的檢索,幾個研究小組建立了機器學習模型,使用 DFT 生成的訓練數據(例如 Rupp et al. 和 Behler and Parrinello)預測化學性質。在開展前述工作之前,我們一直使用各種現代機器學習方法來開發 QM9 基準庫,這是一組公開的分子庫,其中提供了根據 DFT 理論計算得出的各種分子的電子、熱力學和振動特性。
我們最近發布了兩篇論文,介紹了我們在此領域的研究成果,這些成果源自 Google Brain 團隊、Google Accelerated Science 團隊、DeepMind 和巴塞爾大學的密切合作。***篇論文介紹了一種新的分子影像制作方法以及一種評估開發 QM9 基準庫所用的各種機器學習方法的系統化評估方法。在對此基準庫嘗試過許多現有方法之后,我們曾致力于改進最有希望的深度神經網絡模型。
其結果是,我們發表了第二篇論文“量子化學的神經消息傳遞”(Neural Message Passing for Quantum Chemistry),其中介紹了一個稱為消息傳遞神經網絡 (Message Passing Neural Networks, MPNN) 的模型系列,其定義足夠抽象,能夠包含許多之前圖形對稱性保持不變的神經網絡模型。我們在 MPNN 模型系列中開發出新的模型,其表現大大優于 QM9 基準庫的所有基準方法,在某些指標上提升了將近 4 倍。
從機器學習的角度來看,分子數據如此有趣的原因之一是:一個分子的自然表示形式是以原子作為節點,以化學鍵作為邊繪制而成的分子結構圖。利用數據中的內在對稱性的模型往往更具普遍性,腦回神經網絡之所以能在圖片處理方面取得成功,部分是因為它們能夠吸收我們之前關于圖像數據不變性的知識(例如,一只狗的照片移到左邊后仍然是一只狗的照片)。對于處理圖形數據的機器學習模型來說,圖形對稱性不變是一個特別有用的特性,這方面也有許多有趣的研究(例如 Li et al.、Duvenaud et al.、Kearnes et al.、Defferrard et al.)。然而,盡管取得了這些進展,但仍有大量工作要做。我們希望為化學(和其他)應用找到這些模型中的***模型并找出文獻中建議的不同模型之間的關聯。
我們的 MPNN 為預測 QM9 中所有 13 種化學性質建立了新的模型標桿。對于這組特別的分子,我們的模型可以足夠準確地預測出其中 11 種性質,這些預測對化學家而言很可能非常有用,并且,我們的速度比使用 DFT 模擬預測最多要快 30 萬倍。然而,在 MPNN 能夠對化學家產生真正的實用價值之前,我們還有大量工作要做。特別是,使用 MPNN 分析的分子類型還遠遠不夠,必須比 QM9 中現有的分子類型還要多得多(例如,分子量更大或者有更多類型的重原子的分子)。當然,即便是采用真實的訓練集,即便推廣到大相迥異的分子,也仍然不夠。要克服這兩大挑戰,就需要在普遍化(這也是機器學習研究的核心)等問題上取得突破。
預測分子特性是一個非常重要的問題,一方面,先進的機器學習技術有助于推動該課題的研究,另一方面,該課題也為學習算法提出了一些有趣的基本研究挑戰。最終,此類預測可以幫助設計造福人類的新藥物和新材料。
【本文是51CTO專欄機構“谷歌開發者”的原創稿件,轉載請聯系原作者(微信公眾號:Google_Developers)】