一個月前，DeepMind開發的AlphaFold 3驚艷了整個生物圈和AI圈。

AlphaFold 3能夠根據氨基酸序列預測蛋白質的三維結構，解決了生物學中一個長期存在的難題。

這一突破對生物醫學研究、疾病認識（如在COVID-19大流行期間對蛋白質結構的認識）和生物技術具有深遠影響。

除了技術上的成就，AlphaFold項目還在解決問題、團隊管理和跨學科合作方面提供了寶貴的經驗。

AlphaFold的成功不可被復制，但是它成功的經驗卻可以遷移。

那么，震驚整個科學界的AlphaFold開發團隊究竟做對了什么？Google DeepMind的研究副總裁Pushmeet Kohli，分享了AlphaFold成功的秘密。

- 組建多元化團隊：吸納具有不同專長的人才，以解決不同方面的問題。

- 促進開放式交流：營造一種環境，讓團隊成員在需要幫助和分享知識時能暢所欲言。

- 促進持續學習：鼓勵團隊成員相互學習以及向其他學科學習。

- 注重循序漸進：優先考慮持續、漸進的改進，而不是尋求單一的突破。

- 利用跨學科見解：利用不同領域的知識為項目提供信息并加以改進。

關于AlphaFold

AlphaFold將蛋白質的氨基酸序列作為主要輸入，并輸出該蛋白質的預測三維結構。

輸入：相關蛋白質的氨基酸序列

輸出：預測蛋白質復合物的三維結構及原子坐標

蛋白質是在生物體內發揮各種功能的重要分子。

它們的功能由其三維結構決定，而三維結構則由其組成的氨基酸序列決定。

了解蛋白質的結構可能需要花費數月時間，但一旦完成，就可以深入了解蛋白質的工作原理和功能。準確的蛋白質結構預測至關重要，而且有多方面的下游應用。

- 加速藥物發現：通過了解蛋白質結構，研究人員可以設計出更有效的藥物。

- 增進對疾病的了解：蛋白質結構知識可以幫助人們深入了解疾病的機理，包括COVID-19。

- 推進生物技術：它允許設計具有特定功能的新型酶和其他蛋白質。

在蛋白質結構預測關鍵評估（Critical Assessment of protein Structure Prediction，CASP）競賽中，以往的獲勝方案穩定在40.0左右。AlphaFold打破了這一瓶頸，并大幅超越了之前的分數。

歷年CASP競賽中表現最佳的模型

AlphaFold2再次刷新了這一新紀錄，給該領域帶來了革命性的沖擊，讓蛋白質結構預測直接進入「后AlphaFold時代」。

確定蛋白質結構的傳統方法，如X射線晶體學和冷凍電子顯微鏡，既耗時又昂貴。AlphaFold提供了一種可擴展的高效替代方法，但開發如此復雜的模型也面臨著一系列挑戰。

AlphaFold項目團隊是如何做到的呢？

跨學科合作

AlphaFold項目的突出特點之一是不同團隊之間的有效合作。DeepMind 匯集了來自不同領域的專家，包括：

- 生物學家：深入了解蛋白質的生物學意義。

- 機器學習專家：開發復雜的算法和模型。

- 結構生物學家：確保預測在物理上合理。

AlphaFold項目匯集了各個團隊來解決復雜的跨學科問題

主要經驗

- 聘請領域專家：讓相關領域的專家參與進來，全面了解問題。

- 跨職能團隊：促進不同學科間的合作，從多個角度解決復雜問題。

漸進式改進

羅馬不是一天建成的。

AlphaFold的成功不是單一突破的結果，而是一系列漸進式改進的結果。無論是模型架構、訓練數據，還是算法調整，每一個微小的改進都為整體成功做出了貢獻。

沒有任何單一突破能夠帶來AlphaFold最先進的性能，持續的迭代開發和漸進式改進提供了性能的巨大綜合提升

主要經驗

-迭代開發和改進：強調持續改進和迭代測試，以完善模型。接受你所獲得的勝利，無論大小。這樣做的目的是通過了解失敗案例，并使用更好的數據和方法，提高性能，不斷改進。

-消融實驗（Ablation Studies）：進行徹底的消融實驗，以了解每個組件的影響并優化性能。這個方法來自神經科學，有許多實驗是通過損傷(ablate)一個或多個特定的神經元來研究它們的功能。

消融實驗表明，AlphaFold的性能之所以如此出色，并不是依靠單一的靈丹妙藥，而是一系列漸進式改進的組合

從上述消融實驗的總結中可以看出，并沒有一個明確的主導思想能帶來如此巨大的性能提升。只有通過許多漸進式的改進才能解決這一難題，最終形成最先進的系統。

ML模型的歸納偏差：模型的基礎

歸納偏差（Inductive Bias），是AI領域的一個關鍵概念，它描述了機器學習算法在學習過程中對特定解決方案的偏好或傾向。歸納偏差有助于算法在面對有限數據和不確定性時，做出合理的預測和泛化。

在某些領域，例如生物學或物理學，有些規律是我們人類已經知道的，比如牛頓運動定律。

當然，只要有足夠多的相關數據，我們也能讓機器學習模型自己找到這些規律。

不過，有時在這些模型中預埋這些信息是非常有必要的，這樣當模型學習時就不需要從這些基礎知識開始，而是可以直接去學習那些難以用正式方程或定律寫下來的細微差別。

DeepMind做得很好的一點是，他們沒有使用通用的現成模型，而是給模型注入了領域內的專業知識，以及對所要解決問題的了解，讓模型更「好」，也更「相關」，從而贏在了起跑線上。

讓所有團隊達成共識

對于AlphaFold的機器學習工程師來說，了解問題背后的基礎科學至關重要。

這種深刻的理解使他們能夠將特定領域的知識納入模型設計，從而實現更準確的預測。

「對齊顆粒度」，讓整個團隊發揮更大的影響力

對于一個包含生物學家、計算機科學家和工程師等各領域人才的跨學科團隊來說，讓每個人都參與到項目中來，保持同頻至關重要。

要讓生物學家理解機器學習，讓計算機科學家理解蛋白質，并不是一件簡單的事情。

然而，一旦完成這項艱巨的工作，所有團隊都將達成一致，并對更廣泛的情況有一個總體的了解。

這就像一種「催化劑」，讓團隊中的每個成員都能提供比通常情況下更多的價值，因為他們已經將問題內化并清楚地理解了它。

主要經驗

- 領域知識：投入時間學習問題領域的基礎知識，建立更有效的模型。

- 跨學科培訓：鼓勵跨學科教育，彌合各領域之間的差距，讓領域專家在更好地了解當前問題的背景下發揮最大作用。

AlphaFold的成功證明了跨學科合作、漸進改進和深厚領域知識的力量。

通過培養開放、持續學習和迭代開發的文化，團隊甚至可以應對最復雜的挑戰并推動創新。

AlphaFold的開發經驗提供了一幅通往項目成功管理和執行的藍圖。