AI 就像電力一樣。”這是因為，作為一種通用技術（類似于電力），AI 有著無數的應用場景。如果有人問你：“電力能用來做什么？” 這個問題很難回答，因為電力幾乎無處不在。同樣，新興的AI技術正在為我們創造一個龐大的機會空間，能夠開發以前無法實現的應用。

 經常有人問我：“AI最大的機會在哪里？” 我對AI技術棧的理解是這樣的：在最底層，是半導體技術。在其上是云基礎設施。當然，再往上是各種基礎模型訓練工具和模型本身。大眾和媒體的注意力通常集中在技術棧的這些層級，尤其是生成式AI等新技術層面。這本身沒有問題，但我認為還有一個層級值得更多關注，那就是應用層。

應用層是我們創造價值和收入的地方，它最終支持整個技術棧的發展。因此，我花了很多時間思考AI的應用，因為我相信那里是構建新事物的最佳機會所在。

過去幾年中，尤其是在生成式AI的推動下，機器學習模型開發的速度顯著加快。例如，構建一個情感分類器（用于分析文本情感正面或負面的工具）以進行聲譽監控。使用傳統的監督學習方法，通常需要一個月時間收集標注數據，再用幾個月訓練模型，之后還需額外時間部署平臺。總體來看，即使是最頂尖的團隊，構建有價值的AI系統通常需要6到12個月。

生成式AI讓某些類別的應用開發可以在數日內完成。例如，編寫一個提示（prompt）只需幾天時間，快速部署后，能夠將以前需要數月完成的應用縮短到10天以內。這為快速實驗、原型設計和快速推出AI產品打開了激動人心的可能性。

快速實驗已成為創新的更佳路徑。過去，當開發一項產品需要6個月時，團隊必須進行廣泛的市場研究、驗證用戶需求并仔細規劃。但現在，快速行動的AI團隊可以在一個周末開發20個原型，然后評估哪些有效。如果有18個失敗也沒關系，只需堅持那2個成功的即可。這種快速迭代的方式正在解鎖新的用戶體驗創造機會。

然而，這一趨勢也帶來了新的挑戰。例如，評估（或稱“evals”）成為了一個瓶頸。在監督學習中，收集10,000個訓練數據的同時，也可以順便收集1,000個測試數據，幾乎沒有額外成本。但對于基于大語言模型的應用，往往沒有現成的訓練數據。如果測試需要創建1,000個示例，便成為一個顯著的瓶頸。因此，開發流程從過去的順序構建與數據收集，轉變為并行進行。

雖然機器學習原型開發的速度比以往任何時候都快，但軟件開發生命周期的其他部分（包括設計、軟件集成、部署和運營）并沒有以相同的速度加速。這使得組織面臨壓力，要求加快這些流程以匹配機器學習開發的速度。

 “快速行動、打破常規”這一口號因為帶來了負面后果而名聲不佳。但這并不意味著我們不應該快速行動。更好的方式是“快速行動，同時負責”。許多團隊現在能夠快速開發原型、穩健評估并負責任地迭代，以更快的速度構建系統，同時不犧牲安全性或質量。

在技術趨勢方面，我最興奮的是智能體AI工作流。如果你問我當前最重要的AI技術是什么，我會說是智能體AI。當我今年初提出這一點時，這一想法還有些爭議，但現在“AI智能體”一詞已經被廣泛接受。

從技術角度看，智能體工作流的核心在于迭代式流程：AI先生成一個草稿，再進行網絡研究，撰寫初稿，批判修改，然后重復這一過程。與一次性輸出相比，這種方法雖然更耗時，但效果顯著提升。

例如，在我合作的一些團隊中，智能體工作流被應用于處理法律文件、輔助醫療診斷或管理合規性文檔。相比傳統方法，這種迭代流程能夠顯著提高結果的質量。

在某些基準測試中，智能體工作流的優越性得到了驗證。例如，在OpenAI的人類評估基準中解決編程難題時，GPT-3.5的準確率為48%，GPT-4提高到67%，而GPT-3.5結合智能體工作流后躍升至95%。這是一個顯著的提升。

智能體工作流有四種主要設計模式：

1. 反思（Reflection）：模型迭代地批判和改進自己的輸出。例如，生成代碼、審視代碼、然后根據反饋改進，這一過程通常可以提升性能。
2. 工具使用（Tool Use）：大語言模型生成并執行API調用、進行網絡搜索或其他自動化操作，從而擴展了它們可以執行的任務范圍。
3. 規劃（Planning）：AI將復雜任務分解為一系列子任務并按順序執行。這種方法對復雜工作流尤為有用。
4. 多智能體協作（Multi-Agent Collaboration）：模型扮演多個角色（如編碼員、批評者）或模擬多個“智能體”之間的協作，以實現更優的結果。

智能體工作流在多模態AI領域的應用尤其令人興奮，在這里，模型不僅能處理文本，還能分析圖像、視頻等多種數據類型。例如，模型可以逐步分析圖像，檢測人臉、識別物體，并迭代地生成詳細輸出。

總結來說，AI技術棧正在演進，出現了一個新的智能體編排層，使得開發者能夠更輕松地構建強大的應用。特別是視覺AI的崛起，為企業從以前未開發的圖像和視頻數據中提取價值提供了新的機會。

最后，我認為以下四個AI趨勢最值得關注：

1. 由半導體和軟件進步推動的更快的token生成。
2. 大語言模型不僅優化了回答問題，還優化了工具使用和迭代工作流。
3. 數據工程在管理無結構數據（如文本、圖像、視頻）中的重要性日益增長。
4. 視覺AI革命的到來，將為從視覺數據中提取價值打開巨大的潛力。

這是一個激動人心的時代，生成式AI促進了更快的實驗，而智能體AI則擴展了我們的可能性。許多以前不可能的應用，無論是視覺AI還是其他領域，現在都可以實現。

本文轉載自??AI取經路??，作者：AI取經路