這種絲滑的操作流程簡直是職場人的福音！

近日，來自中科院自動化所、港理工等機構的研究者們造出了一個「表格 AI 助手」SheetCopilot，該智能體能根據用戶指令生成操縱表格的解決方案并在特定軟件（如：Excel、GoogleSheets 等）上執行。SheetCopilot 可以快速連接多款表格處理軟件，且支持多表操作、圖表繪制和數據透視表生成，有望賦能多個領域的表格數據處理和可視化，并向實現通才智能助手邁出關鍵一步。

網站：https://sheetcopilot-demo.github.io/

論文：https://arxiv.org/abs/2305.19308

讓我們首先通過以下示例來感受 SheetCopilot 如何顯著提升工作效率。

假如你是一個剛入職小白，有一天老板要求你幫他分析銷售數據。你拿到表格一看，上千行的數據眼花繚亂，一時不知從何下手，于是你邊查邊做。

首先，你嘗試采用把各 Product 名稱提取出來，然后用公式對各 Product 的收入求和。

搞了二十多分鐘，SUMIF 一直報”#NAME?”的錯誤，遂放棄。

繼續上網搜索，發現還有數據透視表（Pivot table）這么方便的工具，于是開始第二次挑戰。

又花了二十多分鐘，終于搞定。整個過程將近一個小時，效率不如人意。以后每次老板交個你新的表格處理任務，你之前的經驗派不上用場，又得從頭開始邊查網站邊做: （。

你的同事則使用 SheetCopilot，伸個懶腰的工夫就把各種奇怪的要求都完成了: ）。

看到 SheetCopilot 如此絲滑，你也簡單嘗試了一下，畫個圖不在話下。

有了 SheetCopilot，你再也不用把鼠標滑過半張桌子的距離來選中超出屏幕的數據了，輕松讓上千行數據在多張表之間輾轉騰挪。

為什么提出 SheetCopilot

長久以來，人們一直渴望擁有即使沒有專業經驗也能熟練掌握復雜軟件的能力。許多人都曾遇到過這樣的情況：不知如何操作 PhotoShop 的繁瑣界面，想要分析數據卻不知道數據透視表這一高級功能，想要繪制齒輪卻對 Solidworks 一無所知。

隨著具有強大語言理解和生成能力的大型語言模型（LLM）的出現，這個愿景比以往任何時候都更接近現實。如果能夠引導 LLM 掌握各種軟件，就能夠釋放出 LLM 幾乎無限的潛能，進而讓人類的生產力達到前所未有的高度。

這篇文章指出電子表格（Spreadsheet）是進行這項研究的理想基礎，因為它是一種常見的多功能生產工具。然而，表格操控面臨著多樣化的挑戰，用戶難以掌握足夠的表格處理和編程技巧以應對變化多端的任務需求。

如果有一種通才 AI 智能體，它掌握豐富的軟件操控技能，那么不僅辦公效率能得到極大提升，企業產出也會大大加快。SheetCopilot 的出現正好契合了人們這樣的遠景。

SheetCopilot 有哪些亮點

1. 覆蓋表格處理的典型需求

SheetCopilot 涵蓋了表格操作的幾乎所有典型任務，可以出色地完成各式圖表生成任務。

銷售數據分析

實驗圖表繪制

復雜公式計算

應用條件格式

2. 超越基于 VBA 的方法

SheetCopilot 優于用GPT-3.5 生成 VBA 代碼并執行的方法，生成的解決方案的顯著優于后者（見下圖），這使得 SheetCopilot 有望成為數據處理人員未來強大的 AI 輔助工具。

不僅如此，相比于晦澀的 VBA 代碼，SheetCopilot生成的解決方案包含通俗易懂的步驟，這免去了學習新編程語言并艱難調試的痛苦。

左圖：冗長的 VBA 代碼；右圖：SheetCopilot簡單易懂的解決方案。

3. 舒適的使用體驗

SheetCopilot 在網絡連接穩定的情況下，僅需約 10 步多表組合操作，即可在上千行數十列的表格中快速完成任務。這不僅解放了用戶疲憊的雙眼，還節省了查找網站并逐個嘗試操作步驟所浪費的時間，同時也避免了學習 VBA 的成本。

方法原理

這篇文章將表格操控所需的核心功能抽象為一組虛擬 API（稱為原子操作，見下圖），用于生成解決方案，作為 LLM 與應用軟件之間交互的橋梁。

最簡單的方法是對 LLM 的一次查詢（query）生成一個任務的所有步驟。然而，隨著任務復雜度的增加，后序步驟更加依賴前序步驟的執行結果，導致這種開環控制難以得到正確結果。例如，如果無法確定篩選后可見數據的位置，LLM 就難以確定操作范圍。

為了實現高效的閉環控制，SheetCopilot 根據軟件狀態反饋和外置原子操作知識庫優化解決方案，提升了成功率和效率。

如何評測

該文提出了一個高質量評測基準。該基準的任務具有多樣化的表述，并涉及豐富的原子操作，如下面詞云所示：

此基準采用了如下有關成功率的指標（越高越好）：

• Exec@1：生成的任務解決方案的執行成功率。
• Pass@1：任務通過率，即執行后能匹配上任意參考答案的解決方案的占比。

此基準還考慮如下效率指標（越低越好）：

• A50：將符合任務要求的解決方案的步數除以參考答案最少步數，然后對所有計算結果取中位數。
• A90：計算方式同上，但取所有計算結果的 90 分位數。該指標反映動作數的極值分布。

實驗結果

表 1：在 SheetCopilot 數據集上對比 GPT-3.5-Turbo、GPT-4、Claude 以及生成 VBA 的方法。

不出意料，GPT-4 符合任務要求的解決方案占比最高且效率最優，而 GPT-3.5-Turbo 則緊隨其后，Claude 最次但也接近 GPT-3.5-Turbo。

一個值得關注的結果是，與將用戶指令翻譯成 VBA 代碼并在 Excel 上執行的方法對比，SheetCopilot 取得了非常出色的成功率。這意味著 SheetCopilot 讓軟件智能控制離我們又近了一大步，讓不會編程的用戶能以日常交流的方式指揮計算機完成繁雜的工作。

我們再通過下面各個細分類別上的指標來看一看這三個 LLM 各自的優缺點。

GPT-3.5 和 GPT-4 輕而易舉地解決了 Management（排序、篩選等表格管理操作）和 Entry & manipulation（數據輸入與操縱）這兩類任務，均取得了 100% 可執行率。此外，三個 LLM 在不同任務類別中各自表現出最佳效率，這一有趣的發現表明每個 LLM 都有其獨特的優勢，GPT-4 也難以完勝其它模型。

結語

SheetCopilot 借助 LLM成功地將感知、推理和決策通過文字接口構成了一個閉環，實現高效的電子表格操控，促進智能軟件控制更上一層樓，也為對通才智能體感興趣的研究者帶來了新的靈感。