人工智能的突破帶來了前所未有的機遇，但也帶來了經濟、政治和社會的顛覆。專家表示，人工智能需要監督，以確保其帶來的變化是更好的。

要點：

• 2022年，隨著OpenAI開發的生成式人工智能聊天機器人ChatGPT的發布，人工智能(AI)實現了代溝式的飛躍。
• 私營公司控制著美國大部分的人工智能開發。專家表示，這項技術將需要新的規則來最大限度地發揮其潛力，避免嚴重風險。
• 人工智能在國際上的日益普及可能會重塑全球力量平衡，并可能帶來嚴重的地緣政治后果。

簡介

人工智能(AI)已存在數十年，但新的進步使該技術脫穎而出。專家表示，其的崛起可能會反映以前的技術革命，為全球經濟增加價值數十億美元的生產力，同時也帶來了一系列新的風險，可能會顛覆全球地緣政治秩序和社會本身的性質。

管理這些風險至關重要，隨著美國、歐盟(EU)等主要大國在監管這項技術方面采取越來越不同的方法，關于人工智能治理的全球辯論正在激烈進行。與此同時，人工智能的開發和部署繼續以指數速度進行。

人工智能是如何定義的？

雖然沒有單一的定義，但“人工智能”通常是指計算機執行傳統上與人類能力相關的任務的能力。這個詞的起源可以追溯到20世紀50年代，斯坦福大學計算機科學家John

McCarthy使用“人工智能”一詞來描述“制造智能機器的科學和工程”。對McCarthy而言，智力的標準是在不斷變化的環境中解決問題的能力。

自2022年以來，所謂的生成式人工智能工具的公開使用提高了該技術的知名度，如聊天機器人ChatGPT。生成式人工智能模型從大量訓練數據中提取數據，根據特定提示生成統計上可能的結果。由此類模型支持的工具可生成類似人類的文本、圖像、音頻和其他內容。

人工智能的另一種常用形式是通用人工智能(AGI)，或“強”人工智能，指的是能夠像人類一樣學習和應用知識的系統。然而，這些系統尚不存在，專家們對它們究竟需要什么意見不一。

人工智能是如何發展的？

研究人員研究人工智能已有八十年歷史，數學家Alan Turing和John von Neumann被認為是該學科的創始人之一。自從教授基本計算機二進制代碼以來的數十年里，軟件企業已經使用人工智能來為下棋計算機和在線語言翻譯器等工具提供支持。

在人工智能投資最多的國家，發展歷來依賴公共資金。在許多國家，人工智能研究主要由政府資助，而美國數十年來依靠國防高級研究計劃局(DARPA)和其他聯邦機構。近年來，美國人工智能的發展很大程度上轉向了私營部門，私營部門為此投入了數千億美元。

2022年，美國總統拜登簽署了《芯片和科學法案》，該法案將美國政府的支出重新集中在技術研發上。該法案將2800億美元的聯邦支出用于半導體，這是一種能夠支持人工智能所需的大規模處理和數據存儲能力的先進硬件。2023年1月，ChatGPT成為有史以來增長最快的消費者應用。

Eurasia Group總裁Ian Bremmer和Inflection AI首席執行官Mustafa Suleyman在《外交事務》雜志上寫道，人工智能的到來“標志著一個大爆炸時刻，一場改變世界的技術革命的開始，這場革命將重塑政治、經濟和社會。”

人工智能會對全球經濟產生什么影響？

世界各地的企業和組織已經將人工智能工具應用到其產品中。Tesla等無人駕駛汽車制造商多年來一直在使用人工智能，依賴算法模型進行某些交易操作的投資銀行，以及使用算法投放定向廣告的技術企業也是如此。但在ChatGPT出現后，即使是不太注重技術的企業也開始轉向生成式人工智能工具來實現客戶服務等系統的自動化。在McKinsey于2023年4月進行的一項調查中，全球三分之一的企業聲稱正在以某種方式使用人工智能。

人工智能的廣泛應用可以加速全面的技術創新。半導體產業已經蓬勃發展；在全球對半導體需求飆升的情況下，生產大部分人工智能芯片的Nvidia的股價在2023年增長了兩倍多，總估值超過1萬億美元。

許多專家預計，隨著人工智能行業的發展，全球經濟將受益匪淺，預計未來十年全球國內生產總值(GDP)每年將增加7萬億美元。

人工智能會取代人類的工作嗎?

與歷史上許多其他大規模技術變革一樣，人工智能可能導致生產力提高和失業之間的權衡。但與之前的突破不同，這些突破主要消除了低技能的工作，生成式人工智能可能會使白領工作面臨風險，并且可能比以往任何時候都更快地取代許多行業的工作。經濟合作與發展組織(OECD)稱，全球四分之一的工作崗位極有可能被人工智能自動化取代。Pew Research Center的一項研究發現，這些工作往往依賴于生成式人工智能能夠以與人類工人類似的質量水平完成的任務，比如信息收集和數據分析。“高度暴露”被人工智能取代的工作人員包括會計師、網絡開發人員、營銷專業人員和技術作家。

經合組織(OECD)表示，生成式人工智能的興起也引發了人們對不平等的擔憂，因為技術含量最高的工作似乎是最安全的，不會受到與該技術相關的干擾。但其他分析表明，低技能工人可以通過利用人工智能工具提高生產力而受益：麻省理工學院(MIT)和斯坦福大學的研究人員在2023年進行的一項研究發現，在兩組人員開始使用人工智能后，經驗不足的呼叫中心操作員的工作效率提高了一倍。

人工智能將如何影響氣候變化？

人工智能與環境的關系既預示著危險，也預示著希望。雖然一些專家認為，生成式人工智能可以促進應對氣候變化的突破，但也有人對這項技術的巨大碳足跡提出了警告。其巨大的處理能力需要能源密集型的數據中心；這些系統已經產生了相當于航空業的溫室氣體排放量，而且人工智能的能源消耗只會隨著未來的進步而增加。

人工智能倡導者認為，開發商可以使用可再生能源來減少部分排放。Apple、Google和Meta等科技企業使用自產的可再生能源運行數據中心，并且還購買所謂的碳信用額來抵消排放避免任何依賴化石燃料的能源使用。

人們還希望人工智能可以通過加強對可再生能源的研究，和使用先進的數據分析來優化能源效率，從而幫助減少其他行業的排放。此外，人工智能還可以改善氣候適應措施。例如，莫桑比克的科學家正在利用這項技術更好地預測洪水模式，加強對即將發生的災害的預警系統。

人工智能與國家安全有什么關系？

許多專家認為，人工智能的發展是美國和中國之間爭奪技術主導地位的斗爭。他們認為，這場競爭的獲勝者將獲得經濟和地緣政治優勢。到目前為止，美國的政策制定者似乎都是在這個框架下運作的。2022年，拜登以國家安全為由，禁止向中國出口最強大的半導體，并鼓勵美國盟友也這樣做。一年后，拜登提議徹底禁止美國對中國人工智能領域的多項投資，商務部宣布了一系列新的限制措施，旨在遏制中國“人工智能的突破”。大多數專家認為，迄今為止，美國在人工智能發展方面已經超過了中國，但中國將很快縮小差距。

人工智能還可能對美國國家安全產生更直接的影響：美國國防部預計，這項技術將通過增強自主武器權力和改善戰略分析，改變“戰爭的本質”。一些專家已經推動禁止自主致命武器。在烏克蘭與俄羅斯的戰爭中，基輔正在部署自主操作的人工智能無人機，這是首次在一場重大沖突中使用這種技術。交戰各方也可能很快依賴人工智能系統來加速戰場決策或自動攻擊敵方基礎設施。一些專家擔心這些能力可能會增加使用核武器的可能性。

此外，人工智能可能會加劇虛假信息和宣傳的雙重威脅，隨著世界即將迎來比以往任何時候都多的人投票的一年，這一問題變得尤為重要：70多個國家(占全球人口的一半)將在2024年舉行全國選舉。生成式人工智能工具正在使深度造假變得更容易，而且這項技術已經出現在全球各地的競選活動中。專家們還指出，不良行為者可能會利用人工智能創建復雜的網絡釣魚嘗試，這些釣魚嘗試是根據目標的利益量身定制的，以獲取對選舉系統的訪問權限。從歷史上看，網絡釣魚一直是潛在選舉黑客進入這些系統的一種方式。據美國司法部稱，俄羅斯曾使用該方法干預2016年美國大選。

通用人工智能（AGI）會存在嗎？

一些專家表示，稱人工智能為“智能”尚不準確，因為其不涉及人類水平的推理。專家認為，其并沒有創造新的知識，而是將現有的信息聚合起來，并以一種易于理解的方式呈現出來。

但這種情況可能會改變。ChatGPT背后的OpenAI是一家非營利組織，致力于確保AGI造福“整個人類”，其聯合創始人Sam Altman表示停止AGI的發展是“不可能或不可取的”；2023年，Google DeepMind首席執行官Demis Hassabis表示AGI可能會在五年內到來。包括CFR高級研究員Sebastian Mallaby在內的一些專家認為，人工智能在某些任務上已經超越了人類的智能水平。2020年，DeepMind利用人工智能解決了蛋白質折疊問題，這在當時被廣泛認為是最復雜、未解之謎之一。

人工智能會導致人類滅絕嗎？

許多人工智能專家似乎都這么認為。2023年5月，數百名人工智能領導者，包括Anthropic、Google DeepMind和OpenAI的首席執行官，簽署了一封簡短的信，其中寫道：“減輕人工智能帶來的滅絕風險，應該與流行病和核戰爭等其他社會規模的風險一樣，成為全球的優先事項。”

關于滅絕如何發生的一個流行理論假設，優化某項任務的指令可能會導致超級智能人工智能通過轉移人類生存所需的資源來實現其目標。例如，負責減少海洋中有害藻類數量的人工智能，可能會吸收大氣中的氧氣，導致人類窒息。雖然許多人工智能研究人員認為這一理論是危言聳聽，但其他人表示，這個例子準確地說明了強大的人工智能系統在執行其指令的過程中，可能造成巨大的、無意的傷害的風險。

這場辯論的懷疑論者認為，關注如此遙遠的存在風險會混淆更直接的威脅，例如獨裁監視或有偏見的數據集。世界各地的政府和企業都在擴展面部識別技術，一些分析人士擔心，北京方面正在利用人工智能加強鎮壓。當人工智能訓練數據包含過多或過少的元素時，就會出現另一個風險。根據此類數據訓練的工具可能會產生偏差的結果。這可能會加劇對邊緣群體的歧視，例如當人工智能驅動的租戶篩選算法根據有偏見的數據進行訓練時，會不成比例地拒絕向有色人種提供住房。生成式人工智能工具還可以促進混亂的公共話語——“幻覺”聊天機器人將虛假信息呈現為真實的信息，或者用可疑的人工智能生成的結果污染搜索引擎。

政府在人工智能方面做了什么？

幾乎所有政策制定者、民間社會領袖、學者、獨立專家和行業領袖都同意應該治理人工智能，但對于如何治理，卻意見不一。在國際上，各國政府正在采取不同的方法。

美國在2023年加強了對人工智能的管理。拜登政府繼其2022年的《人工智能權利法案》之后，宣布了一項承諾十五家領先技術企業自愿采用人工智能安全共同標準[PDF]，包括提供其前沿模型供政府審查。2023年10月，拜登發布了一項內容廣泛的行政命令，旨在為整個行政部門安全使用人工智能制定統一的框架。一個月后，兩黨參議員小組提出了管理這項技術的立法。

歐盟立法者正在推進立法，引入透明度要求，并限制人工智能用于監控目的。然而，一些歐盟領導人對該法律可能阻礙歐洲創新表示擔憂，并對如何執行該法律提出疑問。

一些政府已尋求在國際層面上合作監管人工智能。在2023年5月的七國集團(G7)峰會上，該集團啟動了所謂的廣島進程，以制定人工智能治理的共同標準。2023年10月，聯合國成立了人工智能咨詢委員會，其中包括美國和中國代表，以協調全球人工智能治理。接下來的一個月，28個國家的政府參加了在英國舉行的首屆人工智能安全峰會。包括美國和中國特使在內的代表簽署了一份聯合聲明，警告人工智能可能造成“災難性”傷害，并決心共同努力“確保以人為本、值得信賴和負責任的人工智能”。中國還宣布了自己在“一帶一路”倡議國家的人工智能全球治理努力。

人工智能治理應該是什么樣子？

CFR高級研究員Kat Duffy表示，人工智能的復雜性使得這項技術不太可能受任何一套原則的約束。提案涵蓋了從全面自我監管，到各種類型的公共政策護欄等多種潛在監督級別的政策選擇。

一些分析人士承認，人工智能的風險會帶來不穩定的后果，但其認為這項技術的發展應該繼續進行。其表示，監管機構應該對計算能力或計算能力加以限制，因為在過去十年中，計算機的計算能力增長了50億倍，允許模型在響應人類提示時整合更多的訓練數據。其他人則表示，治理應該關注眼前的問題，比如提高公眾對人工智能的認識，創建道德的人工智能系統，包括防止歧視、錯誤信息和監視。

一些專家呼吁限制開源模型，這可能會增加對技術的訪問，包括不良行為者。許多國家安全專家和領先的人工智能企業都支持這樣的規定。然而，一些觀察人士警告稱，廣泛的限制可能會導致最大的人工智能企業在成本高昂的行業中鞏固自己的實力，從而減少競爭和創新。與此同時，還有建議建立一個全球框架來管理人工智能的軍事用途;其中一種方法將效仿管理核技術的國際原子能機構。

人工智能的下一步是什么？

中美關系對人工智能治理的影響很大：隨著北京追求一項旨在到2030年使中國成為“人工智能理論、技術和應用”的全球領導者的國家戰略，華盛頓的政策制定者正在努力為人工智能發展設置護欄，同時又不損害美國的技術優勢。

與此同時，人工智能技術正在快速發展。自2012年以來，計算能力每3、4個月翻一番，人工智能科學家預計，到2025年，模型的計算量將增加一百倍。

在缺乏強有力的全球治理的情況下，控制人工智能發展的企業正在行使通常只屬于民族國家的權力，開創了一個技術極世界秩序。這些企業已經成為“自己的地緣政治參與者”，因此需要參與任何全球規則的設計。

人工智能的變革潛力意味著風險很高。如果有適當的保障措施，人工智能系統可以促進科學發現，治愈致命疾病，抵御氣候變化的最壞影響，并開創一個全球經濟繁榮的時代。