近年來，學界與工業(yè)界都已開始關注并熱議 AI 倫理治理問題，也在倫理規(guī)范研究上取得了初步進展。然而，由于 AI 倫理的抽象性，如何定量化度量智能系統(tǒng)的倫理，還是一個未知的難題。

西北工業(yè)大學李學龍教授團隊在《中國科學：信息科學》的《人工智能倫理計算》一文，全文 34 頁探討了倫理可能的度量方式，嘗試建立 AI 倫理的定量計算框架，指出倫理計算將是促進技術倫理實踐的關鍵交叉領域和構建倫理規(guī)范的重要基礎工具，希望能夠引發(fā)更多關于人工智能倫理的思考。倫理計算，是否能成為突破人工智能倫理治理困境的關鍵？

高漪瀾，張睿，李學龍，人工智能倫理計算 (Artificial intelligence ethical computation), 中國科學：信息科學，2023, doi: 10.0000/SSI-2023-0076．

全文下載:

https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076

AI 倫理治理的阿克琉斯之踵

多模態(tài)認知計算、生成式大模型等技術的突破加速了智能系統(tǒng)在醫(yī)療、教育等各領域的應用，智能系統(tǒng)越來越多的參與人類生活和決策，技術社會化的深入引發(fā)了一系列技術倫理問題的討論。

倫理問題的討論由來已久，阿西莫夫的科幻小說中曾提出了著名的機器人三定律用以限制人工智能行為，但隨著技術社會化的深入，我們的倫理憂慮顯然已不再處于科幻小說或電影的虛構場景。手術機器人是否值得信任？輔助決策系統(tǒng)的決策是否公正？生成模型的成果是否侵犯了版權？這些技術倫理問題都是當下與你我切身相關，迫切需要更具體且可操作的人工智能技術倫理治理方案。

圖 1：AI 應用場景決策要素對比

作為人工智能發(fā)展的重要議題，人工智能倫理治理引起了各界的廣泛關注。聯(lián)合國教科文組織于 2021 年 12 月發(fā)布了《人工智能倫理問題建議書》用于規(guī)范人工智能技術的發(fā)展，同時各個國家也積極參與到人工智能治理的討論中來。研究表明，全球各國已經(jīng)在技術透明度、公平公正、不傷害、隱私等方面形成了初步共識。

圖 2：主要的人工智能倫理原則

2023 年 10 月 08 日，科技部、教育部、工業(yè)和信息化部等十個部門聯(lián)合發(fā)布了《科技倫理審查辦法（試行）》，重點關注了智能領域相關技術在實際應用中產生的技術倫理審查問題，這是我國邁出科技倫理治理實踐的關鍵一步，為人工智能領域健康發(fā)展提供了方向指引。

然而，我們需要清醒地意識到，人工智能倫理治理在進步的同時，依然面臨著諸多問題。如何確保智能系統(tǒng)以善意、公平的方式做出決策？如何衡量一個系統(tǒng)的倫理表現(xiàn)或者如何評價其決策結果？如何建立統(tǒng)一、明確的倫理規(guī)范？導致種種問題的深層原因，在于倫理本身的抽象性。關注倫理的定性分析，缺少定量計算，導致相關規(guī)范難以付諸實踐，這也成為人工智能倫理治理的阿克琉斯之踵。

AI 倫理計算 —— 突破倫理的定量計算瓶頸

人工智能倫理計算是人工智能和倫理學等學科的交叉領域，通過定量描述、度量或模擬技術對倫理原則進行數(shù)學符號化或算法化，并在此基礎上約束智能算法的倫理表現(xiàn)。通過倫理計算，我們尋求機器倫理決策的量化或模擬思路，例如，如何對某個決策的公平性、善意程度進行度量，或者機器是否可能學習人類道德決策的方式。

根據(jù)智能系統(tǒng)的在倫理認知程度和倫理決策自主化程度上的不同，將倫理計算劃分為高階倫理認知和低階倫理認知兩類計算范式。

圖 3：AI 倫理計算范式

2.1 高階認知倫理計算：規(guī)范 AI 意圖

高階認知倫理計算旨在構建倫理推理模塊，使計算機能夠學習模仿人類的道德決策機制，規(guī)范高自主性智能系統(tǒng)的道德決策意圖。

電車難題是一個經(jīng)典的倫理困境命題，同時也是困擾自動駕駛系統(tǒng)發(fā)展已久的問題。對于這類困境我們不會有一勞永逸的選擇，不同的道德決策情境和不同的哲學觀點（結果主義倫理學、義務倫理學、美德倫理）都可能導致差異化決策。此時，在系統(tǒng)中引入高階倫理計算，能夠基于哲學假設或人類決策經(jīng)驗等模仿學習人類的決策機制，計算出可行的機器決策，進而實現(xiàn)規(guī)范 AI 系統(tǒng)的意圖。

圖 4：電車難題示意圖

高階認知倫理計算思路由于試圖理解和模擬人類倫理決策的機制，會面臨人類倫理決策動機復雜、決策場景多樣的困難，且機器決策要求可解釋性也會為這類思路帶來困難。盡管如此，它依然有助于理解人類倫理決策的機制，也或有助于實現(xiàn)對更高自主性機器的有效控制。

2.2 低階認知倫理計算：約束 AI 行為

低階認知倫理計算側重于建立倫理度量方法，無需深入理解倫理機制，通過對抽象倫理概念的度量和約束優(yōu)化，實現(xiàn)對 AI 行為的直接約束。此時的倫理計算并不關注系統(tǒng)在倫理決策背后的道德動機，目標是構建能夠有效約束 AI 行為的度量指標。

其中，公平機器學習的研究是典型應用，關鍵問題是如何定義系統(tǒng)公平性。通常表現(xiàn)為在算法決策中減少對某些敏感屬性或受保護屬性的偏見。通過設定公平性指標，可以量化系統(tǒng)在公平指標上的表現(xiàn)，進一步優(yōu)化倫理決策。

圖 5：公平性研究示例

低階認知倫理計算通過倫理度量提供對抽象倫理概念的計算描述，以提高倫理表現(xiàn)。然而，這一方法也面臨著諸多問題。指標的量化需要反映倫理這一動態(tài)、發(fā)展因素的特征，同時只考慮結果的指標度量也存在簡化，因此明確量化指標的評估和適用范圍也是重要問題。盡管如此，通過量化定義去度量和改進倫理訴求，為倫理治理提供了重要輔助，這也是當前發(fā)展倫理計算的重要意義。

總的來說，上述兩種范式根據(jù)智能系統(tǒng)的倫理認知和決策自主程度來選擇適當?shù)姆椒ǎ源_保系統(tǒng)行為符合倫理要求。不論高自主性系統(tǒng)（如自動駕駛汽車和手術機器人）還是低自主性系統(tǒng)（如輔助決策和輔助設計），倫理計算都旨在通過定量計算的方式，規(guī)范其意圖或者直接約束其行為。

AI 倫理計算的哲學基礎

哲學倫理學尤其是規(guī)范倫理學（研究道德決策的原則、機理，即為何做出某些道德決策的動因）對倫理計算有著重要影響。在當前 AI 倫理研究中主要關注的哲學觀點有三類，分別是結果主義倫理學 (Consequentialism)、義務倫理學 (Deontology) 和美德倫理 (Virtue ethics)，這些不同流派反映了人類倫理道德決策的不同傾向，通過不同的原則，甚至綜合經(jīng)驗、情感等因素的考量，倫理計算可以推理出復雜情境下道德決策。

道德決策的基本要素就是道德主體，以及道德行為、決策背景和決策后果。以考慮單個主體的道德決策為例，智能體需要在決策背景等信息上進行決策后果的判斷和道德決策。

結果主義倫理學又常稱作功利主義，采用這一哲學基礎的系統(tǒng)，傾向于權衡每種選擇的后果并選擇最大道德收益結果的選擇，因此在計算時功利主義可以通過在已有決策背景下，最優(yōu)化決策的道德收益函數(shù)從而得出決策，其中，決策收益需要通過對一系列決策序列及其決策背景所對應的決策后果進行考察，判斷最優(yōu)的決策序列。但事實上，決策時往往并非所有信息都是準確的，此時就涉及到在概率意義下優(yōu)化決策結果，也會涉及到貝葉斯因果推理相關研究。

義務倫理學則強調決策者尊重特定條件下的義務和權利，此時的行為主體會傾向于按照既定社會規(guī)范行事。采用這一決策哲學的系統(tǒng)在計算量化中可能會涉及邏輯規(guī)范的表達或者某些規(guī)則約束。

美德倫理學要求決策者根據(jù)某些道德價值來行動和思考，同時，具有美德的行為主體會表現(xiàn)出一種被他人認可的內在動力。品格高于行為，良好的品格會導致良好行為的產生。這一規(guī)范倫理理論不同于優(yōu)化結果的功利主義或者遵守規(guī)則的義務倫理學，將更加偏向于從實踐中學習，在計算中需要從某些經(jīng)驗集數(shù)據(jù)中進行學習，將會利用更多描述性倫理（研究人類的倫理決策，并不其做出評價）的經(jīng)驗結果，同時也天然地與當前各類數(shù)據(jù)挖掘、學習算法存在緊密的聯(lián)系。

通過上述討論我們可以發(fā)現(xiàn)，倫理計算問題是人工智能與哲學倫理學等高度交叉的跨學科研究課題，其計算策略、適用范圍還需要更多跨學科的探討。

AI 倫理計算的意義、挑戰(zhàn)與展望

隨著智能深入到人類社會的各個領域，倫理治理已經(jīng)成為人工智能健康、可持續(xù)發(fā)展的必答題。倫理計算的理論與技術研究，能夠推動解決抽象倫理定量分析的難題，這或許將成為約束人工智能遵循人類倫理的一把鎖，同時也是打通 AI 應用落地的一把鑰匙。

人工智能是大勢所趨，相關的立法和規(guī)范也會逐步出現(xiàn)，這些規(guī)則由誰來制定？是熟悉領域的科研人員，還是并不足夠了解具體技術的群體？這個問題很難回答，但至少，人工智能倫理的數(shù)值度量可以為規(guī)則指定提供一個參考指標體系。

倫理計算的核心在于通過量化計算將抽象倫理具體化，強調將倫理原則融入計算技術的實踐中，例如公平、透明性、隱私保護和可信等。這不僅有助于人工智能的可控發(fā)展，鼓勵研究人員更深入地理解技術倫理并在構建算法系統(tǒng)時更主動地考慮倫理問題，同時也將為制定倫理治理的原則、法律法規(guī)等提供至關重要要的技術參考指標。

然而，倫理計算也面臨著諸多挑戰(zhàn)。在自主搜救、無人巡檢等開放性的臨地安防場景中，智能系統(tǒng)需要動態(tài)感知和適應環(huán)境變化的能力，以減少潛在的倫理風險。同時，倫理決策通常牽涉到情感和認知等因素，需要借助多模態(tài)認知計算和因果推理等技術來應對倫理推理的復雜性，也需要更多關于人類倫理決策方式的認識。這些挑戰(zhàn)需要跨學科深入合作，以確保倫理計算技術能夠有效處理不斷演化的倫理問題。

總之，人工智能倫理計算將作為推動倫理治理發(fā)展的重要工具，通過促進倫理治理理論與實踐的迭代發(fā)展，倫理計算將更安全地釋放人工智能的潛力，并有望在協(xié)助制定法規(guī)等方面發(fā)揮作用，確保人工智能以符合倫理和道德原則的方式發(fā)展，最終造福人類社會。

通訊作者介紹：

李學龍，西北工業(yè)大學校學術委員會副主任、光電與智能研究院（iOPEN）教授，主要研究方向為臨地安防、圖像處理、成像。