摘要

人工智能(AI)在刑事司法領(lǐng)域中扮演著越來越重要的角色，典型應(yīng)用案例如風險評估系統(tǒng)(RAI)的部署在美國引發(fā)爭議—— RAI在提高效率的同時也帶來了偏見與不公平的可能性。隨著中國在司法領(lǐng)域中引入AI，RAI的已有經(jīng)驗可以提供什么教訓?

[[376311]]

人工智能(AI)正在全面性地滲透到社會的不同領(lǐng)域。隨著科技的發(fā)展，智能技術(shù)也為包括公共安全在內(nèi)的社會問題提供了越來越多的解決方案。特別是在刑事司法中，人工智能具有多種用途，包括收集和分析證據(jù)、預測和預防犯罪以及指導司法決策和量刑。在中國，法院的數(shù)字化也已經(jīng)起飛。最高人民法院首席法官兼最高法院院長周強表示，中國法院致力于將現(xiàn)代技術(shù)與司法程序相結(jié)合。我國的司法體系將在智能化中越發(fā)依靠算法輔助，這也表明人工智能將能夠更直接、更實質(zhì)地參與司法決策。因此，必須充分了解算法工具的優(yōu)點和潛在危險，以確保與刑事司法原則的兼容。

一、司法決策中的典型AI應(yīng)用：美國風險評估系統(tǒng)(RAI)

美國的監(jiān)禁率比世界上任何其他國家都要高——截至2016年，每38個美國成年人中就有一個正在教養(yǎng)所。降低監(jiān)禁率和改革刑事司法的壓力促使美國轉(zhuǎn)向智能工具。風險評估系統(tǒng)(RAI)使用被告人的個人資料來預估累犯評分。該分數(shù)將助力于法官決定能否釋放被告以及該罪名。例如，在肯塔基州，早在1976年就使用了風險評分，以出庭的概率來分配評分。次風險框架將每個被告標記為低，中或高風險，從而使法官能夠做出更加透明和客觀的決定。

從理論上講，RAI旨在為刑事司法帶來眾多好處。一方面，如上所述，該算法工具在風險評分中采用了清晰的清單式標準。肯塔基州在2011年通過了HB 463立法，要求審前使用風險評分，以降低監(jiān)禁率。如果法官能夠更科學地判斷在審判前將哪些被告送進監(jiān)獄，監(jiān)獄人口過多的經(jīng)濟負擔就可以得到減輕。此外，研究表明，與人類決策相比，RAI的統(tǒng)計模型表現(xiàn)更為一致。由于算法的評估標準具有透明性，法院能夠更好地解釋決策背后的理由。因此，越來越多的州，包括處于刑事司法改革前沿的加利福尼亞，已經(jīng)轉(zhuǎn)向了RAI來滿足其刑事司法的需求。

但是，RAI的普及也帶來了激烈的辯論。其中， RAI主要有三個令人擔憂的原因。

首先，與機器學習的核心一樣，RAI能夠找到數(shù)據(jù)中的趨勢。但是，算法是通過使用歷史犯罪數(shù)據(jù)進行訓練的，而歷史犯罪數(shù)據(jù)通常會因帶有偏見的警務(wù)和不完整的數(shù)據(jù)收集(“dark figures”)而歪曲。正如美國數(shù)學家Cathy O'Neil在她書中所說道，當機器學習算法使用有偏見的統(tǒng)計數(shù)據(jù)時，就會進一步對貧困和有色人種造成傷害，產(chǎn)生一個惡性循環(huán)。因此，使用RAI可能會復制和放大偏見，從而破壞公平公正的司法體系的原則。

第二，RAI的機制提出了一個群體和個人之分的問題。正如在2016年威斯康星州最高法院的著名案件Loomis v Wisconsin中提到，RAI并未提供了準確的個人風險評分。相反，風險預測基于與集體數(shù)據(jù)的相似性及其歷史趨勢比較。梅利莎·漢密爾頓(Melissa Hamilton)指出，將基于群體的數(shù)據(jù)轉(zhuǎn)換為個人評估很容易“漏洞百出”。當不清楚算法輸出會如何被使用者理解時，RAI的風險評分很容易被錯誤理解。因此，找到與司法體系人員正確溝通風險的形式至關(guān)重要。

最后，盡管RAI能夠識別出再犯可能性，這種識別仍然只是一個未證實的相關(guān)性。RAI無法證明相關(guān)性是否對應(yīng)真實的因果關(guān)系。例如，如果低收入人群與高累犯相關(guān)，這種相關(guān)性并不能作為確定低收入會引起犯罪的證據(jù)。RAI并非旨在識別犯罪的社會經(jīng)濟因素，但如果不仔細的解釋，其輸出很可能會導致因果關(guān)系存在的假象。同樣，相關(guān)性也必須由人類使用者來理解并給予意義，但人類可能會帶入個人政治取向和價值觀并施加認知偏見。為了使RAI評估更具參考價值，可以使用貝葉斯優(yōu)化(Bayesian Optimization)來指示風險評分的確定性。然而，確定性因素在RAI評估結(jié)果中的重要性仍然是一個模糊點。

二、中國司法系統(tǒng)中的AI

盡管RAI遠非刑事司法的靈丹妙藥，此類工具確實為AI對司法體系的影響提供了重要見解。雖然我國目前還未使用像RAI一樣的風險評估系統(tǒng)，AI已經(jīng)應(yīng)用于許多公共安全相關(guān)領(lǐng)域，包括面部識別、DNA分析和檔案數(shù)字化。自2017年以來，貴陽市通過大數(shù)據(jù)辦案系統(tǒng)處理了419起刑事案件和480人。同時，與去年相比，辦案時間減少了30%，因證據(jù)不足的不批捕率也下降了28.8%。顯然，大數(shù)據(jù)和人工智能為司法體系做出了一定的貢獻。但是，我國司法智能化仍在起步階段并存在著不足。例如，一線辦案人員指出了“簡易案件不需要，復雜案件不敢用”的問題。

正如最高人民法院院長周強所說，智能化司法體系的雄心可以體現(xiàn)出我國刑事司法的未來規(guī)劃。參考第十八屆四中全會的旨意，人工智能可以助力于“統(tǒng)一證據(jù)標準”和 “防范冤假錯案”的目標。而在預測性AI提高客觀性和效率的同時，算法偏見，數(shù)據(jù)差錯和不明確的相關(guān)性都可能造成負面影響。因此，需要找到緩解算法工具缺陷的策略。這些策略可以指導所有司法體系和政策制定者找到適當?shù)耐緩礁玫脑谛淌滤痉I(lǐng)域使用AI。在這方面，RAI的已有經(jīng)驗可以提供相關(guān)洞見。

三、如何應(yīng)對算法工具帶來的隱患

首先，需要建立一個在法官，算法程序和研發(fā)人員之間分配責任的框架。AI責任一直是各個領(lǐng)域長期存在的疑問。如今，隨著AI對司法決策影響的增大，明確地界定審判責任變得尤為重要。在Loomis v Wisconsin一案中，COMPAS 評估系統(tǒng)使用了被視為商業(yè)秘密的算法，因此無法披露。這將加劇為評估錯誤或技術(shù)漏洞分配責任的難度。為了司法領(lǐng)域公平公正的原則，任何司法體系都必須能夠?qū)﹀e誤的案件判決有明確的責任承擔，在研發(fā)人員和使用者之間有清晰的責任劃分。此外，隨著人工智能在未來獲得法律實體的可能性，還必須對智能系統(tǒng)建立適當?shù)膽土P措施，以確保人工智能在刑事司法中的責任性。

第二，根據(jù)自然公正(natural justice)的核心原則，任何一個案件都需要能用充分的理由解答其決策邏輯。因此，RAI和類似的工具必須具有一定的透明度，以確保所有相關(guān)方充分了解風險評估的前因后果。這也意味著需要對訓練RAI的數(shù)據(jù)進行評估，以確定訓練數(shù)據(jù)和當前案件的兼容性，以及算法輸出是否會不公平地對待一些社會群體。而這樣的全面評估也將需要數(shù)據(jù)科學家與特定領(lǐng)域的專家合作來更好的解釋RAI的輸出。

此外，除了減輕RAI算法偏見的措施外，人類的認知偏見也可能會帶來負面影響。Alex Albright對肯塔基州RAI數(shù)據(jù)的研究揭示了令人擔憂的趨勢——法官更傾向于否決建議免除黑人被告保證金的算法輸出。因此，有必要了解不同的司法人員如何理解RAI的輸出。如果要負責任地將AI工具部署到刑事司法中，不僅需要克服算法偏見，而且還必須消除隱性的人為偏見。法官可能需要進行更好的培訓，以了解如何最好地理解RAI的意義。同時，可以要求法官為否決RAI建議提供詳細的解釋。結(jié)合消除算法偏見的措施，識別人為偏見對于AI在司法體系中的應(yīng)用也至關(guān)重要。

最后，政策制定者應(yīng)持續(xù)監(jiān)控智能工具的使用結(jié)果，評估其性能并將結(jié)果公開發(fā)布。不同的司法體系和參與者對人工智能在司法決策中的應(yīng)用可能會顯出不一致而且出乎意料的反應(yīng)。為了預測和管理這些可能性，決策者應(yīng)該與研究機構(gòu)和市場人員合作，以更好地理解司法行為因AI而產(chǎn)生的變化以及算法對刑事司法的長期影響。

四、余論與總結(jié)

盡管RAI等工具提供了各種好處，但其缺點也表明人類決策仍不可或缺。特別是在重要及復雜的案件中，應(yīng)仔細評估智能工具所使用的數(shù)據(jù)，識別是否存在算法或人為偏見，并保留每個案件不同的相關(guān)要素。AI可以會在未來更實質(zhì)性地影響司法決策并甚至代替人類決策，但法律制度的演進性，例如不斷變化的法律和社會規(guī)范，將始終需要人類的深度參與。因此，算法輔助決策的目的，不應(yīng)過于集中于一勞永逸的解決方案。相反，重點應(yīng)該是通過有效的人類與人工智能的協(xié)作來最大幅度地發(fā)揮人工智能的正面功能性，從而創(chuàng)建一個更高效、更公平的刑事司法體系。