您的位置:首頁>科技>正文

當司法擁抱演算法,正義與科技誰將笑到最後?!

2017年4月11日, 美國首席大法官羅伯茨在與紐約倫斯勒理工學院校長的一場對話中被後者問道, “你能否預見將來有一天, AI驅動的智慧型機器將協助法庭認定事實,

甚至頗具有爭議地介入司法裁決程式?”

“這一天其實已經到來, ” 大法官羅伯茨說, “而且這已經讓司法實務的運作方式面臨著巨大的壓力。 ”

這位大法官說的並不只是高精尖的AI技術, 當然更包括隨身攜帶的智慧設備、DNA生物技術等科技革命給傳統證據基礎上的事實認定帶來的衝擊, 以及舊時代滯後的法律在技術革命新環境中的適用和演變, 但最具有爭議的是, 司法實踐中掌握國家機器的司法機關使用甚至依賴技術行使裁量權時, 難免讓人開始思考改變世界的科技技術進步與公平正義等社會目標之間的微妙關係。

本文中, 簡法幫以美國威斯康辛州最高法院的一個法院判例來分享美國司法機關已經廣泛使用的一個風險評估工具所面臨的程式正義問題。

概述

最初, 風險評估技術工具僅由緩刑和假釋部門使用, 用來幫助確定違法者的最佳監督和處罰方式。 隨著國家對減少重新犯罪的關注和注重證據的司法實務的發展, 現在這種工具的使用已經擴大到了量刑的司法實踐中。 然而, 這些工具在量刑中的使用則更加複雜, 因為風險評估工具主要面向減少重新犯罪的目標, 而司法判刑則具有多個目的, 譬如(1)威懾, (2)救助, (3)懲罰, (4)隔離。

使用特定的以證據為基礎的風險評估工具進行判刑就是這個案例的核心問題。 在量刑過程中使用COMPAS風險評估工具是否侵害憲法規定的正當法律程式權利(簡法幫注:正當法律程式權利源于英美法系, 主要是指任何權益受到判決影響的當事人, 都享有被告知和陳述自己意見並獲得聽審的權利。 ), 就是美國威斯康辛州上訴法庭向該州最高法院提請裁判的具體問題, 因為COMPAS工具的專有保密性質讓被告無法對COMPAS風險評估的科學效力提出質疑。

被告Eric L. Loomis(以下簡稱被告)認為, 一審法院在判刑期間對COMPAS風險評估的考慮違反了自己的正當法律程式權利。

威斯康辛州最高法院得出的結論是:如果使用得當, 並遵守其明確要求的限制和注意事項, 法院在判決中考慮COMPAS風險評估並不違反被告享有的正當法律程式憲法權利。

最終, 由於一審法院考慮COMPAS工具風險評分時具有其他獨立因素的支持, 技術工具的使用並沒有發揮決定性的作用, 所以威斯康辛州最高院認定一審法院判決被告入獄六年並沒有不當行使自由裁量權。

法官量刑使用演算法技術工具的一個案例

這個案件的事實沒有爭議。 公訴人認為, 被告是一起飛車槍擊案的駕車人。

公訴人指控了五項罪名:(1)一級肆意危及安全罪, (2)交警抓捕逃逸罪, (3)未經車主同意操控汽車罪, (4)罪犯持有槍支罪, (5)擁有短管霰彈槍或步槍罪。

被告否認參與飛車槍擊。 他放棄了庭審權利, 在與公訴人的控辯交易中(簡法幫注:美國的控辯交易是指在司法審查的前提下, 刑事案件的檢察官和被告雙方達成滿意的傾向性意見的程式;通常是以檢察官撤銷指控、降格指控或者要求法官從輕判處刑罰為條件, 來換取被告人的認罪答辯, 進而由控辯雙方達成均可接受的控辯協定), 該被告對兩項較輕的罪名指控做出認罪答辯, 也就是前文的第2項和第3項罪名。

在接受被告的認罪答辯後, 一審法院裁定開始量刑前調查。 政府量刑前調查報告(下稱“量刑報告”)的附件中包括一個COMPAS風險評估的附件。

COMPAS是Northpointe公司設計的一款風險需求評估工具,在獄政局做出入監決策、管理囚犯和規劃懲治時能夠用來提供決策支援。COMPAS風險評估依據的資訊從被告的犯罪檔案和與被告的訪談中採集。

COMPAS報告包括旨在預測再犯的風險評估,另外還有用來確定就業、住房和藥物濫用等領域專案需求的單獨評估。COMPAS報告的風險評估部分會生成橫條圖顯示的風險評分,其中三個條形格分別代表審前再犯風險、一般再犯風險和暴力再犯風險。每個條形格顯示的被告的風險級別落在從一到十的區間內。

風險評分旨在預測具有類似犯罪歷史的人在被釋放後不太可能或更有可能再次犯罪的一般可能性。然而,COMPAS風險評估並不能預測特定罪犯個人再次犯罪的具體可能性;它是基於特定個人資訊與類似(人群)資料組的比較而提供的預測。

該案例中被告的COMPAS風險分數顯示他在全部三個橫條圖上都呈現了重新犯罪的高風險。他的量刑報告包括了如何使用COMPAS風險評估的說明,警示了不當使用評估結果的風險,並且說明了它應當用於確定可以從干預措施中受益的囚犯以及在監督期間應該處理的風險因素。量刑報告還警示:COMPAS風險評估不應該用於確定量刑的幅度以及罪犯是否應當採取監禁措施。

此外,該案件中的COMPAS報告的確顯示了被告的高風險和高監管需求:暴力的風險很高,再犯的風險很高,審前風險也高;所以這些都是決定適當量刑的因素。

最終,一審法院參考了COMPAS風險評分以及其他判刑因素判決駁回了緩刑的請求:“通過COMPAS評估,您被確定為對社區構成高風險的個人”。在衡量各種因素方面後,一審法院駁回緩刑請求不僅基於犯罪的嚴重程度,而且因為被告的“過往歷史、監管措施歷史以及所使用的風險評估工具”都表明了被告再次犯罪的風險極高。

於是,法院針對被告在控辯交易中認罪的交警抓捕逃逸罪和未經車主同意操控汽車罪兩項罪名分別判處了兩年和四年的入獄監禁及後續獄外監管措施。

接著,被告提請一審法院開庭聽審其認罪後的量刑異議。他認為,一審法院在量刑時對COMPAS風險評估的考慮違反了他在憲法下的正當法律程式權利。

在庭審中,一審法庭論證了正當程式問題。被告提供的專家證人指出在量刑時使用COMPAS風險評估的問題。專家證人認為,不應將COMPAS風險評估用於決定是否採取入獄監禁的判決,因為COMPAS風險評估不是為此而設計的,法院這樣做的巨大風險是過高估計犯罪人的風險並導致誤判或者基於不相關的因素做出量刑決定。

該專家證人進一步指出,量刑法庭對於COMPAS評估如何分析風險的資訊知之甚少:“法院不知道COMPAS到底如何將被告個人的歷史與與之進行比較的基礎人群進行比較。法院甚至都不知道對比人群是威斯康辛人口,紐約人口,加利福尼亞人口……各種各樣的資訊法庭都沒有,而我們(風險評估工具)現在的做法是徑直將這些分值圖放在法官面前讓他們將之用於刑罰,這樣會誤導法庭。”

一審法院最終還是駁回了緩刑的請求,同時解釋說使用COMPAS風險評估是為了驗證該院自己的認定,無論量刑過程中是否考慮COMPAS風險評分,該院都會做出同樣的量刑結果。

被告提起了上訴,上訴法院將該案子提請到威斯康辛州最高法院。

司法擁抱演算法時的正當程式權利問題

量刑時能夠使用COMPAS其實並不是一個新鮮的做法,威斯康辛州上訴法院在之前的判例中就支持了某初審法院量刑時對COMPAS評估的參考,並指出“COMPAS只不過是法庭在量刑時可以使用的一種工具”;但與本案例不同的是,該判例中沒有提到正當程式的憲法權利問題。

但是,法律界不乏質疑的聲音,擔心工具的作用被過分看重和濫用。

該案件中,獄政局在量刑報告裡就承認了工具的局限性:需要記住的重要一點是——風險評分不應用來確定量刑的幅度以及罪犯是否應當採取監禁措施。

威斯康辛州最高法院表示贊同,並在分析該案件中正當程式權利的問題後提出了必要警示的要求(見下文演算法量刑到底靠不靠譜?)。

被告最初主張,COMPAS工具的專有保密屬性讓他無法對風險評估的科學有效性提出質疑。因此,被告認為,由於量刑報告中附加了COMPAS風險評估的附件,被告被剝奪了獲取量刑報告全面資訊的機會,因此無法確保自己基於準確資訊而獲得量刑的權利。

COMPAS的開發商Northpointe公司認為COMPAS是自己專有的工具,構成商業秘密。因此,該司沒有公開披露風險評分到底如何確定以及評估因素的權重到底是怎樣的。被告認為,由於COMPAS不披露這些資訊,所以他沒有得到一審法院量刑時使用的全部資訊,基於以往判例類比認為自己的正當法律程式權利受到侵害。

也就是說,被告認為他是最適合反駁或解釋自己COMPAS風險評估結果的人選,但僅僅看橫條圖反映的分值讓他沒法有效反駁或解釋。此外,被告還認為,除非他能夠查看工具背後這些因素是如何衡量的以及風險分數是如何確定的,否則COMPAS評估的準確性無法驗證。

威斯康辛州最高法院則並不同意。該院指出,儘管被告無法查看和質疑COMPAS演算法如何計算風險,但他至少可以審查並質疑量刑報告附件所載風險分值;因此,該案中被告並非沒有機會獲取法院依據的資訊進行反駁、補充或解釋。

威斯康辛州最高法院認為,儘管風險分數沒有解釋COMPAS程式如何使用資訊來計算風險分值,但Northpointe公司COMPAS實務操作指南中解釋過風險分值主要基於犯罪歷史等靜態資訊和犯罪同夥、藥物濫用等少數動態變數。

被告量刑報告中附錄的COMPAS報告中就包含了21個靜態資訊方面的問題,例如:

此人在假釋期間多少次被羈押?5+

此人在試用期間有多少次新的收費/逮捕?4

此人以前被逮捕(僅限刑事拘留)了幾次?當時成年還是未成年?12

因此,威斯康辛州最高法院認為,被告的風險評估是基於他對這些問題的答案以及其犯罪史的公開資料,從這個意義上講,被告完全有機會核實COMPAS報告中列出的問題和答案是否準確;一審法院和被告能夠看到的是相同的風險評估報告。被告有機會通過辯解其他因素或資訊來質詢風險分值的不準確性。

演算法量刑到底靠不靠譜?

美國使用COMPAS的一些州已經對COMPAS進行了驗證研究,認為它是一個足夠準確的風險評估工具。紐約州刑事司法服務局進行了一項研究,審查了COMPAS評估的重新犯罪量值的有效性和預測準確性,並得出結論認為:重新犯罪量值實用有效,並且預測準確性取得了令人滿意的結果。與紐約州和其他州不同,威斯康辛州尚未針對威斯康辛州人口完成COMPAS統計驗證研究。

另一方面,被告也找到了對風險評估工具的其他研究所提出的準確性方面的質疑。例如,他援引了2007年加利福尼亞管教和康復局的研究,結論是雖然COMPAS似乎在可以評估犯罪成因需求和再犯風險,但“幾乎沒有證據表明這是COMPAS實際評估的內容”。

加利福尼亞研究報告進一步得出結論,“沒有明確的證據表明COMPAS可以由不同的評估者給出一致的評分,也沒有明確的證據表明它可以評估其旨在評估的犯罪成因需求或者(非常重要的是)可以預測加利福尼亞管教和康復局囚犯的再次犯罪風險。”最終,該研究的作者沒有推薦加利福尼亞管教和康復局針對個人使用COMPAS工具。

然而,隨後加利福尼亞管教和康復局又發表了2010年關於加利福尼亞COMPAS驗證研究的最終報告。2010年的研究得出結論,儘管並不完美,但“COMPAS是一個可靠的工具”。

除了這些問題之外,還有一些人擔心風險評估工具可能會將少數群體犯罪者的比例過高地歸類為更高的風險,包括家庭背景、教育和種族等各種不可控制的因素。

所以,威斯康辛州最高法院要求,使用風險評估工具的法域必須確保他們有資源、有能力維護這些工具並監控其持續準確性。

針對法院在量刑中使用所涉及的準確性問題,威斯康辛州最高法院決定使用COMPAS風險評估除了前文所述的限制之外,還必須遵守一些注意事項。具體來說,任何含有COMPAS風險評估的量刑報告都必須告知量刑法庭關於COMPAS風險評估準確性的以下注意事項:

COMPAS的專有保密性質導致無法公開披露風險評分到底如何確定以及評估因素的權重資訊;

風險評估將被告與全國範圍的樣本進行比較,但對威斯康辛州人口的交叉驗證研究尚未完成;

對COMPAS風險評估分值進行的一些研究提出問題,質詢是否存在少數群體犯罪者被不均衡地認定為重新犯罪高風險的情況;

隨著人口結構的不斷變化,風險評估工具必須不斷監測和調整以維護準確性。這樣,量刑法院才能夠更好地判斷風險評估的準確性並賦予風險分值適當的權重。

儘管如此,威斯康辛州最高法院明確認可了COMPAS風險評估的作用,並且援引了印第安那州最高法院觀點:這些工具有助於法院衡量所有量刑因素。與此同時,COMPAS風險評估依據群體資料判斷高風險罪犯群體,而不是特定高風險的個人;所以,量刑法院針對每一個被告個體在考慮所有量刑因素時都應當注意這一點,而且COMPAS風險評估不能構成量刑的決定性因素。

演算法=正義?元芳,你怎麼看?

科技的進步在挑戰社會的每一個細胞,包括經濟、政治和生活方式等方方面面,就連司法體系這些維繫社會公平和正義的社會機制也不例外。當演算法工具這樣的科技成果逐漸浸入司法實踐中甚至影響量刑這樣重要的國家行為中時,難免讓人開始擔憂是否真的在不遠的未來,AI驅動的智慧型機器等技術工具不僅僅是協助性介入司法機關對法律的解釋和執行,甚至逐步發揮更加重要的主導作用。

換句話說,人類會將同類的命運或者公平正義等核心價值的落實交給人類發明創造的演算法等技術工具嗎?

美國聯邦最高法院大法官羅伯茨聽起來保持著開放的態度,而且越來越多的法院也在擁抱技術的進步,威斯康辛州最高法院在這個案子中就這樣樂觀且務實地評論:

在量刑過程中分析使用以證據為基礎的風險評估工具,務必考慮到諸如COMPAS等技術工具的變化和演進。我們今天面臨的擔憂,今後可能會隨著工具的完善得到緩解。刑事司法系統應該認識到,在未來時間裡,可供使用的研究資料會越來越多,各種各樣更好的工具將會被開發出來。隨著資料的變化,司法部門使用的工具也必須隨之改變。司法部門必須跟上研究的步伐,必須不斷評估這些工具在司法實踐中的使用。

最後,無論你願意或是不願意,司法擁抱科技進步的明天已經到來,至於公平、正義、效率等社會價值目標在司法擁抱技術之後最終究竟會茁壯成長還是黯然失寵?我們拭目以待。

元芳,你怎麼看?

政府量刑前調查報告(下稱“量刑報告”)的附件中包括一個COMPAS風險評估的附件。

COMPAS是Northpointe公司設計的一款風險需求評估工具,在獄政局做出入監決策、管理囚犯和規劃懲治時能夠用來提供決策支援。COMPAS風險評估依據的資訊從被告的犯罪檔案和與被告的訪談中採集。

COMPAS報告包括旨在預測再犯的風險評估,另外還有用來確定就業、住房和藥物濫用等領域專案需求的單獨評估。COMPAS報告的風險評估部分會生成橫條圖顯示的風險評分,其中三個條形格分別代表審前再犯風險、一般再犯風險和暴力再犯風險。每個條形格顯示的被告的風險級別落在從一到十的區間內。

風險評分旨在預測具有類似犯罪歷史的人在被釋放後不太可能或更有可能再次犯罪的一般可能性。然而,COMPAS風險評估並不能預測特定罪犯個人再次犯罪的具體可能性;它是基於特定個人資訊與類似(人群)資料組的比較而提供的預測。

該案例中被告的COMPAS風險分數顯示他在全部三個橫條圖上都呈現了重新犯罪的高風險。他的量刑報告包括了如何使用COMPAS風險評估的說明,警示了不當使用評估結果的風險,並且說明了它應當用於確定可以從干預措施中受益的囚犯以及在監督期間應該處理的風險因素。量刑報告還警示:COMPAS風險評估不應該用於確定量刑的幅度以及罪犯是否應當採取監禁措施。

此外,該案件中的COMPAS報告的確顯示了被告的高風險和高監管需求:暴力的風險很高,再犯的風險很高,審前風險也高;所以這些都是決定適當量刑的因素。

最終,一審法院參考了COMPAS風險評分以及其他判刑因素判決駁回了緩刑的請求:“通過COMPAS評估,您被確定為對社區構成高風險的個人”。在衡量各種因素方面後,一審法院駁回緩刑請求不僅基於犯罪的嚴重程度,而且因為被告的“過往歷史、監管措施歷史以及所使用的風險評估工具”都表明了被告再次犯罪的風險極高。

於是,法院針對被告在控辯交易中認罪的交警抓捕逃逸罪和未經車主同意操控汽車罪兩項罪名分別判處了兩年和四年的入獄監禁及後續獄外監管措施。

接著,被告提請一審法院開庭聽審其認罪後的量刑異議。他認為,一審法院在量刑時對COMPAS風險評估的考慮違反了他在憲法下的正當法律程式權利。

在庭審中,一審法庭論證了正當程式問題。被告提供的專家證人指出在量刑時使用COMPAS風險評估的問題。專家證人認為,不應將COMPAS風險評估用於決定是否採取入獄監禁的判決,因為COMPAS風險評估不是為此而設計的,法院這樣做的巨大風險是過高估計犯罪人的風險並導致誤判或者基於不相關的因素做出量刑決定。

該專家證人進一步指出,量刑法庭對於COMPAS評估如何分析風險的資訊知之甚少:“法院不知道COMPAS到底如何將被告個人的歷史與與之進行比較的基礎人群進行比較。法院甚至都不知道對比人群是威斯康辛人口,紐約人口,加利福尼亞人口……各種各樣的資訊法庭都沒有,而我們(風險評估工具)現在的做法是徑直將這些分值圖放在法官面前讓他們將之用於刑罰,這樣會誤導法庭。”

一審法院最終還是駁回了緩刑的請求,同時解釋說使用COMPAS風險評估是為了驗證該院自己的認定,無論量刑過程中是否考慮COMPAS風險評分,該院都會做出同樣的量刑結果。

被告提起了上訴,上訴法院將該案子提請到威斯康辛州最高法院。

司法擁抱演算法時的正當程式權利問題

量刑時能夠使用COMPAS其實並不是一個新鮮的做法,威斯康辛州上訴法院在之前的判例中就支持了某初審法院量刑時對COMPAS評估的參考,並指出“COMPAS只不過是法庭在量刑時可以使用的一種工具”;但與本案例不同的是,該判例中沒有提到正當程式的憲法權利問題。

但是,法律界不乏質疑的聲音,擔心工具的作用被過分看重和濫用。

該案件中,獄政局在量刑報告裡就承認了工具的局限性:需要記住的重要一點是——風險評分不應用來確定量刑的幅度以及罪犯是否應當採取監禁措施。

威斯康辛州最高法院表示贊同,並在分析該案件中正當程式權利的問題後提出了必要警示的要求(見下文演算法量刑到底靠不靠譜?)。

被告最初主張,COMPAS工具的專有保密屬性讓他無法對風險評估的科學有效性提出質疑。因此,被告認為,由於量刑報告中附加了COMPAS風險評估的附件,被告被剝奪了獲取量刑報告全面資訊的機會,因此無法確保自己基於準確資訊而獲得量刑的權利。

COMPAS的開發商Northpointe公司認為COMPAS是自己專有的工具,構成商業秘密。因此,該司沒有公開披露風險評分到底如何確定以及評估因素的權重到底是怎樣的。被告認為,由於COMPAS不披露這些資訊,所以他沒有得到一審法院量刑時使用的全部資訊,基於以往判例類比認為自己的正當法律程式權利受到侵害。

也就是說,被告認為他是最適合反駁或解釋自己COMPAS風險評估結果的人選,但僅僅看橫條圖反映的分值讓他沒法有效反駁或解釋。此外,被告還認為,除非他能夠查看工具背後這些因素是如何衡量的以及風險分數是如何確定的,否則COMPAS評估的準確性無法驗證。

威斯康辛州最高法院則並不同意。該院指出,儘管被告無法查看和質疑COMPAS演算法如何計算風險,但他至少可以審查並質疑量刑報告附件所載風險分值;因此,該案中被告並非沒有機會獲取法院依據的資訊進行反駁、補充或解釋。

威斯康辛州最高法院認為,儘管風險分數沒有解釋COMPAS程式如何使用資訊來計算風險分值,但Northpointe公司COMPAS實務操作指南中解釋過風險分值主要基於犯罪歷史等靜態資訊和犯罪同夥、藥物濫用等少數動態變數。

被告量刑報告中附錄的COMPAS報告中就包含了21個靜態資訊方面的問題,例如:

此人在假釋期間多少次被羈押?5+

此人在試用期間有多少次新的收費/逮捕?4

此人以前被逮捕(僅限刑事拘留)了幾次?當時成年還是未成年?12

因此,威斯康辛州最高法院認為,被告的風險評估是基於他對這些問題的答案以及其犯罪史的公開資料,從這個意義上講,被告完全有機會核實COMPAS報告中列出的問題和答案是否準確;一審法院和被告能夠看到的是相同的風險評估報告。被告有機會通過辯解其他因素或資訊來質詢風險分值的不準確性。

演算法量刑到底靠不靠譜?

美國使用COMPAS的一些州已經對COMPAS進行了驗證研究,認為它是一個足夠準確的風險評估工具。紐約州刑事司法服務局進行了一項研究,審查了COMPAS評估的重新犯罪量值的有效性和預測準確性,並得出結論認為:重新犯罪量值實用有效,並且預測準確性取得了令人滿意的結果。與紐約州和其他州不同,威斯康辛州尚未針對威斯康辛州人口完成COMPAS統計驗證研究。

另一方面,被告也找到了對風險評估工具的其他研究所提出的準確性方面的質疑。例如,他援引了2007年加利福尼亞管教和康復局的研究,結論是雖然COMPAS似乎在可以評估犯罪成因需求和再犯風險,但“幾乎沒有證據表明這是COMPAS實際評估的內容”。

加利福尼亞研究報告進一步得出結論,“沒有明確的證據表明COMPAS可以由不同的評估者給出一致的評分,也沒有明確的證據表明它可以評估其旨在評估的犯罪成因需求或者(非常重要的是)可以預測加利福尼亞管教和康復局囚犯的再次犯罪風險。”最終,該研究的作者沒有推薦加利福尼亞管教和康復局針對個人使用COMPAS工具。

然而,隨後加利福尼亞管教和康復局又發表了2010年關於加利福尼亞COMPAS驗證研究的最終報告。2010年的研究得出結論,儘管並不完美,但“COMPAS是一個可靠的工具”。

除了這些問題之外,還有一些人擔心風險評估工具可能會將少數群體犯罪者的比例過高地歸類為更高的風險,包括家庭背景、教育和種族等各種不可控制的因素。

所以,威斯康辛州最高法院要求,使用風險評估工具的法域必須確保他們有資源、有能力維護這些工具並監控其持續準確性。

針對法院在量刑中使用所涉及的準確性問題,威斯康辛州最高法院決定使用COMPAS風險評估除了前文所述的限制之外,還必須遵守一些注意事項。具體來說,任何含有COMPAS風險評估的量刑報告都必須告知量刑法庭關於COMPAS風險評估準確性的以下注意事項:

COMPAS的專有保密性質導致無法公開披露風險評分到底如何確定以及評估因素的權重資訊;

風險評估將被告與全國範圍的樣本進行比較,但對威斯康辛州人口的交叉驗證研究尚未完成;

對COMPAS風險評估分值進行的一些研究提出問題,質詢是否存在少數群體犯罪者被不均衡地認定為重新犯罪高風險的情況;

隨著人口結構的不斷變化,風險評估工具必須不斷監測和調整以維護準確性。這樣,量刑法院才能夠更好地判斷風險評估的準確性並賦予風險分值適當的權重。

儘管如此,威斯康辛州最高法院明確認可了COMPAS風險評估的作用,並且援引了印第安那州最高法院觀點:這些工具有助於法院衡量所有量刑因素。與此同時,COMPAS風險評估依據群體資料判斷高風險罪犯群體,而不是特定高風險的個人;所以,量刑法院針對每一個被告個體在考慮所有量刑因素時都應當注意這一點,而且COMPAS風險評估不能構成量刑的決定性因素。

演算法=正義?元芳,你怎麼看?

科技的進步在挑戰社會的每一個細胞,包括經濟、政治和生活方式等方方面面,就連司法體系這些維繫社會公平和正義的社會機制也不例外。當演算法工具這樣的科技成果逐漸浸入司法實踐中甚至影響量刑這樣重要的國家行為中時,難免讓人開始擔憂是否真的在不遠的未來,AI驅動的智慧型機器等技術工具不僅僅是協助性介入司法機關對法律的解釋和執行,甚至逐步發揮更加重要的主導作用。

換句話說,人類會將同類的命運或者公平正義等核心價值的落實交給人類發明創造的演算法等技術工具嗎?

美國聯邦最高法院大法官羅伯茨聽起來保持著開放的態度,而且越來越多的法院也在擁抱技術的進步,威斯康辛州最高法院在這個案子中就這樣樂觀且務實地評論:

在量刑過程中分析使用以證據為基礎的風險評估工具,務必考慮到諸如COMPAS等技術工具的變化和演進。我們今天面臨的擔憂,今後可能會隨著工具的完善得到緩解。刑事司法系統應該認識到,在未來時間裡,可供使用的研究資料會越來越多,各種各樣更好的工具將會被開發出來。隨著資料的變化,司法部門使用的工具也必須隨之改變。司法部門必須跟上研究的步伐,必須不斷評估這些工具在司法實踐中的使用。

最後,無論你願意或是不願意,司法擁抱科技進步的明天已經到來,至於公平、正義、效率等社會價值目標在司法擁抱技術之後最終究竟會茁壯成長還是黯然失寵?我們拭目以待。

元芳,你怎麼看?

Next Article
喜欢就按个赞吧!!!
点击关闭提示