演算法在我們生活中發揮著越來越重要的作用， 它們往往出自矽谷， 但對它們進行問責的努力則可能來自另一個中心：紐約市。 上周， 紐約市議會一致通過一項法案， 以解決演算法歧視問題。 這是美國首次對演算法制定措施。
這個正在等待紐約市長Bill de Blasio將其簽署為法律的演算法問責法案成立了一個專門工作組， 以研究城市機構如何使用演算法來做出影響紐約人生活的決策， 以及這些演算法是否對人有年齡、種族、宗教、性別、性取向或國籍方面的歧視。 工作組的報告也將探討如何使這些決策制定過程變得讓公眾可以理解。
紐約非盈利公司ProPublica調查了有種族偏見的演算法， 它們被用來評估被告的犯罪風險。 上述法案的發起人、紐約市議員James Vacca說他受到了該調查的啟發。
“我的目的在於透明化和問責。 ”Vacca說
之前， 該法案有一個更徹底的版本， 規定市政機構要公佈所有用於“追蹤服務”(targeting services)或“對人施加懲罰或維護治安”的演算法的原始程式碼， 並讓它們接受公眾的“自我測試”。 在10月份舉行的一次市政廳聽證會上， 市長辦公室的代表表示擔心這種規定將威脅紐約人的隱私和政府的網路安全。
該法案是市議會在上周就演算法提出的兩項舉措之一。 上週四， 衛生和公共安全委員會就紐約市的取證方法舉行了一場聽證會，
在9月份詳細披露的ProPublica/紐約時報調查中， 科學專家和前犯罪實驗室員工質疑該實驗室針對複雜的DNA樣本創建的一個演算法。
這款軟體名為“司法統計工具”(FST)， 美國其他實驗室從未採用過它。
紐約市議員、健康委員會主席Corey Johnson引用了ProPublica調查的兩個主要結果：FST的開發者已經承認該程式的一個關鍵輸入的誤差範圍為30%， 以及該程式不考慮家庭成員可能會共用DNA。
紐約市不再在新案件中使用這個工具。 但出席聽證會的官員說， 他們認為沒必要重審過去數年裡依賴這項技術的數千起刑事案件。
“你是否願意審查那些涉及測試非常小的混合物的案件，
“我們完全有信心， ”紐約市首席驗屍官Barbara Sampson博士回答。
多年來， 該演算法的原始程式碼一直處於保密狀態。 為此， ProPublica提交了一份申請， 以解除對該演算法的保護令。 10月， 一名聯邦法官批准了該申請， 然後ProPublica公佈了原始程式碼。
辯護律師在聽證會上作證， 批評首席法醫辦公室， 認為他們DNA工具的開發過程不透明， 而這很危險。
9月， 一些人聯合寫信給紐約州檢察長， 要求調查犯罪實驗室和審查之前的案件。 檢察長Catherine Leahy Scott尚未表示是否會進行追究。 與此同時， 紐約州法醫科學委員會(它負責監督州內實驗室的取證方法)在秘密會議上討論了這些批評。 這些會議不對公眾開放，
聽證後， Johnson表示， 法醫證詞與辯護律師證詞之間的不一致讓他感到擔憂， 他打算進行進一步的探索。
“這是一個非常非常重要的問題， 我們必須確保所使用的方法具有科學上的合理性， 用適當的方式對其加以驗證， 讓它們對公眾和辯護律師保持透明， 確保民眾對司法系統更加信任， ”Johnson說， “通過提出更多的問題， 我們有望做到這些， 並可能考慮在未來立法。 ”
編譯：鄧桂華。 本文來自propublica
中文科技資訊宣導尊重與保護智慧財產權。 如發現本站文章存在版權問題， 煩請30天內提供版權疑問、身份證明、版權證明、聯繫方式等發郵件至news@citnews.com.cn， 我們將及時溝通與處理。