穀歌 Arts&Culture 遭指責種族偏見,演算法成罪魁禍首?
上周,雷鋒網發現一款名為 Google Arts & Culture 的應用突然火了起來。
據雷鋒網瞭解,該應用原本是谷歌文化學院(Cultural Institute)2016 年發佈的產品,其中涵蓋了全球 70 多個國家和地區的1000 多家藝術博物館藏品資料。
儘管功能強大,但你可能沒想到,發佈一年後,現在因為自拍功能,這款應用在上周成為 iOS 和 Android 免費應用下載第一名。
具體來說,用戶將自己的自拍照上傳應用,
好玩的自拍功能吸引了眾多的用戶,但也暴露出了問題。
一位來自 Digg News 的編輯 Benjamin Goggin 注意到,很多有色人種發現,
谷歌發言人表示,“這種局限性是由其平臺上涵蓋的作品數量而導致。歷史作品往往無法反映世界的多樣性,我們正努力將更多元化的藝術作品導入平臺上。”
與此同時,這項自拍功能所引起的種族問題得到了各大媒體的報導,
據雷鋒網瞭解,Google Art & Culture 在 2011 年還被成為 Google Art Project(穀歌藝術項目),當時一推出便被指責是歐洲中心主義。原先的 17 家合作博物館多位於華盛頓特區、紐約,或是西歐,人們指責博物館覆蓋的範圍太小。於是,
然而,從 Google Art & Culture 收藏的地圖來看,美國和歐洲仍然佔據主導。穀歌正在努力呈現多樣性的藝術家、藝術作品和風格,但如果不瓦解歐洲中心主義,數世紀的人種偏見便不會消失。
2015 年,梅隆基金(Mellon Foundation)在美術博物館館長協會和美國博物館聯盟的協助下,發佈了首份針對美國博物館人種多樣性的調查。
如果是上述是歷史遺留的問題,那麼現在演算法不僅沒有緩解問題,還將問題惡化了。
因為演算法無法使使用者免受種族的偏見,反而吸收和學習,放大並且傳播偏見,同時打造出技術不受人類偏見影響的錯覺。面部識別演算法已經證明了其能造成的傷害,例如,兩名黑人用戶發現他們的照片被貼上了“大猩猩”的標籤。穀歌已經為此道歉,遮罩了程式中的“大猩猩”、“黑猩猩”、“猴子”的圖片分類。
演算法的準確度同基準資料集一致,而這些資料集則反映了資料收集者的偏見,不管是有意還是無意。來自 MIT 的畢業生 Joy Buolamwini 正在研究該問題,他此前曾創辦了演算法正義聯盟(Algorithmic Justice League)防止偏見被編碼植入軟體中,而這將對種族定性和公民權利帶來巨大的影響。去年,在 TED 演講中,黑人 Buolamwini 講述了當她帶上白人面具時,一些帶有機器視覺的機器人如何快速地識別她的經歷。
人臉識別演算法中的偏見與彩色電影的發展遙相呼應。20 世紀 50 年代,柯達向照片實驗室發送女模特卡片,以説明他們校準膚色。所有的模特都被稱為雪麗,此後幾十年所有的模特都是白色人種。這意味著,黑人形象常常被曲解,或是未能被真正描述。
如今,通過 Google Art & Culture,穀歌正在挑戰種族偏見和短視思維,因為基於穀歌技術的產品可超越地理、語言和文化的局限,而這是其他媒體無法做到的。應用中的自拍功能不僅僅是愚蠢的模仿,但是要認識到其局限性,這也意味著面對藝術歷史中,藝術作品收集中存在的偏見,並且告訴用戶這樣事實的存在。
如果是上述是歷史遺留的問題,那麼現在演算法不僅沒有緩解問題,還將問題惡化了。
因為演算法無法使使用者免受種族的偏見,反而吸收和學習,放大並且傳播偏見,同時打造出技術不受人類偏見影響的錯覺。面部識別演算法已經證明了其能造成的傷害,例如,兩名黑人用戶發現他們的照片被貼上了“大猩猩”的標籤。穀歌已經為此道歉,遮罩了程式中的“大猩猩”、“黑猩猩”、“猴子”的圖片分類。
演算法的準確度同基準資料集一致,而這些資料集則反映了資料收集者的偏見,不管是有意還是無意。來自 MIT 的畢業生 Joy Buolamwini 正在研究該問題,他此前曾創辦了演算法正義聯盟(Algorithmic Justice League)防止偏見被編碼植入軟體中,而這將對種族定性和公民權利帶來巨大的影響。去年,在 TED 演講中,黑人 Buolamwini 講述了當她帶上白人面具時,一些帶有機器視覺的機器人如何快速地識別她的經歷。
人臉識別演算法中的偏見與彩色電影的發展遙相呼應。20 世紀 50 年代,柯達向照片實驗室發送女模特卡片,以説明他們校準膚色。所有的模特都被稱為雪麗,此後幾十年所有的模特都是白色人種。這意味著,黑人形象常常被曲解,或是未能被真正描述。
如今,通過 Google Art & Culture,穀歌正在挑戰種族偏見和短視思維,因為基於穀歌技術的產品可超越地理、語言和文化的局限,而這是其他媒體無法做到的。應用中的自拍功能不僅僅是愚蠢的模仿,但是要認識到其局限性,這也意味著面對藝術歷史中,藝術作品收集中存在的偏見,並且告訴用戶這樣事實的存在。