您的位置:首頁>科技>正文

深扒穀歌DeepMind“病患隱私門”:收集資料包括墮胎次數及病史

今年7月初, 英國資料監管機構ICO做出了一份最終裁決:DeepMind與英國國家醫療體系NHS簽署的一份資訊共用協定被確認為違反了隱私保護法。 DeepMind和NHS之間到底幹了什麼呢?這件事還得從2015年說起。

2015年9月, 穀歌旗下人工智慧公司DeepMind和NHS秘密地簽署了一份資訊共用協定, 旨在共同開發一款叫做Streams的智慧手機App。 這款App可以幫助醫生和護士對患者的腎功能狀況進行臨床監控, 用於早期診斷出急性腎功能損傷。

該協議非常關鍵, 因為依託這份協議, DeepMind可以訪問原本隸屬於NHS的160萬份患者醫療資料, 而且是在患者毫不知情的情況下。

更要命的是, 這些涉及患者個人身份的敏感醫療資料範圍相當寬廣, 不僅僅包括腎功能狀況, 還包括墮胎次數、用藥類型、病史等其它諸多資料。

所以, 此協議一經曝光就引起了軒然大波。 公眾紛紛指責DeepMind和NHS無視隱私保護法律, 侵犯患者的個人隱私。 此外, 公眾還擔心DeepMind的母公司穀歌會出於商業目的濫用這些醫療資料。

最初大家都不知道DeepMind和NHS簽署了這份協定。 直到2016年4月, 一位元記者通過行使資訊自由權意外地獲得了相關文檔, 這才首次曝光了這份協議。

之後, 英國資料監管機構ICO專門對該協議的合法性進行了調查, 以確定DeepMind和NHS此舉究竟有沒有違反相關的隱私保護法。 另外, 公眾也向DeepMind和NHS施壓, 要求雙方交待出這些患者醫療資料的具體用途和具體使用範圍。

此外, 還有一些民間的資料隱私宣導組織也要求雙方進一步披露出更多的細節。

儘管輿論壓力非常大, 但是, 直到這次最終裁決做出後, DeepMind和NHS都還在堅稱他們並沒有將這些醫療資料用於人工智慧研究上, 只是將其中部分資料用以開發Streams應用。

但是, 根據之後進一步披露出的協議文檔表明:DeepMind當時已經從NHS的倫理委員會那裡獲得了批准, 被允許其將這些醫療資料用於人工智慧研究, 如果DeepMind有意願的話。 也就是說, NHS的倫理委員當時並沒有覺得這樣做違反了倫理道德。

而且雙方還聲稱, 他們當時簽署協定的時候並不認為這會違反相關的隱私保護法。 因為根據英國的法律, 如果患者的醫療資料是用於對患者進行直接的治療的話, 就不違法。 但是公眾認為他們將這些醫療資料用於科學醫療研究上, 是屬於間接治療, 而不是直接治療, 所以這就已經違法了。

或許穀歌和NHS是真的不知道他們的協議會違法, 但是很多公眾指責道:“難道穀歌就不知道用自己的搜尋引擎搜索一下相關的隱私保護法嗎?穀歌和NHS明顯應該告知患者其資料被使用了,

但是他們卻選擇了無視。 ”

另外, 一些網路安全專家對DeepMind儲存這些醫療資料的伺服器進行了資訊安全測評, 結果發現, 這些伺服器很有可能會被駭客入侵, 篡改並盜取資料。

很明顯, 透明度是醫學研究中所涉及到的倫理問題的首選原則。 最近發表的一份生命科學戰略評估報告也強調, 患者有權知道自己的醫療資料被用於何處。 但是很遺憾, 當時NHS和DeepMind沒有重視到透明度的重要性。

這次7月份的裁決也最終結束了對雙方長達了一年多的調查, 並促使雙方在倫理道德方面做出了進一步的工作。 DeepMind隨後成立了一個獨立的專案評估小組,

以對以後的科學研究專案的倫理問題進行評估報告。 NHS也在官網上表示以後會努力提高資料使用的透明度。

這次的風波將科技發展與倫理約束之間的矛盾再次擺在我們面前。

大家都知道, 訓練人工智慧需要合適的龐大資料集, 而DeepMind這次也無非是想獲得NHS擁有的龐大的醫療資料。但是,DeepMind在急於發展人工智慧的同時,卻忽視了倫理約束這個重要的問題,這也就導致了此次的風波。

每一個時代的倫理道德都有一定的時代局限性,而如果那個時代的倫理道德準則跟不上時代的科技進步,那就會對科技發展產生阻礙作用。

正如愛因斯坦說過:“科學就其意義而言,從來沒有像現在這樣具有道德性質。因為科學發展的成果,任何時候也沒有像現在這樣影響人類的命運。”人類是時候直面科技發展與倫理約束這對矛盾了。

而DeepMind這次也無非是想獲得NHS擁有的龐大的醫療資料。但是,DeepMind在急於發展人工智慧的同時,卻忽視了倫理約束這個重要的問題,這也就導致了此次的風波。

每一個時代的倫理道德都有一定的時代局限性,而如果那個時代的倫理道德準則跟不上時代的科技進步,那就會對科技發展產生阻礙作用。

正如愛因斯坦說過:“科學就其意義而言,從來沒有像現在這樣具有道德性質。因為科學發展的成果,任何時候也沒有像現在這樣影響人類的命運。”人類是時候直面科技發展與倫理約束這對矛盾了。

Next Article
喜欢就按个赞吧!!!
点击关闭提示