禁用人臉識別四個月後,舊金山人證明了他們的先見之明

我是波波夫2019-09-11 11:06:12


文 | 波波夫


01  從便利到恐懼 


一百年來,舊金山時刻保持著自由捍衛者的先鋒姿態。


四個月前,201945日,當舊金山監事會(The San Francisco Board of Supervisors)通過一項法案,禁止政府部門(受聯邦政府管轄的機場、港口等出入境場所不在此例)使用面部識別技術,並規定城市機構在購買其他類型的監控技術之前獲得城市議會批准,例如自動車牌閱讀器和支持攝像頭的無人機。


人們對於這種舊金山式的姿態習以為常,甚至還有人覺得舊金山人又左又作,走得太前。作為一座孵化出一批如雷貫耳互聯網品牌的城市,同時也作為自由主義的堡壘,對於技術的破壞性一面,舊金山無疑比世界上其他城市要更早察覺到,而面部識別技術已經被視為是最恐怖的技術之一。

舊金山出臺這項地方禁令之前,面部識別技術已經在美國被大範圍應用。


據紐-約時-報的報道,美國已經在絕大多數機場的海關和大型體育場所使用面部識別技術,國際旅行者站在機場的攝像機前,系統將他們的照片與護照申請中提供的照片快速匹配,較之人工審核節約了大把時間;此外,還有一些城市使用面部識別技術,對無家可歸者使用避難所的情況進行追蹤調查;超過30個州允許地方或州當局或FBI搜索他們的駕駛執照照片,認為可以幫助執法部門更有效地制止犯罪。

批評者主要擔心的是,面部識別技術的快速擴散,可能已經超過了政府對於保護個人自由和隱私的能力。由於面部監視能夠可以在不知情或不同意的情況下,識別遠距離或在線人員的身份和行為,因此,北加州ACLU的律師Matt Cagle認為,這項技術為政府提供了前所未有的力量來跟蹤人們的日常生活,但這與美國的民主傳統並不兼容。


在美國,面部識別技術還引發一些當地特色問題——一份名為《性別陰影》( Gender Shades)的研究報告稱,IBM和微軟的系統在識別白人男性面部的性別方面,要比識別黑皮膚或女性面部的性別精準度方面要好得多。為此,一些NGO組織曾呼籲亞馬遜停止將其技術出售給執法部門,警告非洲裔美國人,婦女和其他人很容易被錯誤地認定為嫌疑人並被逮捕。


舊金山之後,同處於加州的奧克蘭和馬薩諸塞州的薩默維爾也相繼出臺了禁止政府使用面部識別技術。


02 以安全之名 


相比之下,歐洲則要謹慎得多。


歐盟在2018年出臺的GDPR規定,公司在收集用戶包括面部等生物特徵數據之前,必須經得個人同意,如有違反,企業可以被罰款金額可以達其全球收入的4%

甚至以監督學生名義所進行的面部識別也被歐洲人視為非法。


前不久,瑞典數據保護局(DPA)對Skelleftea市政府開出了20萬瑞典克朗的罰單,理由是非法使用學生的敏感生物數據。Skelleftea市政府此前進行了一項實驗,目的是監督當地兩所高中的22名學生每天進入教室的時間。根據DPA的裁決,雖然學校確保家長同意監督學生,但監管機構並不認為收集此類敏感個人數據是合法的充分理由。監管機構指出,雖然學校的某些部分可以被視為公開,但學生在進入教室時對隱私有一定的期望。這也是瑞典在GDPR下開出的第一筆罰款。

以維護公共安全之名進行的面部識別,也在英國遭到大規模抗議。


針對今年早些時候,英國倫敦大都會區警察局在倫敦進行的面部識別鎖定犯罪嫌疑份子的試點試驗。這項實驗是國家數據分析解決方案(NDAS)的一部分,該方案計劃使用來自地方和國家警察數據庫的超過1TB的數據,包括被攔截和搜查的人員的記錄以及所犯罪行的記錄。從數據中可以識別出大約500萬人。批評者認為,通過對過去逮捕記錄進行預測,可能會加劇算法偏見。不久前,埃塞克斯大學(University of Essex)發佈的一份長達128頁的報告指出了面部識別(LFR)技術的方式存在的重大缺陷,並呼籲倫敦大都會區警察局應停止這項技術的應用。


03 避免失控 


最先應用面部識別技術的科技公司也噤若寒蟬。


NPR的報道,今年88日,美國第九巡迴上訴法院裁定伊利諾伊州的一名Facebook用戶可以通過面部識別技術起訴該公司。隱私和技術項目的律師Nathan Freed Wessler在一份聲明中說:這一決定是對不受約束地使用面部監視技術的危險性的強烈認可。FacebookNPR的採訪迴應稱我們一直披露我們使用人臉識別技術,人們可以隨時打開或關閉。”Facebook認為用戶沒有遭受過具體的傷害。但第九巡迴法院小組指出,無形傷害仍然是具體的,並且它指出最高法院已經表示技術的進步會導致更多的個人隱私被侵犯。


Facebook是最早應用面部識別技術的科技公司之一。2011年,Facebook推出了一項名為標籤建議的功能。它允許技術分析上傳照片中人臉的細節 - 他們的眼睛,鼻子和其他特徵之間的距離。用戶可以選擇退出該功能。Facebook表示,它只構建了打開該功能的Facebook用戶的面部模板。NPR的報道稱,“Facebook可以使用它來識別每天上傳到Facebook的其他數億張照片中的個人,以及確定個人何時在場在一個特定的位置。據上訴方披露,Facebook擁有一個用戶面部模板數據庫,這些模板存儲在包括俄勒岡州,愛荷華州,德克薩斯州和加利福尼亞州的服務器上。

另一個科技巨頭亞馬遜也在失去他們的政府客戶。幾年前,佛羅里達州奧蘭多市警察局開始試用亞馬遜的面部識別軟Rekognition,將現場視頻輸入和麵部識別技術的數據連接起來,實時觀察和跟蹤人群。警察局在奧蘭多市的公共場所部署了四個監控攝像頭,稱僅用戶檢測警局的僱員。但由於獨立調查報告的發佈和持續的公眾抗議,奧蘭多市議會決定在完成其兩階段試點項目的第二階段之後,立即取消亞馬遜Rekognition的任何進一步試驗。


面部識別技術仍在發展,它不僅能識別你的身份,還能洞悉你的情緒。VICE的報道稱,亞馬遜旗下的雲服務AWS已經為其基於雲的面部識別系統推出了情緒識別功能:包括恐懼、快樂、悲傷、憤怒、驚訝、厭惡、冷靜、困惑等八種狀態。此前,亞馬遜已經將這項技術出售給移民和海關執法局(ICE)和邊境巡邏隊(CBP)等政府機構。最極端的批評聲音,已經把亞馬遜與ICE的合作,和IBM與納粹合作相提並論。ZDNet的報道稱,一些亞馬遜員工曾聯名發郵件給老闆貝索斯,要求停止向警方出售Rekognition面部識別軟件。




https://weiwenku.net/d/201350612