全天五分彩玩法欢迎您的到來!

每日姿勢新看點

黑人女性報錯率比白人高20%,面部識別系統為何不能一視同仁?

  • 日期:2019-08-17 16:21:23
  • 來源:互聯網
  • 編輯:小狐
  • 閱讀人數:551

大數據文摘出品

編譯:李琳、橡樹_Hiangsug

面部識別流行于九十年代早期,當時美國希望發明一種可以發現偷渡邊境的不法分子的識別技術,為此投入了大量研究。為此,美國為著名的大學科學家和面部識別領域的專家了研究經費。為此,美國為著名的大學科學家和面部識別領域的專家了研究經費。

2001年初,在坦帕(Tampa)舉行的第35屆超級碗(Super Bowl)比賽中,執法部門首次在公共場所使用面部識別技術,在數千名觀眾中搜尋罪犯和。不久之后,美國的其他敏感地區也安裝了面部識別,以跟蹤犯罪活動。

然而,美國政府的研究卻表明,即使是最先進的面部識別在識別黑人時的錯誤率也要比識別白人時高出十倍。

即便是最先進的算法,在檢測黑人時還是更容易出錯

公司Idemia的面部識別算法被用于識別數以百萬的人臉。美國、澳大利亞和的警方都是這家公司的客戶。Idemia的軟件被用于識別曾在美國海關和邊境保護局留下負面記錄的旅客。2017年,一位FBI高層在向報告國會的報告中稱掃描了三千多萬人臉的Idemia技術對“保護美國人民的安全”大有幫助。

然而,Idemia的算法并不能總是公平清晰地對所有面部進行精準識別。美國國家標準技術研究所(National Institute of Standards and Technolog, 簡稱NIST)的結果表明,相較于白人男性和女性,即便是Idemia最先進的算法,在檢測黑人時還是更容易出錯。

NIST利用同一個人的兩張照片對算法進行了,過程類似海關查驗護照的流程。在敏感性上,Idemia的算法識別白人女性人臉的出錯率是萬分之一,識別黑人女性人臉的出錯率則是千分之一—比前者高了十倍。

而萬分之一的出錯率通常是被用于評估評價面部識別的標準。

美國公共安全部在Idemia的負責人Donnie Scott表示,NIST所的算法并未投入商用,并且,公司在產品的過程中會進一步檢測人口差異。他認為,白人和黑人時結果上的差異性,很可能是由于工程師在過程中一味追求接近NIST期待的正確率,“人與人之間有生理差距,但算法會在識別不同人群方面取得進步”

計算機視覺算法從未在識別人臉上表現得如此出色。NIST去年表示,在2010年至2018年間,最好的算法在大型數據庫中找到一個人的能力提高了25倍,只有0.2%的情況下沒有找到真正匹配的人。這使得面部識別算法得以被投入大范圍的使用,包括政界、商界以及手機應用(如蘋果的面部識別解鎖)

黑人女性報錯率比白人高20%,面部識別系統為何不能一視同仁?(圖1)

然而,包括NIST的,以及其他的各類調查研究都表明,算法在識別深膚色人群時更容易出錯。

在調查了50多家相關公司之后,NIST在七月的報告中指出,很多面部識別方面的頂級公司算法都有和Idemia類似的“識別黑人時出錯率高十倍”的問題。

NIST發布了自2017年初以來的面部識別人口統計調查報告結果,除了人種問題,該機構還發現在識別女性上比男性更加困難,部分觀點認為是女性化妝所致。

報告表明,白人男性在人口統計結果上識別錯誤率(false match rate, FMR)最低,而黑人女性FMR為最高。

黑人女性報錯率比白人高20%,面部識別系統為何不能一視同仁?(圖2)

NIST計劃在今年秋天發布另一詳細報告,將對面部識別技術在面對不同人口族群時的性能結果做出詳細闡述。NIST的研究被認為是評估面部識別算法的最高標準,所以在報道中獲得高評價的公司可以獲得強大的背書。

Idemia 在今年三月份舉行的發布會上表明,比起同類產品,在服務美國聯邦政府客戶上,該公司的軟件表現更佳。

黑人女性報錯率比白人高20%,面部識別系統為何不能一視同仁?(圖3)

相較白人面孔,許多面部識別算法更容易混淆黑人面孔。每個圖表都代表了NIST的一種不同算法。圖表最上方的紅色實線表明,算法對于黑人女性人臉的錯誤率高于其他種族。

美國國土安全部(DHS) 同樣發現識別深色皮膚人群是商用面部識別面臨的一項大。二月,DHS發布了十一家被用于識別身份的商用面部識別的調查結果,結果表明的表現和膚色相關,通常需要更長的時間來處理皮膚較深的人,而且識別它們的準確性較低。

民權人士希望禁止政府使用該技術

政府回應了來自ACLU和MIT的研究者于2018年所進行的旨在公開警惕該技術的關鍵研究。調查指出:亞馬遜,微軟和IBM的算法在以深膚色人群為對象時出錯率更高。

這些研究結果引發了有關面部識別是非功過的國民討論。一些民權人士,立法者和政策制定者希望能禁止政府使用該技術。

他們擔心的主要問題包括隱私安全問題、政府和國民間的權利平衡問題以及在處理結果上的種族差異問題。而一些評論家表明,即使面部識別對所有種族“一視同仁”也仍然有禁止這項技術的理由。

盡管相關討論仍在膨脹,面部識別已經在許多聯邦、洲和地方政府的各個部門推行使用,而這個范圍還將持續擴大。美國政府在邊檢以及搜捕非法移民時都會使用這項技術。

面部識別的種族差異會影響治安維護

治安官辦公室的Lieutenant Derek Sabatini認為這起案件表明了現在正被五十多個縣機構所使用、保存了一千二百萬犯罪者檔案的面部識別的價值。Sabatini表明,警探沒辦法像那樣快速鎖定犯罪者?!罢l知道人力要花多久,如果那樣的話我們說不定就抓不住嫌犯了?!?/p>

黑人女性報錯率比白人高20%,面部識別系統為何不能一視同仁?(圖4)

上述洛杉磯地區的建立在由Congnite的面部匹配算法上。類似Idemia,這家德國公司為全世界的政府機構面部識別。而和Idemia一樣,NIST的結果表明Cognite的算法在檢測女性和有色人種時的出錯率更高—Cognite的兩個算法在掃描白人女性時的錯誤率是萬分之一,而掃描黑人女性時的錯誤率要高五倍。

有關面部識別與種族問題的擔憂并非忽然發生。早在2012年,FBI高級面部識別專家合著的研究論文就表明了商用面部識別在識別黑人和女性時的出錯率更高。

2018年年初,Boulamwini和其同事,AI研究者Timnit Gebru表明微軟和IBM從照片中識別性別的服務以膚色偏白的男性為對象時表現幾乎完美,而當對象為黑人女性時出錯率則高出百分之二十。

其后的一項研究發現亞馬遜的服務也有類似的問題。而亞馬遜在一篇語氣激烈的文章中形容該研究“有誤導性”解釋結果是由于面部分析進行面部識別任務時,由于的使用目的不同,兩種所提取的特征不同,自然會導致的性能“顯得”不佳。

Boulamwini是今年五月和改革委員會的主要見證人之一。會上,立法者們表示出兩黨對規范面部識別技術的極大興趣。主席Elijah Cummings (馬里蘭州) 表示,結果中的種族差異加劇了他對2015年巴爾的摩抗議活動中警察如何使用面部識別的擔憂,案件中警察拘留了一名黑人弗雷迪格雷。之后Jim Jordan(俄亥俄州)表示國會應該對政府使用這項技術“做出行動”“如果面部識別出錯并且給非裔美國人以及有色人種帶來負面影響,在我看來,這就是對美國第一憲法修正案以及憲法修正案第四條的直接違反”

為什么面部識別識別深色人臉時出錯率更高

為什么面部識別在辨別有較深膚色的人臉時出錯率較高的原因仍不明確。Boulamwini 告知國會,企業所使用的訓練面部識別的數據庫也許并不具有足夠的代表性。最簡單且能收集到大量人臉數據的地方是網絡,而網絡上充斥著西方的、白人的、男性的面部圖像。IBM的一篇評論文章指出,最經常被學術研究所引用的的三個人臉數據庫中,有高于百分之八十一的人有著淺色的皮膚。

而負責NIST的,在面部識別領域廣為人知的Patrick Grother表明還有其他原因也會造成識別深色皮膚變得更加困難,其一便是照片質量。從彩色膠片時代到數碼時代,照相技術一直都會優化膚色較淺的人拍出的圖像。在十一月的一個會議上,他還指出了另外一個具有挑釁性的假設—黑人的面部趨向于有更高的相似性?!霸诨驅W上,不同的種族在外觀上會有不同?!?/p>

佛羅里達理工學院的副教授Michael King則無法對此表達確定:“這一點問題我們還沒辦法進行討論。因為我們的研究還沒有進行到那一步?!边@位研究者此前曾為美國部門做過包括面部識別技術的相關工作。

King的最新研究與FIT以及大學的研究者合作,調查了面部識別在面對不同種族時的差異性,并對此提出了解決方案。

只有變更靈敏度設定才能讓結果一樣

研究者們發現,只有變更靈敏度設定才能使得白人和黑人的結果一樣。但是這一操作方法不太可能在實驗室外實施,因為讓警探在面對不同種族的對象時使用不同的敏感度設定本身就有歧視的危險,并且可能會導致種族問題上的官司糾紛。

當King和其他研究者認真地在實驗室里探尋算法的秘密時,關于面部識別技術的政治斗爭正在緊湊進行著??紤]到該技術在對象為少數族群時的出錯率,兩黨的國會議員都作出了會限制面部識別技術使用的承諾。本周二,奧克蘭成為了繼薩默維爾,馬薩諸塞和舊之后第三個禁止其公共機關使用面部識別技術的美國城市。而King表示,使得面部識別技術能夠公平地識別所有種族對象的研究會按照自己的步調進行。他說“使得在處理所有種族時的正確率一致,或者是發掘這種可能性,都會是一個長期的目標”

相關報道:

本文相關詞條概念解析:

識別

識別又稱為歸類和定性。是指在適用沖突規范時,依照某一法律制度,對有關事實或問題進行分類和定性,將其歸入一定的法律范疇,并對有關沖突規范進行解釋的過程。是國際私法中的特有概念。識別分為光學識別、生物識別、語音識別、磁識別、射頻識別等。識別的應用不只局限于法律層面上,比如現在廣泛應用的有“模式識別”。模式識別(PatternRecognition)是指對表征事物或現象的各種形式的(數值的、文字的和邏輯關系的)信息進行處理和分析,以對事物或現象進行描述、辨認、分類和解釋的過程,是信息科學和人工智能的重要組成部分。

延伸 · 推薦

最美的白人、黃人和黑人女性分別是誰?是這三位

眾所周知,白人女性、黃人女性和黑人女性在膚色和相貌上都有較大的不同,但三者之間也有個共同點,那就是每個人種的女性都有長得很漂亮的,只不過不同地區的人審美觀不同而已。下面就來看下白黃黑三個人種當中最美的...

網友評論

提交評論
zbxzbxzbx
zbxzbxzbx
他說你媽又沒說要,只不過,我這個人比較大氣,不想跟那樣的人計較
2019-08-20 05:15 542
melissaa
melissaa
加上歐洲平原或者草原地勢平坦,避無可避,是百戰之地,體力強壯的部落能夠更容易掠奪吞并其他部落
2019-08-15 12:21 335
遇見你是災
遇見你是災
但這也就是從強壯這個角度,并不是從健康的角度,這之間還是有區別的
2019-08-16 04:09 265
愛不需要理
愛不需要理
本來孩子不是很樂意去,他爸罵著她上去了,還以為他叫我女兒有什么事,結果就只是問問她說,這畫好不好看
2019-08-20 14:58 160
天亮了001
天亮了001
而占有大量財富和女人,養活更多的后代,但他們并不是最高,最壯,最健康的基因提供者
2019-08-13 09:58 54
我是DV搬運
我是DV搬運
包括農業從業者出現債務違約、投資環境惡化、農業生產效率大大降低,南非的糧食安全受到影響
2019-08-13 01:40 355
你是眉心一
你是眉心一
如何看待南非將白人土地沒收?
2019-08-11 02:40 242
laiyin008
laiyin008
一視同仁,同仁堂,求下聯?
2019-08-20 05:40 147
ailsa芳
ailsa芳
白人早期主要生活在高緯度歐洲平原和草原地區,主要靠游牧為生,進入農業文明的時間也比較晚
2019-08-14 08:46 888
君主333
君主333
左翼派系經濟自由戰士,憑借著其激進的改革口號,積累了足夠的支持率
2019-08-14 03:57 332

網站申明:本站圖片僅為設計美化,與文章無關。如認為影響您的權益,請與我們聯系。

全天五分彩玩法 全天五分飞艇计划 重庆时时彩计划 极速飞艇全天计划 腾讯3分彩人工工计划