種族大棒之下,人臉識別將何去何從?
在美國,白人警察對黑人平民的過度執法司空見慣,近期,因一白人警察對一黑人“跪地鎖喉”至黑人死亡后,美國便掀起了一場規模前所未有的關于種族歧視的抗議行動。
這一行動開始后美國各地接連響應,甚至一度出現了抗議者渾水摸魚對除黑人商店外,其他人種的商店進行“打、砸、搶”。國內朋友圈甚至出現了所謂“海外奢侈品低價代購,無發票,下單立馬聯系黑人兄弟去搶”的段子。
抗議行動愈演愈烈,美科技巨頭紛紛發聲
周一,IBM的CEO阿爾文德·克里什納呼吁美國國會實施改革,以推進種族平等,抗擊系統性種族主義。 同時,他宣布IBM將正式退出人臉識別業務。
據了解,IBM人臉識別技術由于被多家公司部署應用,但對于不同種族和性別的算法并不準確,導致部分人認為IBM涉及種族和性別歧視。
種族大棒之下,人臉識別將何去何從?
從股價來看,雖然并沒有證據指出8、9兩日的下跌與IBM放棄人臉識別有直接關系,但聯系前因難免不讓人多想。
就在今日,繼IBM之后,亞馬遜宣布在未來的一年內,將暫停警方使用人臉識別技術(在打擊人口販賣時例外)。亞馬遜與IBM不同,IBM本身的公關重心并不在人臉識別技術上,其業務占有量也并不高,從某種意義上來說對公司造成的沖擊并不大。但對于美國人臉識別“專業”戶的亞馬遜來說,這時的一波“停牌”,可能會讓原本在國外就處于“冰火兩重”的人臉識別更加難以推廣。
當不完善的算法遇上“種族歧視”
早在2018年紐約時報英文網站發表一篇文章,指出如今非常熱門的 AI 應用人臉識別,針對不同種族的準確率差異巨大。其中,針對黑人女性的錯誤率高達 21%-35%,而針對白人男性的錯誤率則低于 1%。
同時,法國Idemia公司的人臉識別在多國提供服務,但是他們做了一個測試,用兩張相同的照片去測試算法是否標準,結果得到的答案是,錯誤匹配白人女性的概率為萬分之一,錯誤匹配黑人女性的概率是千分之一,整整差了10倍。你要知道,這與我國五十六個民族親如一家的情形不同, 一個人無意中干的一件小事都有可能被視作種族歧視,進而丟掉學業、工作或是面臨法律的制裁。
正因如此,人臉識別技術是罕有的沒能讓全球從業者達成初步認知共識的技術。在我國,作為人臉識別等 AI 技術的天然試驗田,安防行業過去幾年熱鬧非凡。在各類技術相互交織的時代,監控設備既是終端商用落地場景,又是數據驅動源頭之一,地位非同一般。大背景下,這條賽道除吸引了海康、大華等傳統安防企業外,還包含 PATH(平安、阿里、騰訊、華為)等無數大小企業的密切關注。
而在大洋彼岸,這項技術的推進則至今受阻,除了固有的人權與隱私問題之外,當下種族歧視這頂帽子也因為算法不完善被扣給了人臉識別技術。
人臉識別發展受阻,連帶之下誰要倒霉?
在MarketsandMarkets的一份報告指出,人臉識別發展的主要驅動力包括:政府推行用戶和數據安全舉措的增加、越來越多移動設備的使用以及全球對健全欺詐檢測和預防系統需求的日益增長。
由此我們也不難得出這樣一個結論,因為算法問題而背上種族歧視這一黑鍋,進而導致技術發展停滯不前后,倒霉的還是普通民眾。
從政府端來說,美國多地區出臺了相關法令,禁止人臉識別的應用,盡管過去的這些法令是出于對隱私保護的考慮。而在本次IBM CEO阿爾文德·克里什納寫給國會的信中罕見的將“種族定性”與“人權和自由”并列,這將極有可能導致在未來的某一天,當美國想重啟人臉識別技術時,發現那道名為“種族歧視”的枷鎖。
從個人端來說,那些老生常談的安全防護收益按下不談,說說此次疫情之下人臉識別技術顯現出的額外優勢。疫情之下,“非接觸”這一曾經簡單的訴求在一時之間被無限放大,在社區防疫的過程中,所涌現的那些人臉識別+紅外測溫的出入口控制方案解放了大量的人力與物力,為防疫工作同時爭取了“空間”與“時間”。
反觀美國,截至今日兩百多萬的新冠患者是我國峰值的數十倍,在各州幾近各自為戰的情況下,還將社區防疫最有效的手段之一扣上種族歧視的帽子并廢止,則為那些原本不會感染的民眾平添的幾分感染的可能。
結語
一刀切雖然是最蠢的方法,但從某種意義上來說,這是目前美國能采用的唯一一個能在短期內得見成效的方法。
常言道“摸著石頭過河”,我們不妨再摸著美國過一次河,以此為鑒,方明得失。
截至目前,雖然我國的人臉識別發展依然有認證能力參差不齊、應用流程不夠規范、法律效力尚未確認、數據保護不足等客觀存在的疏漏。但有無數人為之奔走、努力,使該領域監管做到有法可依,有章可循。