研究表明,AI 工具未能減少招聘偏見
來自劍橋大學的研究人員在《哲學與技術》(Philosophy & Technology)期刊上稱:“人們對于能解決面試偏見等問題的新方法越來越感興趣。”AI的實際應用正愈發普遍,但在通過視頻或應用指標遴選求職者方面仍處于“偽科學”的水平。
曾有人力資源專業機構向媒體放話,稱AI技術有望對抗偏見。
研究發現,2020年一項針對500名人力資源專業人士的跨國調查表明,近四分之一的從業者正在利用AI“以自動化方式選拔人才。”但這種減少偏見的探索似乎并未奏效,劍橋大學性別研究中心博士后研究員Kerry Mackereth在采訪中表示,這事完全就是在“扯淡”。
她解釋道:“這些工具無法通過訓練獲得單純識別工作相關特征的能力,也不能從招聘過程中剔除性別和種族因素。這是因為人類總認為,一位員工是否優秀會不可避免地與其性別、特征和種族存在內在關聯。”
也有研究指出,一些公司還發現這些工具本身也存在問題。2018年,亞馬遜就宣布放棄開發AI驅動型招聘引擎,因為發現其會從簡歷中檢測性別并歧視女性求職者。
“現代顱相學”
研究人員還特別關注那些能夠“分析候選人言語與肢體動作細節”的工具,據稱這些細微要素也能體現對象是否符合特定職位的要求。
研究合作者Eleanor Drage博士則坦言,這類視頻與圖像分析技術“沒有科學依據”,并將其斥為“現代顱相學”——即依靠顱骨形狀推斷性格與智力的虛假理論。
她強調:“他們認為可以通過面部觀察了解對方的性格。這種想法就跟測試工具一樣根本不靠譜。AI沒辦法‘透過’面孔看到真實的內在。”
劍橋工具截屏
研究人員們還與六名計算機科學專業的學生一道,構建起自己的簡化版AI招聘工具,基于所謂“五大”人格特征對候選者照片進行評分:
- 平易近人型
- 外向型
- 開放型
- 負責型
- 神經質型
但最終評級還是會受到種種非相關變量的影響。
Drage博士寫道:“在使用這些工具時,可以看到只要調整圖像的對比度/亮度/飽和度,AI得出的性格結論就會發生變化。”
The Register指出,其他調查也得到了類似的結論。
德國一家公共廣播公司甚至發現,在視頻中佩戴眼鏡或頭巾,也會影響到候選者的最終得分。
英國特許人事與發展協會(Chartered Institute of Personnel and Development)的Hayfa Mohdzaini指出,他們的研究表明只有8%的企業雇主會使用AI技術來篩選求職人才。
“AI確實可以加大候選人才庫的整體規模,借此幫助組織提升多樣性水平——但如果規則和訓練數據不完整或不準確,也有可能錯失很多優秀的求職者。”
她總結稱:“目前,用于對候選者言語和肢體語言進行分析的AI軟件尚處于起步階段,其中當然蘊藏著巨大的機會,但也有風險與之伴生。”