在機器學習和人工智能方面，不乏丑聞。在過去的幾個月中，人們已經看到微軟公司的新聞記者用有關LittleMix樂隊成員錯誤的形象來說明有關種族主義的文章，LittleMix是英國政府的A-Level算法，根據過去學生的表現對學生進行懲罰，并且，最近，Twitter的人工智能驅動的圖像裁剪工具似乎更喜歡白人而不是黑人的面部。

[[375843]]

但是，人工智能的偏見不僅限于知名公司和備受矚目的丑聞。凱捷(Capgemini)公司最近的一份報告對800個組織和2,900名消費者進行了調查，結果顯示90%的組織至少知道一個人工智能系統導致其業務出現道德問題的情況。

此外，調查結果顯示，雖然三分之二(68%)的消費者期望人工智能模型是公平的且沒有偏見，但只有53%的企業擁有負責人工智能系統道德的領導者，例如首席道德官。接受獨立審核的人工智能系統的道德影響甚至更少(只有46%)。

顯而易見，隨著人工智能融入我們生活的方方面面，公司需要做更多的工作來確保其系統不受偏見影響，甚至需要找到使用該技術來減輕有害偏見的方法，以便做出更公平的業務決策。

團隊建設

那么我們該怎么做呢?首先要建立一支多元化的團隊，而這個行業仍然無法做到。根據人工智能Now Institute發布的研究，人工智能教授中有80%是男性，Facebook上只有15%的人工智能研究人員，Google上只有10%的人工智能研究人員是女性。

Sopra Steria公司的數字道德與技術負責人Jen Rodvold表示：“多樣性不僅是成功實施人工智能策略的關鍵，而且對于企業的底線至關重要。多元化的員工隊伍將提供各種不同的觀點，標記出開發過程中涉及的任何偏見，并有助于審訊可能使這種偏見永久化并以不可預見的方式影響您的技術開發方式的更廣泛的組織過程。”

Imagination科技公司的人工智能高級產品總監Andrew Grant同意這種觀點，他說，確保多樣化的數據科學家對于發展符合道德的人工智能至關重要。

為了確保在建立用于訓練人工智能的數據集時的最佳實踐，首先需要有各種各樣的數據科學家收集和分析數據。他說：“對人工智能進行培訓的任何部分都不應由個人來監督，通過交叉檢查工作，可以更有效地消除個人偏見。”

使數據多樣化

還需要各種數據集。通過在歷史數據上訓練機器學習模型(例如，顯示男性更常被提升為高級職位的數據，或者大多數技術行業的工人是白人)，編碼人工智能的偏見幾乎是不可避免的。

埃森哲公司負責人工智能的經理Caryn Tan告訴表示：“組織構建和設計人工智能的組織必須記住，它受到所提供信息的限制。一種算法無法分辨出什么時候不公平，它只是沿用了歷史模式。如果我們不采取措施緩解這種情況，可能會導致不良的反饋循環，從而可能根據人們的出身，歷史甚至刻板印象來誘捕他們。因此，組織必須采取積極措施來解決潛在的偏見，然后才有機會表現出來。”

CodeFirs tGirls的首席執行官AnnaBr人工智能lsford補充說，為了確保使用各種數據集對模型進行訓練，至關重要的是“多樣性和包容性是業務決策基礎的一部分”。

她表示，“在科技行業，機器學習和人工智能系統固有地存在偏差，這是用來訓練其智能的數據集的結果。”“哈佛大學的研究人員發現，公司正在使用有缺陷的歷史數據集來訓練其人工智能以進行招聘;意味著有色人種和女性甚至在參加面試之前就已經受到歧視。

“自上而下的方法不是解決之道，并且可能會進一步加劇現有的人工智能偏見。相反，企業需要將多樣性和包容性視為一個持續的學習過程。”

透明度是關鍵

當然，企業還必須考慮人工智能準則和透明度，尤其是在監管審查日益嚴格的情況下。例如，歐洲委員會已經發布了有關應在設計人工智能應用程序時使用的關鍵道德原則的指南，而美國聯邦貿易委員會(FTC)在2020年初呼吁“透明人工智能”。

后者指出，當啟用人工智能的系統做出不利決定(例如拒絕信用卡申請)時，組織應向受影響的消費者展示做出決定所使用的關鍵數據點，并賦予他們更改權任何不正確的信息。

NTTDATAUK新創企業和創新副總裁Tom Winstanley表示：“隨著人工智能在整個經濟中的規模不斷擴大，至關重要的是，企業必須制定穩健的道德標準，并在其運營核心體現人工智能準則。透明度至關重要：公司不能依賴'黑匣子'數據集，而應該公開其如何訓練人工智能以及為確保以負責任的方式使用人工智能所采用的標準。因此，NTTDATA去年公開宣布了自己的人工智能道德準則。”

Rodvold補充說：“確保技術的透明度以及強大的多樣性做法，將有助于消除偏見并確保您建立公眾信任。全面的數字道德方法在人工智能開發中考慮多樣性，透明性，隱私和安全性的交集，將確保您在人工智能之旅中吸引客戶，并提供有效的，可持續的技術。”

隨著人工智能在各行各業中變得越來越普遍，并且這些系統中的內置偏差問題已得到充分記錄，對于企業而言，立即采取行動以確保其軟件和流程不受偏差是至關重要的。值得慶幸的是，盡管在疫情期間它的采用率猛增，但還需要采取一些措施。

這意味著，通過戰略多元化努力，仍然可以更好地塑造人工智能的未來。