為了達到“公開、透明、道德”的目的,使用AI算法制定政府章程
新西蘭政府已經發布了一套標準,旨在作為政府機構如何使用算法的指南。
根據統計部長James Shaw的說法,新西蘭“ Aotearoa算法憲章”被譽為“世界第一”,將提高數據透明度和問責制,尤其是在使用算法處理和解釋大量數據時。
他說:“使用算法來分析數據和告知決策并非沒有風險。”
“因此,重要的是讓人們有信心以公平,道德和透明的方式使用這些算法。這就是本憲章的目的。”
迄今為止,該憲章已由21個機構簽署:懲教部,教育部,環境部,住房和城市發展部,內政部,稅務局,司法部,新西蘭土地信息局,教育部毛利人發展部,兒童部,太平洋人民部,社會發展部,新西蘭統計局,交通部,新西蘭運輸局,派克河恢復局,婦女部,社會福利局,新西蘭國防軍,毛利人官方關系辦公室和事故賠償公司。
在簽署章程時,各機構已同意采取一系列措施,包括解釋算法如何告知決策;通過識別和管理偏見來確保數據適合目的;通過定期的同行評審算法來確保隱私,道德和人權得到保障;在算法的開發和使用中嵌入特奧毛利人的觀點;并清楚地說明了人類在算法告知的決策中的作用。
憲章的制定是政府首席數據管理員和首席數字官的建議,他們在2018年的報告中表示,安全有效地使用運營算法需要整個政府的更大一致性。
該建議是在新西蘭政府緊急呼吁評估政府機構如何使用算法來分析數據之后提出的。有人聲稱新西蘭可能利用通過該國簽證申請程序收集的公民數據來確定違反簽證條件的人,例如根據年齡,性別和種族對人進行過濾。
但是,當時的新西蘭移民部長伊恩·里斯·加洛維(Iain Lees-Galloway)拒絕了這個提議。他告訴新西蘭電臺(Radio New Zealand),移民事務涉及一系列問題,包括那些已經提出并被拒絕多次簽證申請的人。
他當時說:“調查的對象是對衛生系統造成最大負擔的人,對刑事司法系統造成最大負擔的人,并使用這些數據對這些人進行優先排序。”
“重要的是,我們必須保護移民系統的完整性,并盡可能有效地利用移民所擁有的資源,我確實會使用良好的數據來支持他們,以就如何最好地部署其資源做出正確的決定。”新西蘭政府補充說,算法章程將繼續發展,并將在12個月內進行審查,以確保在不扼殺創新或增加合規負擔的情況下實現其預期目的。