9月26日，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)范》(以下簡稱“《規(guī)范》”)，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動的自然人、法人和其他相關(guān)機(jī)構(gòu)等提供倫理指引。

[[426077]]

早在今年1月5日，全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布了《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南—人工智能倫理安全風(fēng)險(xiǎn)防范指引》(以下簡稱“《指引》”)，表示相關(guān)組織或個(gè)人在開展人工智能研究開發(fā)、設(shè)計(jì)制造、部署應(yīng)用等相關(guān)活動時(shí)，應(yīng)充分識別、 防范、管控人工智能倫理安全風(fēng)險(xiǎn)。

相較于《指引》，本次出臺的《規(guī)范》對隱私保護(hù)與數(shù)據(jù)安全進(jìn)行了更為詳細(xì)的闡述，同時(shí)對算法偏見等技術(shù)倫理問題也給予了關(guān)注。

重視數(shù)據(jù)與隱私安全，強(qiáng)調(diào)算法倫理

《規(guī)范》提出了增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確保可控可信、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項(xiàng)基本倫理要求。其中，數(shù)據(jù)與隱私安全內(nèi)容貫穿了人工智能管理、研發(fā)、供應(yīng)等特定活動的具體倫理要求。

《規(guī)范》指出，人工智能各類活動應(yīng)充分尊重個(gè)人信息知情、同意等權(quán)利，依照合法、正當(dāng)、必要和誠信原則處理個(gè)人信息，保障個(gè)人隱私與數(shù)據(jù)安全，不得損害個(gè)人合法數(shù)據(jù)權(quán)益，不得以竊取、篡改、泄露等方式非法收集利用個(gè)人信息，不得侵害個(gè)人隱私權(quán)。

在管理方面，要充分尊重并保障相關(guān)主體的隱私、自由、尊嚴(yán)、安全等權(quán)利及其他合法權(quán)益，禁止權(quán)力不當(dāng)行使對自然人、法人和其他組織合法權(quán)益造成侵害。

在研發(fā)方面，要提升數(shù)據(jù)質(zhì)量，在數(shù)據(jù)收集、存儲、使用、加工、傳輸、提供、公開等環(huán)節(jié)，嚴(yán)格遵守?cái)?shù)據(jù)相關(guān)法律、標(biāo)準(zhǔn)與規(guī)范，提升數(shù)據(jù)的完整性、及時(shí)性、一致性、規(guī)范性和準(zhǔn)確性等。

在供應(yīng)方面，要強(qiáng)化人工智能產(chǎn)品與服務(wù)的質(zhì)量監(jiān)測和使用評估，避免因設(shè)計(jì)和產(chǎn)品缺陷等問題導(dǎo)致的人身安全、財(cái)產(chǎn)安全、用戶隱私等侵害，不得經(jīng)營、銷售或提供不符合質(zhì)量標(biāo)準(zhǔn)的產(chǎn)品與服務(wù)。

算法倫理也是本次規(guī)范的關(guān)注重點(diǎn)之一?！兑?guī)范》在“研發(fā)規(guī)范”中明確提出，在數(shù)據(jù)采集和算法開發(fā)中要避免偏見歧視，加強(qiáng)倫理審查，充分考慮差異化訴求，避免可能存在的數(shù)據(jù)與算法偏見，努力實(shí)現(xiàn)人工智能系統(tǒng)的普惠性、公平性和非歧視性。同時(shí)，要增強(qiáng)安全透明，在算法設(shè)計(jì)、實(shí)現(xiàn)、應(yīng)用環(huán)節(jié)提升透明性、可解釋性、可理解性、可靠性、可控性，增強(qiáng)人工智能系統(tǒng)的韌性、自適應(yīng)性和抗干擾能力，逐步實(shí)現(xiàn)可驗(yàn)證、可審核、可監(jiān)督、可追溯、可預(yù)測、可信賴。

技術(shù)倫理與數(shù)據(jù)安全成市場監(jiān)管重點(diǎn)

近年來，人工智能倫理治理問題日益引發(fā)關(guān)注，數(shù)據(jù)安全與算法倫理合規(guī)一直是我國人工智能產(chǎn)業(yè)的關(guān)注焦點(diǎn)，相關(guān)制度正在不斷完善之中。

2021年7月14日，深圳市人大常委組織部起草的《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例 (草案) 》要求人工智能企業(yè)“設(shè)立倫理風(fēng)險(xiǎn)崗位”，“履行倫理審查和風(fēng)險(xiǎn)評估職責(zé)”，并明確規(guī)定開展人工智能研究和應(yīng)用活動中禁止侵犯個(gè)人隱私和個(gè)人信息保護(hù)、損害國家安全和社會公共利益、算法歧視等一系列行為。

2021年7月28日，科技部發(fā)布《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見 (征求意見稿) 》，明確了倫理先行、敏捷治理等基本要求，并提出了五項(xiàng)科技倫理原則，要求“從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動的機(jī)構(gòu)，研究內(nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理 (審查) 委員會”

此外，《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》于今年6月和8月相繼出臺，數(shù)據(jù)和信息安全重要性被前所未有地強(qiáng)調(diào)。政策風(fēng)向之下，AI企業(yè)在融資上市的時(shí)候也越來越重視數(shù)據(jù)安全與算法倫理的合規(guī)問題。

在過去的一年里，依圖、曠視、云從、海天瑞聲、云天勵飛等“AI概念股”扎堆涌向IPO，數(shù)據(jù)合規(guī)及科技倫理均是審核關(guān)注的焦點(diǎn)。今年5月，在曠視科技IPO過程中，上交所首次對科技倫理進(jìn)行了問詢，要求曠視披露公司在人工智能倫理方面的組織架構(gòu)、核心原則、內(nèi)部控制及執(zhí)行情況。而云從科技曾因財(cái)務(wù)資料過期而一度被中止發(fā)行上市審核，依圖科技已撤回申請，其發(fā)行上市審核現(xiàn)已終止。

監(jiān)管力度加大的背景下，近日, “AI四小龍”之一的商湯科技提交港股上市招股書，并在招股書中設(shè)有專章詳盡披露了隱私與AI治理環(huán)節(jié)，說明其在業(yè)務(wù)中如何做到數(shù)據(jù)隱私及個(gè)人信息保護(hù)，并稱將遵循三項(xiàng)人工智能倫理原則：可持續(xù)發(fā)展原則、以人為本原則和技術(shù)可控原則。

浙江墾丁律師事務(wù)所創(chuàng)始合伙人王瓊飛在此前接受21記者采訪時(shí)曾表示，對于AI產(chǎn)業(yè)及科技公司來說，短期來看，鑒于數(shù)據(jù)合規(guī)、AI治理均將耗費(fèi)大量的精力與成本;但從中期看，上市科技公司主動對個(gè)人隱私、AI治理工作進(jìn)行披露，無疑將對其他企業(yè)起到示范以及指引作用，從而減輕數(shù)據(jù)標(biāo)準(zhǔn)化以及降低數(shù)據(jù)治理的工作量;從長期來看，此舉亦將加速AI行業(yè)的健康發(fā)展，在尊重和保護(hù)個(gè)人隱私的前提下，逐步實(shí)現(xiàn)人工智能創(chuàng)新與監(jiān)管的平衡狀態(tài)

(作者：實(shí)習(xí)生王祎琛,見習(xí)記者吳立洋 編輯：曹金良)