人工智能(AI)是當(dāng)今世界最具革命性和影響力的技術(shù)之一，它已經(jīng)滲透到了各個領(lǐng)域和行業(yè)，為人類的生活和工作帶來了巨大的便利和價值。但是AI的發(fā)展和應(yīng)用也伴隨著各種挑戰(zhàn)和風(fēng)險，如何確保AI的安全、可信和可持續(xù)，如何平衡AI的創(chuàng)新和倫理，如何保護(hù)AI的利益相關(guān)者的權(quán)利和責(zé)任，成為了亟待解決的問題。為此需要建立和完善AI的標(biāo)準(zhǔn)和規(guī)范，以引導(dǎo)和監(jiān)督AI的負(fù)責(zé)任的開發(fā)和使用，同時促進(jìn)AI的發(fā)展和競爭力。

回應(yīng)人工智能監(jiān)管的呼聲，為了處理人工智能的問題，確保新模型的安全，一些國家在 2023 年制定了人工智能監(jiān)管框架，作為他們的戰(zhàn)略努力的一部分。

這些活動大都和 2023 年底的英國人工智能安全峰會一起舉行。這次峰會匯集了全球的領(lǐng)導(dǎo)人和商業(yè)專家，討論了如何更好地監(jiān)管人工智能的發(fā)展。峰會上25 個國家和歐盟簽署了一份國際宣言，承認(rèn)人工智能發(fā)展存在的風(fēng)險需要加以解決。

1月16日發(fā)表于aimagazine雜志的報道《Powering Responsible AI With Government Regulation Strategy》，分析和探討AI的標(biāo)準(zhǔn)和規(guī)范的重要性和緊迫性，以及如何通過政府監(jiān)管戰(zhàn)略為負(fù)責(zé)任的AI提供動力。詳細(xì)介紹《人工智能管理系統(tǒng)規(guī)范》(以下簡稱《規(guī)范》)的重要性。介紹了BSI推出的一項(xiàng)先進(jìn)的AI管理系統(tǒng)，旨在幫助組織實(shí)現(xiàn)負(fù)責(zé)任的AI開發(fā)和使用，同時符合法律、道德和社會責(zé)任的要求。《規(guī)范》是由BSI發(fā)布的一份自愿性的技術(shù)規(guī)范，提供了一個統(tǒng)一的框架和指南，涵蓋了AI系統(tǒng)的整個生命周期，支持組織建立和運(yùn)行負(fù)責(zé)任的AI系統(tǒng)。

BSI 最近做了一項(xiàng)人工智能信心的研究，結(jié)果發(fā)現(xiàn) 61% 的受訪者希望有全球的人工智能指南。該公司對 10,000 名成年人做了人工智能信任度的調(diào)查，發(fā)現(xiàn)全球 62% 的人想要人工智能的國際指南。而且38% 的人已經(jīng)在日常工作中使用人工智能，超過三分之二 (62%) 的人預(yù)計他們的行業(yè)在 2030 年之前會用上人工智能。

1.AI的標(biāo)準(zhǔn)和規(guī)范的重要性和緊迫性

美國已經(jīng)要求科技公司公開人工智能安全數(shù)據(jù)，出臺了人工智能企業(yè)指南。歐盟也在暫時達(dá)成人工智能法案后，加緊了監(jiān)管指南的討論。他們認(rèn)為這樣可以讓人工智能模型更安全、更公平，也可以改善人工智能的道德環(huán)境。

AI的發(fā)展和應(yīng)用所面臨的挑戰(zhàn)和風(fēng)險，可以從以下幾個方面進(jìn)行概括。

數(shù)據(jù)質(zhì)量：數(shù)據(jù)是AI的基礎(chǔ)和驅(qū)動力，數(shù)據(jù)的質(zhì)量直接影響AI的性能和效果。然而，數(shù)據(jù)的收集、處理、存儲、共享等過程中，可能存在數(shù)據(jù)的不完整、不準(zhǔn)確、不一致、不可靠、不安全等問題，導(dǎo)致AI的誤差、偏差、漏洞等問題，影響AI的可信度和可靠性。

隱私保護(hù)：數(shù)據(jù)的使用和分析，可能涉及到個人或組織的隱私和敏感信息，如身份、位置、健康、財務(wù)、行為等。如果數(shù)據(jù)的使用和分析沒有得到數(shù)據(jù)主體的同意或授權(quán)，或者沒有采取有效的保護(hù)措施，可能導(dǎo)致數(shù)據(jù)的泄露、濫用、盜用等問題，侵犯數(shù)據(jù)主體的隱私權(quán)和知情權(quán)，造成數(shù)據(jù)主體的損失或傷害。

算法可解釋性：算法是AI的核心和靈魂，算法的設(shè)計、訓(xùn)練、測試、優(yōu)化等過程，決定了AI的功能和效果。然而算法的復(fù)雜性和不透明性，可能導(dǎo)致算法的運(yùn)行過程和結(jié)果難以理解、驗(yàn)證、監(jiān)督、評估等問題，影響算法的可解釋性和可審查性。

人工和自然智能的協(xié)作：AI的應(yīng)用和服務(wù)，需要與人類的智能和行為進(jìn)行協(xié)作和互動，如語音、圖像、文本、視頻等。如果AI的協(xié)作和互動沒有考慮到人類的需求、期望、習(xí)慣、情感等因素，或者沒有遵循人類的規(guī)則、標(biāo)準(zhǔn)、價值等原則，可能導(dǎo)致AI的協(xié)作和互動的不順暢、不友好、不合適等問題，影響AI的可接受性和可適應(yīng)性。

人權(quán)和公平：AI的決策和行為，可能涉及到個人或群體的權(quán)利和利益，如就業(yè)、教育、醫(yī)療、司法、安全等。如果AI的決策和行為沒有尊重和保障人類的基本權(quán)利和尊嚴(yán)，或者沒有消除和避免歧視、偏見、不平等等問題，可能導(dǎo)致AI的決策和行為的不公正、不合理、不合法等問題，影響AI的可公平性和可責(zé)任性。

為了應(yīng)對和解決上述的挑戰(zhàn)和風(fēng)險，需要建立和完善AI的標(biāo)準(zhǔn)和規(guī)范，以引導(dǎo)和監(jiān)督AI的負(fù)責(zé)任的開發(fā)和使用，同時促進(jìn)AI的發(fā)展和競爭力。AI的標(biāo)準(zhǔn)和規(guī)范的重要性和緊迫性，可以從以下幾個方面進(jìn)行說明。

保障AI的安全性和可信性：AI的標(biāo)準(zhǔn)和規(guī)范，可以為AI的開發(fā)和使用提供一個清晰和一致的框架和指南，規(guī)定AI的質(zhì)量、性能、可靠性、可用性、可維護(hù)性等要求，以及AI的測試、驗(yàn)證、評估、審查等方法，以確保AI的安全性和可信性，避免AI的錯誤、故障、攻擊等問題，保護(hù)AI的利益相關(guān)者的安全和信任。

保護(hù)AI的利益相關(guān)者的權(quán)利和責(zé)任：AI的標(biāo)準(zhǔn)和規(guī)范，可以為AI的開發(fā)和使用提供一個公正和透明的框架和指南，規(guī)定AI的利益相關(guān)者的權(quán)利和責(zé)任，如數(shù)據(jù)主體的隱私權(quán)和知情權(quán)，算法開發(fā)者的創(chuàng)新權(quán)和責(zé)任，算法使用者的選擇權(quán)和責(zé)任，算法受益者的享受權(quán)和責(zé)任，算法受害者的申訴權(quán)和責(zé)任等，以保護(hù)AI的利益相關(guān)者的權(quán)利和責(zé)任，避免AI的利益相關(guān)者的損失或傷害。

平衡AI的創(chuàng)新和倫理：AI的標(biāo)準(zhǔn)和規(guī)范，可以為AI的開發(fā)和使用提供一個平衡和協(xié)調(diào)的框架和指南，規(guī)定AI的創(chuàng)新和倫理的原則和標(biāo)準(zhǔn)，如AI的效益、正義、尊重、責(zé)任、可持續(xù)等原則，以及AI的社會、環(huán)境、經(jīng)濟(jì)、文化等標(biāo)準(zhǔn)，以平衡AI的創(chuàng)新和倫理，避免AI的創(chuàng)新和倫理的沖突或矛盾。

促進(jìn)AI的發(fā)展和競爭力：AI的標(biāo)準(zhǔn)和規(guī)范，可以為AI的開發(fā)和使用提供一個有利和支持的框架和指南，規(guī)定AI的發(fā)展和競爭力的目標(biāo)和指標(biāo)，如AI的效率、效果、質(zhì)量、創(chuàng)新、多樣性、普惠性等目標(biāo)，以及AI的市場、產(chǎn)業(yè)、技術(shù)、人才、政策、國際等指標(biāo)，以促進(jìn)AI的發(fā)展和競爭力，避免AI的發(fā)展和競爭力的滯后或落后。

AI的標(biāo)準(zhǔn)和規(guī)范的重要性和緊迫性，是不容忽視和推遲的。AI的標(biāo)準(zhǔn)和規(guī)范，是AI的負(fù)責(zé)任的開發(fā)和使用的必要條件和保障，也是AI的發(fā)展和競爭力的重要因素和動力。沒有AI的標(biāo)準(zhǔn)和規(guī)范，AI的發(fā)展和應(yīng)用將會面臨更多的不確定性和不可控性，可能導(dǎo)致AI的危害和失控，損害AI的利益相關(guān)者的利益和信任，阻礙AI的創(chuàng)新和進(jìn)步。

2.通過政府監(jiān)管戰(zhàn)略為負(fù)責(zé)任的AI提供動力

既然AI的標(biāo)準(zhǔn)和規(guī)范的重要性和緊迫性已經(jīng)得到了認(rèn)識和共識，那么如何制定和實(shí)施AI的標(biāo)準(zhǔn)和規(guī)范，就成為了一個關(guān)鍵和迫切的問題。在這個問題上，政府的作用和責(zé)任是不可或缺和不可推卸的。政府是AI的標(biāo)準(zhǔn)和規(guī)范的主要制定者和執(zhí)行者，政府的監(jiān)管戰(zhàn)略是AI的標(biāo)準(zhǔn)和規(guī)范的主要依據(jù)和保障。

制定AI的法律和政策：政府可以通過立法和制定政策，為AI的標(biāo)準(zhǔn)和規(guī)范提供一個法律和政策的框架和基礎(chǔ)，明確AI的定義、分類、范圍、目的、原則、要求、方法等內(nèi)容，以及AI的利益相關(guān)者的權(quán)利和責(zé)任、AI的監(jiān)督和管理機(jī)制、AI的獎懲和糾紛解決機(jī)制等內(nèi)容，以確保AI的標(biāo)準(zhǔn)和規(guī)范的合法性和有效性，避免AI的標(biāo)準(zhǔn)和規(guī)范的模糊和混亂。

推動AI的標(biāo)準(zhǔn)和規(guī)范的制定和實(shí)施：政府可以通過支持和參與AI的標(biāo)準(zhǔn)和規(guī)范的制定和實(shí)施，為AI的標(biāo)準(zhǔn)和規(guī)范提供一個推動和協(xié)調(diào)的框架和平臺，協(xié)調(diào)和整合AI的利益相關(guān)者的需求和利益，促進(jìn)和參與AI的標(biāo)準(zhǔn)和規(guī)范的研究和開發(fā)，推廣和實(shí)施AI的標(biāo)準(zhǔn)和規(guī)范的應(yīng)用和服務(wù)，以確保AI的標(biāo)準(zhǔn)和規(guī)范的科學(xué)性和適用性，避免AI的標(biāo)準(zhǔn)和規(guī)范的滯后和隔離。

建設(shè)AI的基礎(chǔ)設(shè)施和生態(tài)系統(tǒng)：政府可以通過投資和建設(shè)AI的基礎(chǔ)設(shè)施和生態(tài)系統(tǒng)，為AI的標(biāo)準(zhǔn)和規(guī)范提供一個支持和保障的框架和環(huán)境，提供和優(yōu)化AI的數(shù)據(jù)、算法、計算、網(wǎng)絡(luò)、安全等基礎(chǔ)設(shè)施，培育和發(fā)展AI的市場、產(chǎn)業(yè)、技術(shù)、人才、政策、國際等生態(tài)系統(tǒng)，以確保AI的標(biāo)準(zhǔn)和規(guī)范的可持續(xù)性和競爭力，避免AI的標(biāo)準(zhǔn)和規(guī)范的缺乏和落后。

政府的監(jiān)管戰(zhàn)略，是通過政府的法律、政策、支持、參與、投資、建設(shè)等手段，為AI的標(biāo)準(zhǔn)和規(guī)范提供一個全面和系統(tǒng)的框架和指南，以促進(jìn)AI的負(fù)責(zé)任的開發(fā)和使用，同時促進(jìn)AI的發(fā)展和競爭力。政府的監(jiān)管戰(zhàn)略，是AI的標(biāo)準(zhǔn)和規(guī)范的主要動力和保障，沒有政府的監(jiān)管戰(zhàn)略，AI的標(biāo)準(zhǔn)和規(guī)范將會缺乏法律和政策的依據(jù)和支持，缺乏科學(xué)和適用的研究和開發(fā)，缺乏可持續(xù)和競爭的基礎(chǔ)設(shè)施和生態(tài)系統(tǒng)。

3.BSI的AI管理系統(tǒng)的特點(diǎn)和優(yōu)勢

在政府的監(jiān)管戰(zhàn)略的指導(dǎo)和支持下，英國BSI推出了一項(xiàng)先進(jìn)的AI管理系統(tǒng)，旨在幫助組織實(shí)現(xiàn)負(fù)責(zé)任的AI開發(fā)和使用，同時符合法律、道德和社會責(zé)任的要求。

這個指南是由英國的國家標(biāo)準(zhǔn)機(jī)構(gòu) BSI 在英國發(fā)布的，它告訴我們?nèi)绾谓ⅰ?shí)施、維護(hù)和持續(xù)改進(jìn)人工智能管理系統(tǒng)，重點(diǎn)是保障措施。英國政府的國家人工智能戰(zhàn)略把它看作是讓人工智能安全、道德地發(fā)展的一步。

BSI的AI管理系統(tǒng)，是基于《規(guī)范》的一套完整和實(shí)用的解決方案，包括以下幾個方面：

《規(guī)范》

《規(guī)范》是BSI發(fā)布的一份自愿性的技術(shù)規(guī)范，提供了一個統(tǒng)一的框架和指南，涵蓋了AI系統(tǒng)的整個生命周期，支持組織建立和運(yùn)行負(fù)責(zé)任的AI系統(tǒng)。《規(guī)范》的主要內(nèi)容包括以下幾個部分：

AI系統(tǒng)的定義和分類：《規(guī)范》定義了AI系統(tǒng)的概念和特征，以及AI系統(tǒng)的分類和范圍，包括AI系統(tǒng)的功能、性能、復(fù)雜性、影響等維度，以便于組織識別和管理AI系統(tǒng)。

AI系統(tǒng)的原則和要求：《規(guī)范》規(guī)定了AI系統(tǒng)的原則和要求，包括AI系統(tǒng)的效益、正義、尊重、責(zé)任、可持續(xù)等原則，以及AI系統(tǒng)的數(shù)據(jù)、算法、人工、自然、社會等要求，以便于組織遵循和實(shí)現(xiàn)AI系統(tǒng)的原則和要求。

AI系統(tǒng)的方法和指南：《規(guī)范》提供了AI系統(tǒng)的方法和指南，包括AI系統(tǒng)的設(shè)計、開發(fā)、部署、運(yùn)維、監(jiān)督、退出等階段，以及AI系統(tǒng)的測試、驗(yàn)證、評估、審查、改進(jìn)等方法，以便于組織執(zhí)行和優(yōu)化AI系統(tǒng)的方法和指南。

自我評估工具

自我評估工具是BSI提供的一個在線的工具，可以幫助組織檢查和改進(jìn)他們的AI管理系統(tǒng)的成熟度和性能。自我評估工具的主要內(nèi)容包括以下幾個部分：

AI管理系統(tǒng)的評估：自我評估工具可以幫助組織評估他們的AI管理系統(tǒng)的當(dāng)前狀態(tài)和目標(biāo)狀態(tài)，以及AI管理系統(tǒng)的優(yōu)勢和劣勢，以便于組織了解和改進(jìn)他們的AI管理系統(tǒng)的水平和狀況。

AI管理系統(tǒng)的改進(jìn)：自我評估工具可以幫助組織改進(jìn)他們的AI管理系統(tǒng)的策略和行動，以及AI管理系統(tǒng)的監(jiān)測和評價，以便于組織提高和保持他們的AI管理系統(tǒng)的效果和質(zhì)量。

AI管理系統(tǒng)的報告：自我評估工具可以幫助組織報告他們的AI管理系統(tǒng)的結(jié)果和進(jìn)展，以及AI管理系統(tǒng)的優(yōu)點(diǎn)和缺點(diǎn)，以便于組織展示和分享他們的AI管理系統(tǒng)的經(jīng)驗(yàn)和教訓(xùn)。

在線研討會

在線研討會是BSI提供的一個在線的平臺，可以幫助組織了解和應(yīng)用《規(guī)范》和自我評估工具，以便于組織實(shí)現(xiàn)負(fù)責(zé)任的AI開發(fā)和使用。在線研討會的主要內(nèi)容包括以下幾個部分：

介紹和解讀：在線研討會可以幫助組織了解和解讀《規(guī)范》的背景和目的，以及《規(guī)范》的內(nèi)容和結(jié)構(gòu)，以便于組織掌握和理解《規(guī)范》的意義和價值。

應(yīng)用和實(shí)踐：在線研討會可以幫助組織應(yīng)用和實(shí)踐《規(guī)范》的原則和要求，以及《規(guī)范》的方法和指南，以便于組織執(zhí)行和優(yōu)化《規(guī)范》的框架和流程。

案例和經(jīng)驗(yàn)：在線研討會可以幫助組織學(xué)習(xí)和借鑒《規(guī)范》的案例和經(jīng)驗(yàn)，以及《規(guī)范》的優(yōu)勢和挑戰(zhàn)，以便于組織參考和借鑒《規(guī)范》的實(shí)踐和教訓(xùn)。

BSI的AI管理系統(tǒng)是一套完整和實(shí)用的解決方案，可以幫助組織實(shí)現(xiàn)負(fù)責(zé)任的AI開發(fā)和使用，同時符合法律、道德和社會責(zé)任的要求。BSI的AI管理系統(tǒng)是基于《規(guī)范》的一套框架和指南，以及自我評估工具和在線研討會的一套工具和平臺，為組織提供了一個有效和便捷的方式，來建立和運(yùn)行負(fù)責(zé)任的AI系統(tǒng)。

BSI 標(biāo)準(zhǔn)總監(jiān) Scott Steedman 說：“雖然還沒有確定的監(jiān)管框架，英國的組織已經(jīng)廣泛使用了人工智能技術(shù)。當(dāng)政府考慮如何最有效地進(jìn)行監(jiān)管時，世界各地的人們都在要求有指導(dǎo)方針和護(hù)欄來保護(hù)他們。“新人工智能標(biāo)準(zhǔn)中的商業(yè)領(lǐng)袖指南旨在通過關(guān)注關(guān)鍵風(fēng)險、責(zé)任和保障措施，來平衡創(chuàng)新和最佳實(shí)踐。”

BSI 認(rèn)為，縮小人工智能信心差距，建立人工智能信任，對于全世界人類利用該技術(shù)的好處非常重要。