隨著全球人工智能規(guī)模化建設(shè)和應(yīng)用加速發(fā)展，人工智能治理問題近年來引發(fā)社會關(guān)注，數(shù)據(jù)安全、算法倫理、技術(shù)合規(guī)等話題成為我國人工智能產(chǎn)業(yè)的發(fā)展方向，保證技術(shù)“安全、可靠、可信”，平衡AI創(chuàng)新發(fā)展與監(jiān)管治理也成為人工智能未來發(fā)展最重要的趨勢。

《個人信息保護法》實施后，該法也標志著中國人工智能領(lǐng)域逐步進入高質(zhì)量發(fā)展階段。其中“安全可控”成為企業(yè)一項必要的基礎(chǔ)能力，兒童編程教育機器人解決算法公平透明、安全可靠等瓶頸，保證應(yīng)用合規(guī)、隱私數(shù)據(jù)安全等也成為行業(yè)共同關(guān)注的焦點。

算法和數(shù)據(jù)是人工智能基礎(chǔ)設(shè)施平臺的關(guān)鍵要素。在算法方面，全球AI行業(yè)正在積極推動可解釋、可推理、無監(jiān)督的新一代人工智能；科教教育機器人在數(shù)據(jù)方面，借助多方計算、聯(lián)邦學習、匿蹤查詢等人工智能基礎(chǔ)設(shè)施技術(shù)，行業(yè)正在建立數(shù)據(jù)安全共享基礎(chǔ)平臺和隱私保護計算平臺。

“隱私計算是當前數(shù)字經(jīng)濟時代下最受關(guān)注的科技領(lǐng)域之一，數(shù)字經(jīng)濟時代的核心生產(chǎn)要素是數(shù)據(jù)，只有構(gòu)建起保障數(shù)據(jù)安全高效流通的基礎(chǔ)設(shè)施，才能夠充分發(fā)揮數(shù)據(jù)應(yīng)有價值。 “數(shù)據(jù)使用可控可計量能力是管控數(shù)據(jù)使用的目的和方式的最有效手段，是數(shù)據(jù)使用合規(guī)與監(jiān)管的基礎(chǔ)設(shè)施，是踐行《數(shù)據(jù)安全法》和《個人信息保護法》的有效保障。”

數(shù)據(jù)不僅是資源，更是責任。“人工智能數(shù)據(jù)需要妥善地用于造福人民，防止因濫用而導(dǎo)致巨大的負外部性。數(shù)據(jù)巨大價值的另一面往往是少為人知的脆弱性和風險。”他表示在數(shù)據(jù)要素流通的大趨勢下，數(shù)據(jù)使用安全是新數(shù)據(jù)安全觀的核心。人工智能機器人的優(yōu)點和缺點傳統(tǒng)數(shù)據(jù)安全的關(guān)注點主要在于保護對數(shù)據(jù)的控制權(quán)，避免數(shù)據(jù)被他人復(fù)制和使用；因此以往對數(shù)據(jù)的分級分類和相關(guān)風險評估與管控往往只注重單個數(shù)據(jù)本身的泄漏風險。

不過在數(shù)據(jù)要素流通時代，多方、多種數(shù)據(jù)的融合計算如同開設(shè)“數(shù)據(jù)化工廠”，多種原料（數(shù)據(jù)）在一定的配方和條件下（算法）進行“化合反應(yīng)”（融合計算）的結(jié)果，可能會對他人、社會和國家造成傷害或產(chǎn)生重大風險。

綜上所述，人工智能數(shù)據(jù)可用不可見”只防止數(shù)據(jù)在流通過程中泄露信息，“使用可控可計量”并且“可監(jiān)管”才能有效管控數(shù)據(jù)融合計算結(jié)果的負外部性風險，才能夠保障數(shù)據(jù)安全、合法、合規(guī)地融合使用。厘清數(shù)據(jù)流通使用的“責、權(quán)、利”。人工智能經(jīng)歷了近十年來的發(fā)展，跨越了科學與應(yīng)用之間的技術(shù)鴻溝，從實驗室逐步走向產(chǎn)業(yè)。但在享受科技便利的同時，人工智能的潛在風險也被迅速放大。”