[[320546]]

人工智能技術具有正、反兩方面的作用，在造福于人類的同時，也存在各種風險。理論上可能存在以下四種風險。

技術失控。技術失控指的是技術的發展超越了人類的控制能力，甚至人類被技術控制，這是很多人最為擔憂的風險。現有人工智能技術僅在滿足強封閉性準則的條件下，才可發揮其強大功能；在非封閉的場景中，現有人工智能技術的能力遠遠不如人類，而現實世界的大部分場景是非封閉的。所以，目前不存在技術失控風險。

技術誤用。與信息技術相關的技術誤用包括數據隱私問題、安全性問題和公平性問題等，人工智能技術的應用可以放大這些問題的嚴重程度，也可能產生新的技術誤用類型。在現有條件下，人工智能技術本身是中性的，是否出現誤用完全取決于技術的使用。因此，對人工智能技術誤用的重視和風險防范應提上議事日程。

應用風險。應用風險指的是技術應用導致負面社會后果的可能性。目前人們最擔心的是人工智能在某些行業中的普遍應用導致工作崗位的大量減少。應用風險是由技術的應用引起的，因此關鍵在于對應用的掌控。根據強封閉性準則，人工智能技術在實體經濟中的應用往往需要借助于場景改造，而場景改造完全處于人類的控制之下，做多做少取決于相關的產業決策。

管理失誤。人工智能是一項新技術，它的應用是一項新事物，社會缺乏管理經驗，容易陷入“一管就死，一放就亂”的局面。為此，更需要深入理解人工智能現有成果的技術本質和技術條件，確保監管措施的針對性、有效性。

目前對人工智能存在三種認識誤區：

一是人工智能已經無所不能，因此現有人工智能技術可以無條件地應用。根據強封閉性準則，現有人工智能技術遠未達到無所不能的程度，應用是有條件的。因此，在產業應用中亟須加強對強封閉性準則的認識，加強場景裁剪和場景改造，避免違反強封閉性準則的盲目應用，而這種盲目目前在國內外都十分普遍，不僅浪費資源，更嚴重的是干擾了有希望成功的應用。

二是現有人工智能技術不能大規模實際應用，因為現有人工智能技術依賴于人工標注，并不智能。現有人工智能技術并不局限于深度學習，而暴力法和訓練法的結合可以避免人工標注，而且符合強封閉性準則的應用場景可以有效地實施數據采集和人工標注。目前一些應用不成功的原因在于違反了強封閉性準則，而不是因為現有人工智能技術不能應用。這個誤區往往發生在對人工智能技術有一定了解而認識不到位的情況下。與第一種誤區一樣，這種誤解會嚴重影響我國人工智能產業應用的進度。

三是在未來20年—30年內，人工智能技術發展將超越某個臨界點，之后人工智能將不受人類控制自由發展。根據強封閉性準則和全球人工智能研究現狀，這種“奇點說”在技術范圍內沒有任何科學依據。封閉性準則包含的一些條件，如模型的語義完全性、代表性數據集的有限確定性，通常需要借助于強封閉性準則要求的人工措施的輔助才可以滿足。假想未來有可能突破這些限制，與人工智能目前已具備突破這些限制的能力，完全是兩回事。即使將來突破了某種限制，還會有新的限制加以約束。這一類說法無形中假定，可以存在脫離具體條件的人工智能技術。這種技術是否可能存在，目前并沒有任何科學證據的支持，有待于未來的觀察和研判。

以上三種誤區是我國人工智能發展的主要思想障礙。封閉性和強封閉性準則立足于現有人工智能技術本質，為消除這些誤區提供了依據，也為觀察、思考和研究人工智能發展的其他問題，避免重復以往人為放大“周期性起伏”的干擾，提供了一種新的視角。