人工智能（Artificial Intelligence，AI）發軔于20世紀50年代，至今已經歷了三次發展浪潮，不管是實驗室階段還是大規模產業化階段，研究者們幾十年如一日不變的都是推進其技術的進步，希望機器真的有一天能具有一般人類智慧，執行全方位的人類認知能力。

近年來，為了讓AI更加健康發展，有一項技術領域正在成為產業界和學術界研究的重點：可信AI，即將人類社會的正面價值觀，通過技術賦予到人工智能上，包括可解釋、公平性、隱私保護和公平性。

從學術研究層面來說，可信AI主要是針對算法和系統層面的研究，包括安全性/魯棒性、可解釋性、隱私性、公平性、可審計性/問責性、環境保護。可解釋性包括學習方法或模型的理論可解釋、算法可解釋、行為可解釋；魯棒性主要針對模型穩定性研究、攻擊模型和防守模型；隱私保護指的是攻擊與保護方法直接的博弈，如差分隱私、多中心聯邦學習；公平性針對的是各種數據、模型的偏置研究，平等和公正的平衡；而環保指的是尋求高能效策略，更高能效的計算硬件。

與可信AI學術研究不同，企業更多是針對當下的問題，提出解決方案。如2015年，螞蟻集團啟動基于“端特征”的手機丟失風險研究項目，旨在用AI技術保護用戶的隱私安全。為了解決了AI中的公平性（Fairness），IBM于2018年開發了多個AI可信工具，在AI系統中采用不帶偏見的數據集和模型，從而避免對特定群體的不公平。產業界對可信AI的應用加更加苛刻，容錯率更高。很多可信AI白皮書提到，可信AI真正落地起來，需要放到生產流程里面，讓其成為一種機制，發揮技術的約束作用。

青年學生是重要的技術人才儲備。對于研究可信AI的青年學生來說，對從事可信AI怎么準備，在他們現在的學習和生活中，就應了解學術的前沿，以及業界最新技術趨勢，思考哪些技術可以應用到哪些問題上，主動觀察了解所處的世界，以及業界的需求痛點和技術瓶頸。比如，最近一檔可信AI實戰科技真人秀，就聯動了全國一些頂尖高校，通過可信AI在工業界“科技反詐”當中的應用，還原了可信AI技術在實際應用中的能力，把學術界和產業界正在做的事，通過大家都能理解的形式打通起來，讓技術從業者、技術研究者都深度參與其中。

做AI研究，“復雜度”是一個關鍵詞。環境復雜度、任務復雜度、系統復雜度決定了AI的水平。對它的研究可以揭示AI產生原理，也可以回答AI的終極問題，即對人類命運的最終影響。未來可信AI研究，也要從復雜度分析來看AI為人類帶來的價值，更需要學界和產業界共同努力來推動。