人工智能進校園,恐過度“發揮”觸及孩子們的隱私底線,傷及自尊
近日,準備赴港上市的AI巨頭曠視科技引發爭議。在其發布的場景演示視頻中,身處教室的學生們正被AI系統所監控,每一個學生的睡覺、舉手、閱讀等動作都將被捕捉,并成為衡量他們在校表現的指標。一些輿論認為,曠視科技是在打著“校園安全”的幌子,將孩子置于360度全透明的“監獄”中。
AI進校園,無疑有助于提升學校的教育管理水平,提高學生的學習效果,但人們也擔心,AI在賦能校園的同時,是否會因其過度“發揮”而觸及孩子們的隱私底線,傷及自尊?
作為國內的AI“獨角獸”,曠視科技在陷入風波后快速做出了回應,稱該場景只是技術的概念化演示,目前公司的人臉識別主要還是用于智能校門、教室門及宿舍的出入,方便學生安全出入校園。
記者也了解到,AI與校園結合而產生的“智慧校園”概念,當前主要應用在學校管理、教學管理以及學生學習等方面,有助于學校管理的降本增效。
已經布局該業務的科大訊飛一位相關負責人就告訴記者,公司在“智慧校園”領域重點打造了“智慧課堂”產品,這款產品是利用AI等智能信息技術打造智能、高效的課堂,通過構建“云、臺、端”整體架構,創設網絡化、數據化、交互化、智能化學習環境,真正實現個性化學習和因材施教。
“事實證明,智慧課堂的應用對學生有很大幫助。”連云港某中學年級主任王老師帶著兩個智慧課堂班級,每次考試后他都會自己制圖制表對比使用數據,他告訴記者,“這兩個班是10個理科平行班中的普通班,高二分班時一個在年級平均分之上,一個在之下,成績中等。智慧課堂應用一個半學期后,期中考試兩個班都比年級平均分高了5分以上。”
而在國家級貧困縣河北蔚縣的一所農村中學里,“智慧校園”還幫助學校解決了生源流失的難題。據該校校長吳利軍介紹,在生源素質明顯下降與年輕教師出走的情況下,學校開設了兩個智慧課堂實驗班。一個學期后,學校對全部科目進行數據分析,兩個實驗班的平均分高于平行班72%、及格率高于68%、優秀率更是高于72.5%,各學科的名次與總成績名次均居前列。“出了成績后,很多家長要將孩子送來讀書,并且主動要求‘加錢’上實驗班,其實智慧課堂不會對學生另收費,但是家長與社會的支持,讓我們有信心堅持發展‘智慧校園’。”吳利軍表示。
智慧校園市場千億“蛋糕”待分享
“智慧校園”所具備的切實有效和擁有廣泛群眾基礎的特點,使得其市場規模正在急劇擴大。獵豹全球智庫分析師李欣告訴記者,今年4月,教育部發布的2018年全國教育經費總投入為4.6萬億元,按照此前要求的比例下限8%估算,預計我國在教育信息化上的投入能達到3600億元。而智慧校園是教育信息化的重要組成部分,這也意味著,按照最保守的規模估計,智慧校園將是一個千億級別的市場。
“蛋糕很大,但是反觀校園市場,包括信息化建設在內的效率提升仍然處于初級階段。”李欣認為,語音、人臉、個性化推薦等AI技術的出現,給了眾多企業進入校園的機會。于是,包括AI為代表的科技新興企業、現代化的教育培訓公司以及互聯網巨頭三股勢力紛紛“殺進”智慧校園,大家“玩法”不盡相同,主要切入點有智能教室、考勤安防、智慧教學、智慧考試、家校互動等方面。
而在這一輪“三國殺”中,也不乏江蘇企業的身影,上市公司蘇州科達就是其中的佼佼者。據蘇州科達科技教育事業部總經理彭濤介紹,公司早在2015年就提出“走進機器識圖時代”,在教育領域也一直在探究能實際落地的AI應用。目前,公司已推出了多種面向不同場景的AI應用,如人臉無感點名,到勤率、前排就座率、抬頭率等“三率分析”,人員導流,在線可視化督導,教學場景智能攝錄等。
彭濤還表示,在越來越多“玩家”涌入后,智慧校園已擁有眾多新功能,比如錄播系統、跨校遠程互動、在線教學督導等等。不過,這些新科技在進入校園時還應解決一個“痛點”,那就是避免重復建設、打破信息孤島。為此,蘇州科達所有前端設備均可以共用,后臺系統可以復用和無縫對接。比如,一間教室只需安裝2個攝像機,就可以實現電子巡考、遠程互動教學、教學督導、日常安保等諸多應用。
人工智能當守尊重隱私的底線
智慧校園在資本的推進下不斷進步,但就像曠視科技帶來的爭議一樣,更多人擔憂,在技術和技術巨頭的包裹下,包括孩子在內的每個人,都可能成為毫無隱私的“透明人”。AI的倫理規范,因此被提上日程。
就在今年6月,科技部發布了《新一代人工智能治理原則》,《治理原則》旨在更好協調人工智能發展與治理的關系,確保人工智能安全可控可靠,推動經濟、社會及生態可持續發展,共建人類命運共同體。《治理原則》還突出了發展負責任的人工智能這一主題,強調了和諧友好、公平公正、包容共享、尊重隱私等八條原則。
對于上述原則,科大訊飛董事長劉慶峰認為,在保護用戶隱私方面,不僅法律要同步跟上,企業也要有更強的保護意識,現在已經有很多服務涉及老百姓的日常生活。因此,領軍企業要做到表率作用,不僅僅是向用戶進行告知,還包括價值觀層面的指引。另外,目前很多數據都是在用戶不知情的情況下被企業拿走。“從技術層面看,我們應該通過人工智能技術的發展給予用戶更多的選擇權,例如科大訊飛的翻譯機,考慮到機密信息可能泄露,公司在設計產品的時候就做了離線翻譯的版本,這是非常必要的。”

彭濤也告訴記者,蘇州科達一直強調對師生隱私和倫理道德的尊重,“我們認為在教育領域,AI應該是有溫度的,AI應該是學校管理、教師教學的輔助工具,而不是替代者。”
李欣則表示,這些倫理原則看上去“虛無縹緲”,但依然吸引眾多AI“玩家”參與其中,是因為其需要抓緊參與到這個新興技術制定游戲規則的未定之局中來,從而獲得更大的行業話語權,這其實是在構建更高層次商業壁壘和核心競爭力,考慮到國外巨頭起步更早,中國企業更應及時推行“科技向善”。