有了它，媽媽再也不用擔心我蹺課、發(fā)呆、玩手機了...
近日，中國藥科大學在教室試點安裝人臉識別系統(tǒng)，除了能自動識別學生的出勤情況外，還能夠實現(xiàn)對學生課堂聽講情況的全程監(jiān)控。校方認為這是在督促學習，網(wǎng)友卻不買賬，你怎么看?
上學時害怕老師的火眼金睛，現(xiàn)在人臉識別教室來了。近日，位于江蘇南京的中國藥科大學被推到了輿論風口浪尖，原因就是在教室使用人臉識別系統(tǒng)。
蹺課、玩手機都逃不過它的“法眼”，“人臉識別教室”來了
據(jù)報道，中國藥科大學在兩間教室試點安裝的人臉識別系統(tǒng)，除了能自動識別學生的出勤情況外，還能夠實現(xiàn)對學生課堂聽講情況的全程監(jiān)控。
學生是否認真聽講、課堂上是否抬頭低頭、抬頭低頭了幾次、抬頭低頭了多長時間、低頭是否在玩手機、是否閉眼打瞌睡……都逃不過這個人臉識別系統(tǒng)的“法眼”。
中國藥科大學圖書與信息中心主任許建真表示：傳統(tǒng)點名浪費時間、準確率不高，但是有人臉識別就沒問題了。
據(jù)悉，此舉是學校教務部門的要求，意在減少學生逃課、早退、花錢找人代課以及上課不認真聽講等行為，提高學生到課率，嚴肅課堂紀律。
然而，也有一些學生認為這樣做會侵犯個人隱私。
“為了(敦促)你學習，你還抱怨，請問你還是學生嗎?”對于教室安裝人臉識別系統(tǒng)侵犯學生隱私的說法，許建真表示，學校之前已向公安部門和法務部門咨詢，由于教室屬于公開場所，因此不存在“侵犯隱私”的說法。
除了教室，中國藥科大學在校門口、學生宿舍大門口、圖書館、實驗樓等場所均安裝了人臉識別門禁。
人臉識別教室引發(fā)微博網(wǎng)友熱議，大部分網(wǎng)友表示反對，認為這侵犯了學生隱私，不過一些人表示支持。
這位本校生表示自己沒覺得隱私受到侵犯。
這位網(wǎng)友認為刷臉進出相對安全，對學生來說是好事。
這位藥大學生認為沒什么，刷臉進門挺方便。人臉識別教室只是一兩個在試用，也沒說都裝。
孩子的微笑都要被監(jiān)控?上海小學用 AI 評估學生上課
在教室裝攝像頭并不是什么新鮮事，但教室采用人臉識別技術分析學生的上課情況還是最近才開始的。
上個月，上海中醫(yī)藥大學附屬閔行薔薇小學將人臉識別帶入校園，通過智能課堂評價系統(tǒng)、智能環(huán)境分析與控制系統(tǒng)和智能教師培訓系統(tǒng)這三套“AI+學校”系統(tǒng)，對學生和教師進行監(jiān)控。此舉同樣引發(fā)了不小的爭議。
根據(jù)宣傳，進入教室的這套“智能課堂評價系統(tǒng)”可以在真實課堂的樣本數(shù)據(jù)基礎上，實現(xiàn)對師生行為與情感的自動檢測，通過智能算法分析，給出基于課堂表現(xiàn)的評價和改進建議。
針對學生，系統(tǒng)可自動檢測到學生舉手、站立、坐姿不端等行為，通過記錄分析形成對課堂效果的總體評價?？梢哉f和南京高校使用的“人臉識別教室”有“異曲同工之妙”。
據(jù)悉，使用了這套系統(tǒng)后，學生在日常生活中有無微笑、有無跟老師問好、有無主動撿垃圾、隊列是否整齊等細節(jié)都會被 AI 捕捉，反饋到總控中心。
根據(jù)“中國新聞周刊”的報道，一位上海某小學二年級學生的家長何女士聽聞此消息后，立刻致電相關部門問詢，她認為 AI 進入小學，必須通知家長，并且需要家長的聯(lián)名同意，“這件事如果有一個家長反對，學校就不該實施。”她認為，“給學校裝 AI，家長必須簽字。”
不過，也有人表示支持，因為這樣可以預防危險發(fā)生、降低校園霸凌、提高教學質量。
瑞典一所高中用人臉識別監(jiān)測學生出勤，被控違反隱私法挨罰 15 萬
人臉識別走入教室并非中國獨有，近日，瑞典一所高中用人臉識別監(jiān)測學生出勤，被罰款 20 萬瑞典克朗。此案引發(fā)了關于在教育機構中進一步應用AI技術問題的討論。
位于瑞典北部城市 Skellefteå 的一家當?shù)亟逃龣C構被瑞典數(shù)據(jù)保護局處以 20 萬瑞典克朗(約合人民幣 15 萬元)的罰款，因為該校通過面部識別技術來監(jiān)控高中生的出勤情況。
在該校的實驗計劃中，一共在三周時間內跟蹤監(jiān)測了 22 名學生的出勤情況，這些學生每次進入教室時都會錄制面部信息。
在這項測試任務進行之前，確實獲得了學生自己以及他們父母的許可。但是，瑞典數(shù)據(jù)保護局(DPA)的結論是，該計劃仍然違反了歐盟隱私法規(guī)“通用數(shù)據(jù)保護條例”(GDPR)的若干條款，因此會對非法收集數(shù)據(jù)的校方處以罰款。
“Skellefteå 的這所高中違反了數(shù)據(jù)保護條例的若干條款，因此我們對該校處以罰款。”DPA 總干事 Lena Lindgren Schelin 在一份聲明中說。
DPA 做出結論，面部識別技術侵犯了學生的隱私，同時強調，監(jiān)控學生出勤率可以采用不侵犯隱私的方式，使用一些不涉及攝像監(jiān)控的方法。
“面部識別技術尚處于起步階段，但發(fā)展很快。因此，我們非常需要明確可以適用于所有人的技術應用。“Schelin 解釋道。
Skellefteå 市政委員會的 Felicia Lundmark 強調，我們需要評估用于監(jiān)控出勤率的 AI 技術的未來，不僅是在 Skellefteå 市，而且是在整個瑞典來做這件事。
安德斯托普高中校長約根·馬爾姆對罰款的結果表示驚訝。“這個結果并不好。而且這個決定很有意思，因為我們處理信息的方式、以及如何在學校的環(huán)境下開發(fā)IT技術是一個很大的問題。”
參與這項實驗的學生哈里認為，罰款是“不公正的”。這是瑞典首次根據(jù) GDPR 實施罰款，該協(xié)議于去年生效，旨在加強包括面部圖像數(shù)據(jù)在內的個人數(shù)據(jù)和隱私保護。
技術的發(fā)展沒有邊界，但技術的使用必須有邊界
科技飛速發(fā)展，人臉識別作為人工智能的一個重要領域，已經(jīng)大量出現(xiàn)在我們的生活中，從手機解鎖到刷臉支付，甚至上下班都要用人臉識別打卡、進出……那么對于這項技術，我們需要有所敬畏嗎?
①美國多個城市禁用人臉識別，微軟刪除全球最大公開面部識別數(shù)據(jù)庫
西方國家似乎對于技術的使用更加保守。比如在美國，面部識別的推進就困難重重。今年 5 月，舊金山成為美國第一個禁止面部識別監(jiān)控的城市。
一個月后，美國國會兩黨在一場國會聽證會上正式討論了對執(zhí)法部門使用面部識別軟件所帶來的日益擔憂。
兩黨一致認為面部識別軟件有侵犯公民隱私權和抗議權的隱憂，尋求立法暫停此類工具的使用。
包括面部識別軟件專家在內的團隊認為，在更完善的監(jiān)管出臺或技術充分成熟之前，此類面部識別工具應由國家叫停。
國會兩黨共同提案，尋求立法對面部識別進行監(jiān)管
7 月，美國又一城市通過了禁止在公共場所使用面部識別軟件的法令，成為繼舊金山之后全美第二個禁止面部識別技術的城市。
新政策生效后，馬薩諸塞州的薩默維爾市各機構、分局或下屬部門，均不得在公共場所使用面部識別技術。
除了立法的監(jiān)管，科技巨頭在技術的使用上也需要謹慎。今年 6 月，微軟刪除了包含 1000 萬張人臉圖像的全球最大公開面部識別數(shù)據(jù)庫 MS Celeb。
該數(shù)據(jù)庫最初于 2016 年發(fā)布，被微軟描述為世界上最大的公開面部識別數(shù)據(jù)庫，并用于培訓全球科技公司和軍事研究人員的面部識別系統(tǒng)。
②史上最嚴數(shù)據(jù)保護條例，歐盟 GDPR 最高開出 2 億美元罰單
《通用數(shù)據(jù)保護條例》(General Data Protection Regulation，GDPR)是在歐盟法律中對所有歐盟個人關于數(shù)據(jù)保護和隱私的規(guī)范，涉及了歐洲境外的個人資料出口。
GDPR 主要目標為取回公民以及住民對于個人資料的控制，以及為了國際商務而簡化在歐盟內的統(tǒng)一規(guī)范。
GDPR 取代了歐盟在 1995 年推出的歐盟個人資料《數(shù)據(jù)保護指令》(Data Protection Directive)，該條例包含有關處理歐盟內部數(shù)據(jù)主體的個人可識別資訊的條款和要求，適用于與歐洲做生意的所有企業(yè)。
本法案在 2016 年 4 月 27 日通過，緩沖期為兩年，于 2018 年 5 月 25 日起強制執(zhí)行。
截至目前，歐盟各國以及英國已經(jīng)根據(jù) GDPR 對多個企業(yè)進行了處罰，其中罰款額度最高的超過 2 億美元，被處罰的企業(yè)涉及各個行業(yè)。
2019 年 7 月 8 日，英國監(jiān)管機構信息委員會辦公室(ICO)決定對英國航空公司做出高達 1.83 億英鎊的罰款，原因是該公司的大量用戶信息被轉移至欺詐網(wǎng)站上，攻擊者通過虛假的英國航空公司網(wǎng)站收集了大約 50 萬乘客的個人信息。
此次信息泄露已經(jīng)持續(xù)了一年有余，航空公司方面負有不可推卸的安全責任。
其實我國也有相關的標準來規(guī)范數(shù)據(jù)保護的。2018 年 5 月 1 日，《信息安全技術個人信息安全規(guī)范》(GB/T 35273—2017)，其中明確規(guī)定：
收集個人信息前，應向個人信息主體明確告知所提供產(chǎn)品或服務的不同業(yè)務功能分別收集的個人信息類型，以及收集、使用個人信息的規(guī)則(例如收集和使用個人信息的目的、收集方式和頻率、存放地域、存儲期限、自身的數(shù)據(jù)安全能力、對外共享、轉讓、公開披露的有關情況等)，并獲得個人信息主體的授權同意。
有規(guī)范是第一步，具體的落實需要各方共同的努力。最近 AI 換臉應用“ZAO”一夜爆紅被推到輿論風暴的中心再次印證了大家對于隱私保護的擔憂。
在這個 AI 時代，如何權衡技術的發(fā)展與隱私的保護是值得我們深思的問題。
