大模型“投毒”實習生起訴已受理:索賠800萬!公開道歉!知情人:曾報警稱自己被誣陷 原創
編輯 | 伊風
出品 | 51CTO技術棧(微信號:blog51cto)
沒想到,鬧得紛紛揚揚的字節實習生大模型「投毒」事件,竟然等來了后續!
據媒體報道,北京市海淀區人民法院已正式受理字節跳動對前實習生田某某的起訴!
田某某篡改代碼的代價相當慘重。字節跳動的訴求是:法院判令田某某賠償侵權損失800萬元及合理支出2萬元,同時要求其公開賠禮道歉。
這個實習生到底闖了多大的禍,讓字節跳動沒有咽下這口氣,而是選擇高調起訴、殺一儆百。
簡而言之,他因為團隊資源分配問題產出不滿,便選擇報復公司。以一己之力篡改代碼,讓整個團隊一個月的模型訓練“白干了”。
咋做到的呢?這人不僅技術夠硬,還懂點潛伏:
“利用huggingface的load ckpt函數的漏洞注入代碼,動態修改別人的optimer隨機sleep一小段時間,以及修改參數梯度的方向,而且他還加了個條件,只有256卡以上的任務才會觸發這個條件,問題是他還潛伏在集群debug群里,查到啥就改啥,極致攻防。”
圖片
在字節跳動發布的澄清中,這事雖然沒有損失8000多卡、上千萬美元這么夸張。
圖片
但也是實習生能捅出的“摩天大簍”了。
1.事件時間線回顧:對資源分配的不滿終釀成大禍
2024年6月至7月
事件發生:字節跳動的一名實習生田某某因對團隊資源分配不滿,通過編寫、篡改代碼等形式惡意攻擊團隊研究項目的模型訓練任務,造成資源損耗。
2024年8月
實習生被辭退:字節跳動與涉事實習生解除實習協議,并將其行為同步給所在學校和行業聯盟。
2024年10月
有人在社媒爆料,并被媒體進一步報道:稱“字節大模型訓練任務被實習生攻擊”,并有網傳信息稱“涉及8000多卡、損失上千萬美元”。
字節跳動澄清:字節跳動通過官方賬號發布事實澄清,稱確有實習生發生嚴重違紀,涉事實習生已于2024年8月被公司辭退。同時指出,相關報道存在部分夸大及失實信息:受影響的是公司商業化技術團隊某研究項目的模型訓練任務,不影響公司正式項目及線上業務,且“涉及8000多張卡、損失上千萬美元”的傳聞屬嚴重夸大。
2024年11月5日
內部通報:字節跳動發布面向內部全員的《企業紀律與職業道德委員會通報》,對該事件進行披露。
2024年11月27日
法院受理案件:北京市海淀區人民法院正式受理字節跳動對前實習生田某某的起訴。
索賠要求:字節跳動請求法院判令田某某賠償公司侵權損失800萬元及合理支出2萬元,并公開賠禮道歉。
2.插曲:高才實習生拒不認錯,字節跳動忍無可忍
字節跳動發生的這樁大模型投毒案令人唏噓。據悉,田某某本科畢業于北京航空航天大學軟件學院,研究生就讀于北京大學,研究興趣為深度學習的優化與算法。
他有著過硬的技術實力,卻沒有用在有價值的產出上,反而走向了攻擊訓練成果、報復公司的歧途。
他“抽象”的行為也被很多網友熱議。在事情曝光后,他沒有承認錯誤,而是稱被人誣陷,甚至報警稱遭到了造謠。
這種惡劣的態度,也給了自己一記回旋鏢。
字節跳動內部人士表示,考慮到田某某完全沒有意識到錯誤,且涉事行為已觸犯公司安全紅線,公司最終決定向法院起訴,以表明公司嚴肅態度、杜絕類似事件再次發生。
3.寫在最后:大模型“投毒案”如何“殺一儆百”
800萬的天價數字,是字節跳動希望引起社會關注的籌碼。
但作為一個在讀博士,田某某 800 萬的賠償一旦判下,將是沉重的負擔。此外,田某某的工作生涯可能受到巨大的影響,對于用人單位來說,職業道德的缺陷比工作能力不足更難補全。
不過,法院將如何判決,最終結果可能需要數月的等待。
回到案件,實習生捅出的大簍子,讓很多人驚訝于字節給實習生的權限之高,也揭示了成熟的科技巨頭所存在的管理漏洞。案件能警示更多技術團隊,完善制度(權限分級、代碼審查、日志追蹤),在提供實習生成長機會和保障核心資源安全取得平衡。
同時,因為感到資源分配的不公,就決定給公司帶來毀滅打擊的田某某,折射了常見的職場競爭問題,和與之帶來的浮躁情緒。
企業和個體共同反思、改進,比單純的懲罰更有意義。多一點心平氣和,鼓勵合規且有效的方式表達不滿,不讓技術再次走向歧途。
?本文轉載自??51CTO技術棧??,作者:伊風
