GoUpSec點(diǎn)評(píng)：生成式人工智能已經(jīng)永久性地污染了人類的在線數(shù)字資產(chǎn)，如果說這是一次偉大工業(yè)革命的“必要代價(jià)”，那么，過于依賴人工智能導(dǎo)致的對(duì)人類（尤其是青少年）大腦和認(rèn)知思辨能力的損傷，則是比“食品安全”、“網(wǎng)絡(luò)安全”和“氣候安全”更加嚴(yán)重但又鮮為人知的威脅。麻省理工的“吹哨”研究，為我們探索合理發(fā)展和應(yīng)用人工智能技術(shù)提供了一個(gè)新的風(fēng)險(xiǎn)視角。

在AI狂飆突進(jìn)的今天，一個(gè)根本問題被重新擺上臺(tái)面：使用ChatGPT究竟是在“解放生產(chǎn)力”，還是在“摧毀思維力”？

麻省理工媒體實(shí)驗(yàn)室（MIT Media Lab）最近發(fā)布了一項(xiàng)引發(fā)爭(zhēng)議的研究。他們動(dòng)用了高密度腦電波EEG技術(shù)，對(duì)使用ChatGPT寫作的用戶進(jìn)行了實(shí)證追蹤。這是全球首份通過大腦掃描評(píng)估大語言模型（LLM）對(duì)人類認(rèn)知影響的公開論文。

結(jié)果很不樂觀。

實(shí)驗(yàn)怎么做的？

MIT研究團(tuán)隊(duì)以54名18到39歲的波士頓年輕人為樣本，將其分成三組，要求他們完成多輪SAT風(fēng)格的英文寫作任務(wù)。三組人分別使用：

• ChatGPT
• Google搜索引擎 
• 純靠大腦（無任何工具）

每篇寫作時(shí)間為20分鐘，腦電圖實(shí)時(shí)記錄大腦32個(gè)區(qū)域的活動(dòng)頻率，包括α、θ、δ等波段，這些波段直接關(guān)聯(lián)創(chuàng)造力、語義處理和工作記憶等能力。

ChatGPT組的“腦力滑坡”

相比其他兩組，使用ChatGPT的被試展現(xiàn)出顯著的“認(rèn)知萎縮”跡象：

• EEG數(shù)據(jù)顯示：神經(jīng)活動(dòng)明顯下降，尤其是在控制力（executive control）和注意力激活上；
• 行為層面：很多用戶在第三篇寫作中幾乎放棄思考，直接“全交給ChatGPT”；
• 語言層面：生成內(nèi)容高度同質(zhì)化，重復(fù)使用相似句式和結(jié)構(gòu)；
• 記憶測(cè)試：高達(dá)83%的參與者無法回憶起自己寫過的內(nèi)容。

兩位英語老師在評(píng)閱過程中也直言：“這些作文雖然語法通順，但毫無靈魂。”

腦力組和搜索組反而表現(xiàn)更好

相較之下，那些靠大腦獨(dú)立完成寫作的參與者展現(xiàn)出最強(qiáng)的腦神經(jīng)連接密度，尤其是在與語義加工和深層次創(chuàng)造有關(guān)的波段。

更有趣的是：搜索組也表現(xiàn)出較高的腦活躍度。說明“通過搜索加工信息”仍然刺激了思維，和“直接讓AI寫出來”是完全不同的認(rèn)知過程。

AI用法決定是“腦損傷”還是“思維倍增器”

MIT還設(shè)置了一個(gè)交叉測(cè)試：

• 讓ChatGPT組在最后一輪不用AI重寫自己的作文；
• 讓腦力組改用ChatGPT優(yōu)化他們之前的寫作。

結(jié)果一目了然：

• ChatGPT組腦電波更低、內(nèi)容記憶幾乎消失；
• 腦力組反而在使用AI優(yōu)化時(shí)展現(xiàn)出更高的神經(jīng)活動(dòng)。

這表明，AI并非洪水猛獸，只要使用得當(dāng)，AI不僅不會(huì)損傷認(rèn)知能力，還能成為“思維倍增器”。例如用于“提升已有思考”的過程，可以增強(qiáng)大腦的認(rèn)知連接。但如果AI被當(dāng)作“代替思考”的工具，后果將是思維退化。

青少年使用AI風(fēng)險(xiǎn)更高

MIT研究負(fù)責(zé)人Nataliya Kosmyna明確表示，她之所以不等到論文通過同行評(píng)審就提前公布數(shù)據(jù)，是因?yàn)椤癈hatGPT進(jìn)校園”這事已箭在弦上。

“我擔(dān)心再過六個(gè)月，就會(huì)有哪位政策制定者宣布搞‘GPT幼兒園’，那簡(jiǎn)直是認(rèn)知災(zāi)難。”

——Nataliya Kosmyna

她強(qiáng)調(diào)：青少年和兒童的大腦仍處于高塑性階段，長期依賴AI生成內(nèi)容，可能導(dǎo)致神經(jīng)連接退化，長期損害批判性思維和獨(dú)立學(xué)習(xí)能力。

兒童精神科醫(yī)生Zishan Khan也從臨床角度發(fā)出警告：

“LLM的過度依賴，正在削弱年輕人大腦中原本可以用于記憶、聯(lián)想和抗壓的神經(jīng)通道。”

這些神經(jīng)回路一旦長時(shí)間未被使用，就會(huì)退化，而孩子未來在面臨復(fù)雜問題時(shí)，或?qū)⑹ニ伎己徒鉀Q的能力。

AI會(huì)損傷程序員的大腦嗎？

除了寫作，編碼、藝術(shù)創(chuàng)作領(lǐng)域的生成式AI工具對(duì)人腦的影響也不樂觀。MIT團(tuán)隊(duì)正在進(jìn)行另一項(xiàng)研究：“程序員在AI輔助下的腦神經(jīng)活動(dòng)”，目前研究結(jié)果比寫作更糟糕。他們發(fā)現(xiàn)，大量使用AI輔助編碼，雖短期效率上升，但長期可能導(dǎo)致解決問題能力和代碼結(jié)構(gòu)思維能力下降。

這對(duì)很多正考慮用AI“替代初級(jí)程序員”的企業(yè)來說，值得深思。

諷刺一幕：研究發(fā)布后被網(wǎng)友用LLM總結(jié)……

更諷刺的是：這篇呼吁人類不要過于依賴LLM的研究，被大量網(wǎng)友直接喂給ChatGPT進(jìn)行總結(jié)。Kosmyna早有預(yù)料，甚至特意在論文中放了“語言陷阱”——指示模型只看某一張表格，結(jié)果大量AI總結(jié)失真，甚至臆造了模型版本（GPT-4o），論文中根本沒提。

參考鏈接：

https://www.media.mit.edu/publications/your-brain-on-chatgpt/