利用AI編造「火車撞人」假新聞！中國首例ChatGPT犯罪，東莞男子或面臨5年監禁
大數據文摘出品
作者：Caleb
4月25日，根據百家號上的一篇報道稱，甘肅省一列火車撞上公路工人，造成9人死亡。
警方對此立即展開調查，發現在平臺上，共有21個賬號同時發布了不同版本的文章，涉及不同的事故地點，包括平涼市崆峒區、蘭州、隴南、定西、慶陽等地。
荷蘭一列載有乘客的火車周二在海牙附近撞上一臺起重機并脫軌，造成至少一名工人死亡，約30人受傷，這是該國多年來最嚴重的鐵路事故。
相關報道迅速得到關注，短時間內獲得了超過15,000次點擊。
細想下，同時多地發生相似的事故？這也太過巧合了。
事實證明，這些報道確實是假新聞。
中國公安局網安大隊調查后發現，發布報道的帳號都隸屬于廣東深圳一間自媒體公司。
5月5日，警方前往廣東該名嫌疑人住處進行取證，審訊后發現，洪姓男子先搜尋了近年來中國討論度廣泛的社會新聞，隨后利用ChatGPT將特定元素例如時間、地點、日期或性別等進行修改，重新撰成一篇假新聞，藉由上傳這些文章讓帳號賺取流量再加以變現。
不僅如此，洪姓男子還利用ChatGPT制作了多個存在細小差距的假新聞版本，以避開百度旗下平臺的審查。
據了解，洪姓男子主要通過ChatGPT將收集到的新聞要素修改編輯后，上傳至其購買的百家號上非法獲利，目前案件正在進一步偵辦。
警方表示，洪姓男子編造假新聞并散布在網絡上供人大量瀏覽的行為，已涉嫌尋釁滋事罪，因此對其采取刑事強制措施，最高可判處五年有期徒刑。
首例因濫用人工智能而被捕的案件
這是中國因應人工智能發展，于今年1月起頒布《互聯網信息服務深度合成管理規定》后偵破的第一起事件。
“規定”旨在促進人工智能產業發展和防止技術濫用的法規規定，通過深度合成技術（deepfake）制作的合成視頻和照片必須明確標注，以防止公眾混淆。
該規定還涵蓋了deepfake提供者和用戶的責任，包括禁止使用該技術進行非法行為、建立審查制度和識別用戶信息。
最近，隨著ChatGPT的流行，中國在線搜索巨頭百度和其他科技公司也相繼推出了競品。
4月11日，中國國家互聯網信息辦公室（CAC）發布管理生成式AI服務的法規草案。據CAC稱，該法規預計將于今年某個時候生效。
ACA表示，國家支持人工智能自主創新和推廣應用，但相關產品或服務應符合法律法規要求，尊重社會公德和公共秩序，其中包括服務提供商接入、算法設計、訓練數據選擇、內容概括、用戶隱私和商業秘密等。
中國社會科學院大學法學院副教授劉曉春在接受采訪時表示，服務提供商有義務采取風險防范措施并響應監管要求。
規范化使用AI是一個全球性難題
利用ChatGPT這類AI來生成假新聞并非中國獨有，美國AI專家、社交媒體公司和政府官員同樣關注生成式AI傳播錯誤信息的可能性。
今年4月，美國共和黨發布了一個人工智能生成的視頻廣告，假想了拜登再次當選的情況下，將會引起美國與墨西哥邊境的大規模移民浪潮和舊金山文明崩潰。
雖然這則廣告被標記為“人工智能生成”，但過于逼真的圖像仍然很容易讓人們將其視為現實。Reddit上的Midjourney子版塊也有用戶舉例說明了文本到圖像生成器如何創建未發生過的歷史事件，比如“2001年卡斯卡迪亞9.1大地震和海嘯”。
除此之外，人權非營利組織Amnesty World分支機構Amnesty Norway在社交媒體賬戶上發布了人工智能生成的圖像，以此號召人們多多關注哥倫比亞全國罷工兩年。但這些圖像錯誤地描繪了哥倫比亞國旗，還用了假人代替了真正的抗議者。
隨著ChatGPT得到越來越多的關注和使用，國內的立法者也一直在努力起草管理公司如何開發人工智能的相關規定。擬議的法規包括不生成虛假信息，明確標記使用AI制作的內容，并確保用于訓練AI的數據不歧視種族、種族和性別。
但也可以想象，這是一項道阻且長的艱巨工作，還需要時間慢慢打磨。
相關報道：
