程序員問答平臺 Stack Overflow 版主罷工,抗議公司允許 AI 生成內容涌入網站
6 月 7 日消息,Stack Overflow 是一個由 Stack Exchange 運營的知名軟件開發者論壇,用戶可以在上面提問和回答各種編程問題。
版主們在一封公開信中寫道:“Stack Overflow 公司已經下令禁止對 AI 生成的內容進行任何審查…… 默認允許在 Stack Exchange 網絡上出現不正確的信息(‘幻覺’)和肆無忌憚的剽竊。這對平臺和其內容的完整性和可信度構成了重大威脅。為了抗議這個以及其他一些近期和即將到來的政策和平臺變化,我們決定立即在 Stack Overflow 和 Stack Exchange 網絡上發起一場全面的版主罷工。”
該政策于 5 月底實施,要求版主停止僅僅因為內容是由 AI 生成而進行審查。然而,版主們認為,如果不對 AI 生成的內容進行適當的管理,Stack Exchange 網站上的信息質量和準確性將會迅速下降。
版主們在 Meta Stack Exchange 上發表了一篇文章,進一步解釋了他們的訴求。文章中寫道,“AI 聊天機器人就像鸚鵡,例如,ChatGPT 并不理解它給你的回答;它只是根據給定的提示和它能夠訪問的信息來復述看起來合理的句子。它無法驗證它提供給你的回答是否準確。ChatGPT 不是一個作家、一個程序員、一個科學家、一個物理學家,或者我們網站所依賴的任何其他類型的專家。當被詢問時,它只是根據它所接受的訓練來拼湊單詞。它不明白自己在說什么。”
文章還稱,“這會允許用戶在不理解自己說什么的情況下復述 ChatGPT 的回答,這違背了我們網站的目標:成為一個高質量問答內容的庫。”
版主們稱另一個問題是,公司在制定這一政策時缺乏透明度。他們在文章中寫道,去年 12 月,網站實施了一個臨時政策,禁止所有 ChatGPT 的使用,因為它“普遍不準確”,并且違反了網站的引用要求。這一政策得到了志愿版主和 Stack Exchange 員工的支持,并導致了許多帖子被刪除和用戶被封禁。
然而,在 5 月 29 日,版主們寫道,公司私下實施了一項新政策,要求“立即停止因為 AI 生成的內容而對用戶進行封禁,并且停止僅僅基于這一原因而對 AI 生成的內容進行管理。”第二天,公開發布了一個稍有不同的政策版本,沒有包含要求版主停止限制所有 AI 內容的語言。
“新政策推翻了社區已經達成的共識,沒有與任何社區成員進行討論,對版主和公眾都進行了誤導性的宣傳,并且是基于未經審查和無法審查的數據分析得出的毫無根據的說法,”Meta Stack Exchange 的文章寫道。
版主們還要求公司對網站的非 AI 相關的問題進行改進。“這次罷工也在很大程度上是關于 Stack Exchange 公司最近表現出來的一種行為模式,”文章寫道,“公司再次無視了社區的需求和已有的共識,而是把重點放在了商業轉型上,犧牲了自己的社區經理。”他們列舉的一個例子是網站的聊天功能,他們說這個功能已經過時了,但是多年來一直被忽視。
IT之家之家注意到,這次罷工是針對 AI 生成內容涌入在線網站的首個重大行動,其他論壇上的版主也有類似的擔憂。Reddit 上的一些版主已經為大量 AI 生成的帶有錯誤信息的帖子做好了準備。一位不愿透露姓名的 Reddit 版主告訴 Motherboard,Reddit 上由 ChatGPT 驅動的機器人問題“相當嚴重”,并且已經有幾百個賬號被手動從網站上刪除,因為 Reddit 的自動系統難以應對 AI 生成的內容。
版主們希望公司撤回并修改 AI 政策,解決公開和私下版本之間的不一致問題,并為此道歉。Stack Overflow 社區副總裁 Philippe Beaudette 在一份聲明中告訴 Motherboard 說,“Stack Overflow 網絡上有一小部分版主(11%)已經停止參與一些活動,包括管理內容。這次行動的主要原因是對我們在 AI 生成內容檢測工具方面的立場不滿。Stack Overflow 進行了一項分析,發現版主之前使用過的 ChatGPT 檢測工具有驚人高的誤報率。”版主們在文章中寫道,他們知道檢測工具存在問題。“我們堅持我們要求版主停止使用之前工具的決定,”Beaudette 繼續說,“我們相信我們會找到一個前進的道路。我們遺憾事態發展到了這一步,社區管理團隊正在評估當前情況,同時努力在短期內穩定局面。”