?ChatGPT

ChatGPT是OpenAI 2022年11月推出的交互式自然語(yǔ)言對(duì)話模型。OpenAI使用RLHF（從人類反饋中進(jìn)行強(qiáng)化學(xué)習(xí)）來(lái)訓(xùn)練ChatGPT，與InstructGPT使用的方法相同，但數(shù)據(jù)收集設(shè)置時(shí)有明顯的差別。在訓(xùn)練初始模型時(shí)使用有監(jiān)督調(diào)整（參）：人類AI訓(xùn)練器提供的會(huì)話。訓(xùn)練員有訪問(wèn)模型建議的權(quán)限以幫助訓(xùn)練器更好地完成響應(yīng)。然后將新生成的會(huì)話數(shù)據(jù)集與InstructGPT數(shù)據(jù)集混合，形成對(duì)話格式。

ChatGPT發(fā)布后在業(yè)界引發(fā)了震動(dòng)，隨后給各方廣泛試用，其中就包括學(xué)生。有學(xué)生試用ChatGPT來(lái)寫論文、作業(yè)和編寫程序，并且老師很難分辨論文、作業(yè)和編寫的程序是否是由學(xué)生自己完成的。此外，還出現(xiàn)了很多署名ChatGPT的待發(fā)表論文。

為應(yīng)對(duì)這一問(wèn)題，全球?qū)W校紛紛采取措施，比如禁用該平臺(tái)。根據(jù)BusinessInsider的數(shù)據(jù)，ChatGPT目前已被紐約、西雅圖、洛杉磯等地的初高中禁用，法國(guó)和印度的大學(xué)計(jì)算機(jī)也禁用了該平臺(tái)。

ChatGPT檢測(cè)工具

1月31日，OpenAI 宣布推出人工智能文本分類器，旨在檢測(cè)輸入內(nèi)容是否是由ChatGPT這樣的人工智能工具生成的。

OpenAI稱其分類器并不完全可靠。在英文文本測(cè)試時(shí)，分類器正確識(shí)別了26%人工智能生成的文本，約9%人類寫出的內(nèi)容錯(cuò)誤標(biāo)記為人工智能生成的。隨著輸入文本長(zhǎng)度的增加，分類器的性能有所提高。與之前其他分類器相比，該分類器的準(zhǔn)確率高于其他檢測(cè)分類器。

分類器試用地址：http://platform.openai.com/ai-text-classifier

OpenAI稱由于結(jié)果并不完全可靠，因此不建議將該工具用作決策，而是作為其他檢測(cè)工具和方法的補(bǔ)充。

 ChatGPT試用地址：https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text

本文翻譯自：https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-written-text/