上周末，有外媒報(bào)道稱，字節(jié)跳動(dòng)在使用 OpenAI 技術(shù)開(kāi)發(fā)自有大語(yǔ)言模型時(shí)，因違反 OpenAI 服務(wù)條款從而遭賬號(hào)禁用。

據(jù) The Verge 報(bào)道，字節(jié)跳動(dòng)內(nèi)部正在研發(fā)的大語(yǔ)言模型項(xiàng)目名為「種子計(jì)劃」（Project Seed）。

由于訓(xùn)練大模型需要大量問(wèn)答知識(shí)，該項(xiàng)目被曝出一直在秘密使用 OpenAI 的技術(shù)來(lái)充實(shí)數(shù)據(jù)集。

在大模型領(lǐng)域，利用其他 AI 生成的內(nèi)容用于訓(xùn)練的「取巧」行為雖然并不少見(jiàn)，但經(jīng)常會(huì)被認(rèn)為是一種超出底線的行為。在 ChatGPT 上，濫用 AI 生成的數(shù)據(jù)直接違反了 OpenAI 的服務(wù)條款，其規(guī)定其模型輸出不能用于「開(kāi)發(fā)任何與我們的產(chǎn)品和服務(wù)競(jìng)爭(zhēng)的人工智能模型」。

在 11 月 14 日 OpenAI 對(duì)于 ChatGPT、DALL?E 的條款更新中還規(guī)定了用戶：

• 不得進(jìn)行逆向工程、反編譯或參與模型提取或竊取，包括模型和系統(tǒng)；
• 不得以自動(dòng)或程序的方式提取生成內(nèi)容；
• 不得把 ChatGPT 生成的內(nèi)容偽裝成人類生產(chǎn)的內(nèi)容。

OpenAI 對(duì)于違規(guī)用戶的處理辦法就是在通知后終止服務(wù)。

完整協(xié)議：https://openai.com/policies/business-terms

那么，字節(jié)跳動(dòng)「種子計(jì)劃」的具體內(nèi)容以及如何被懷疑違反 OpenAI 使用條款的呢？

根據(jù) The Verge 獲得的內(nèi)部文件消息，字節(jié)跳動(dòng)更多是在「種子計(jì)劃」的早期使用 OpenAI 的技術(shù)，并在大約幾個(gè)月前指示該團(tuán)隊(duì)在模型開(kāi)發(fā)的任何階段停止使用 GPT 生成的文本。大約同一時(shí)期，字節(jié)跳動(dòng)發(fā)布了自有 AI 大模型豆包（Doubao）。

相關(guān)員工非常清楚自身的行為，并討論過(guò)如何通過(guò)「數(shù)據(jù)脫敏」方式來(lái)進(jìn)行規(guī)避。不過(guò)他們?nèi)匀唤?jīng)常達(dá)到 OpenAI API 的最大訪問(wèn)上限。

當(dāng)?shù)貢r(shí)間周五，OpenAI表示，字節(jié)跳動(dòng)的賬戶已被暫停使用。

OpenAI 發(fā)言人 Niko Felix 在給 The Verge 的一份聲明中表示，「所有 API 客戶都必須遵守 OpenAI 的使用條款，以確保我們的技術(shù)得到恰當(dāng)?shù)厥褂谩ｋm然字節(jié)跳動(dòng)對(duì)我們 API 的使用量很少，但在進(jìn)一步調(diào)查的同時(shí)，我們已經(jīng)暫停他們的賬戶。如果最終發(fā)現(xiàn)字節(jié)跳動(dòng)的使用不符合政策，則將要求他們進(jìn)行必要的更改或終止他們的賬戶。」

字節(jié)跳動(dòng)發(fā)言人 Jodi Seth 做出了回應(yīng)，否認(rèn)公司有任何不當(dāng)行為，并澄清獲得了使用 GPT API 的權(quán)限。

她表示，「字節(jié)跳動(dòng)已獲得微軟授權(quán)，可以使用 GPT API。GPT 生成的數(shù)據(jù)只在種子計(jì)劃早期開(kāi)發(fā)中用來(lái)注釋模型，并已于今年年中從字節(jié)跳動(dòng)的訓(xùn)練數(shù)據(jù)中移除了。我們使用 GPT 來(lái)支持非中國(guó)市場(chǎng)的產(chǎn)品和功能，而在中國(guó)市場(chǎng)使用我們自研的模型來(lái)支持豆包。」

圖源：https://the-decoder.com/openai-bans-tiktok-company-bytedance-from-chatgpt-due-to-possible-data-theft/

同時(shí)，微軟發(fā)言人 Frank Shaw 也發(fā)表了一份聲明，「像 Azure OpenAI 服務(wù)這樣的 AI 解決方案是我們有限訪問(wèn)框架的一部分，所有客戶必須申請(qǐng)并獲得微軟批準(zhǔn)后才能訪問(wèn)。我們制定標(biāo)準(zhǔn)并提供資源，幫助客戶負(fù)責(zé)任地使用這些技術(shù)，并遵守相關(guān)服務(wù)條款。我們還制定流程來(lái)檢測(cè)濫用行為，并在企業(yè)違反準(zhǔn)則時(shí)停止他們的訪問(wèn)權(quán)限。」

12 月 17 日，字節(jié)跳動(dòng)相關(guān)負(fù)責(zé)人回應(yīng)了機(jī)器之心的置評(píng)請(qǐng)求，稱公司在使用 OpenAI 相關(guān)服務(wù)時(shí)，強(qiáng)調(diào)要遵守其使用條款，其正與 OpenAI 聯(lián)系溝通，以澄清外部報(bào)道可能引發(fā)的誤解。

以下是字節(jié)跳動(dòng)對(duì)使用 OpenAI 服務(wù)相關(guān)情況的介紹：

1、今年年初，當(dāng)技術(shù)團(tuán)隊(duì)剛開(kāi)始進(jìn)行大模型的初期探索時(shí)，有部分工程師將 GPT 的 API 服務(wù)應(yīng)用于較小模型的實(shí)驗(yàn)性項(xiàng)目研究中。該模型僅為測(cè)試，沒(méi)有計(jì)劃上線，也從未對(duì)外使用。在 4 月公司引入 GPT API 調(diào)用規(guī)范檢查后，這種做法已經(jīng)停止。

2、早在今年 4 月，字節(jié)大模型團(tuán)隊(duì)已經(jīng)提出了明確的內(nèi)部要求，不得將 GPT 模型生成的數(shù)據(jù)添加到字節(jié)大模型的訓(xùn)練數(shù)據(jù)集，并培訓(xùn)工程師團(tuán)隊(duì)在使用 GPT 時(shí)遵守服務(wù)條款。

3、9 月，公司內(nèi)部又進(jìn)行了一輪檢查，采取措施進(jìn)一步保證對(duì) GPT 的 API 調(diào)用符合規(guī)范要求。例如分批次抽樣檢測(cè)模型訓(xùn)練數(shù)據(jù)與 GPT 的相似度，避免數(shù)據(jù)標(biāo)注人員私自使用 GPT。

4、未來(lái)幾天里，我們會(huì)再次全面檢查，以確保嚴(yán)格遵守相關(guān)服務(wù)的使用條款。

自 ChatGPT 出現(xiàn)以來(lái)，各大科技公司都在加緊研發(fā)能夠與之匹配的競(jìng)品，不過(guò)由于面向 C 端和海外市場(chǎng)，面臨更多技術(shù)和法規(guī)等方面挑戰(zhàn)，字節(jié)對(duì)于大模型的宣傳相對(duì)低調(diào)。在今年 6 月，火山引擎發(fā)布了大模型平臺(tái)火山方舟，8 月份，字節(jié)自研大模型「云雀」通過(guò)備案，開(kāi)啟了 AI 對(duì)話產(chǎn)品「豆包」的對(duì)外測(cè)試。

在技術(shù)和落地應(yīng)用等方面，今年的生成式 AI 可謂有了飛躍式的進(jìn)步，但在安全和隱私保護(hù)等問(wèn)題上，目前人們?nèi)匀淮嬖谝恍┮蓱]。