一位研究人員因在未經(jīng)導(dǎo)師同意的情況下收集課程材料來(lái)訓(xùn)練一個(gè)聊天機(jī)器人而受到批評(píng)，他聲稱這個(gè)機(jī)器人可以解決麻省理工學(xué)院計(jì)算機(jī)科學(xué)學(xué)位的作業(yè)和考試問(wèn)題。

這篇備受爭(zhēng)議的論文描述了在一個(gè)由這所精英大學(xué)設(shè)定的不同課程中獲得的4500個(gè)問(wèn)題數(shù)據(jù)集上對(duì)GPT-4進(jìn)行訓(xùn)練和測(cè)試。

論文的摘要聲稱：“我們?cè)u(píng)估了大型語(yǔ)言模型在數(shù)學(xué)和電氣工程與計(jì)算機(jī)科學(xué)等麻省理工學(xué)院設(shè)置的學(xué)科專業(yè)的畢業(yè)要求上的能力。我們的研究結(jié)果表明，GPT-3.5成功學(xué)習(xí)了麻省理工學(xué)院三分之一的課程并達(dá)到畢業(yè)要求，而GPT-4在排除由于圖像導(dǎo)致的一些問(wèn)題后，通過(guò)適當(dāng)?shù)奶崾竟こ掏昝赖貙?shí)現(xiàn)了所有課程達(dá)到畢業(yè)要求。”

這篇論文因備受爭(zhēng)議的研究方法在隨后受到批評(píng)，例如，在測(cè)試之前，GPT-4已經(jīng)可以訪問(wèn)課程學(xué)習(xí)過(guò)程中所有問(wèn)題的答案，并且對(duì)答案進(jìn)行了評(píng)分。而在論文上列為共同作者的Armando Solar-Lezama教授，以及第一作者Iddo Drori可能并未事先獲得收集這些數(shù)據(jù)集的許可。

一些在校老師向The Register表示，他們沒(méi)有與Drori分享他們的課程資料。與此同時(shí)，Solar-Lezema告訴我們，他只寫了這篇論文的引言，并不知道Drori正在使用這些數(shù)據(jù)集來(lái)訓(xùn)練GPT-4，甚至聲稱GPT-4已經(jīng)可以從麻省理工學(xué)院獲得計(jì)算機(jī)科學(xué)學(xué)位。

該論文已經(jīng)從arXiv撤回，而Drori今天不在麻省理工學(xué)院。

美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）表示，生成式人工智能引發(fā)了反壟斷擔(dān)憂。該委員會(huì)正在密切關(guān)注生成式人工智能的炒作，以確保在這項(xiàng)技術(shù)日益滲透社會(huì)的過(guò)程中，主導(dǎo)者不會(huì)扼殺競(jìng)爭(zhēng)。

美國(guó)聯(lián)邦貿(mào)易委員警告稱，隨著市場(chǎng)不斷成熟，企業(yè)可能會(huì)試圖找到控制開(kāi)發(fā)模型所需資源（如數(shù)據(jù)、硬件和人才）的方法。 他們正在密切關(guān)注可能試圖通過(guò)以更低的價(jià)格提供自己的人工智能服務(wù)或?qū)⒖蛻翩i定在自己平臺(tái)上來(lái)打擊競(jìng)爭(zhēng)對(duì)手的云服務(wù)提供商。與此同時(shí)，大型科技公司可能通過(guò)收購(gòu)初創(chuàng)企業(yè)來(lái)鞏固自己的權(quán)力，以利用新技術(shù)和專業(yè)知識(shí)。

聯(lián)邦貿(mào)易委員會(huì)指出，盡管開(kāi)源運(yùn)動(dòng)可以通過(guò)使開(kāi)發(fā)者更容易構(gòu)建自己的系統(tǒng)來(lái)抵消一些這些擔(dān)憂，但如果軟件在沒(méi)有安全保障措施的情況下普遍提供，該技術(shù)仍可能被濫用。