隨著越來越多的企業(yè)將大量任務(wù)轉(zhuǎn)向人工智能，企業(yè)很快發(fā)現(xiàn)，培訓(xùn)人工智能模型是昂貴、困難和耗時的一項工作。

[[434890]]

新公司MosaicML的目標(biāo)是找到一種新的方法來應(yīng)對這些挑戰(zhàn)，現(xiàn)在正準(zhǔn)備推出一種基于云的神經(jīng)網(wǎng)絡(luò)訓(xùn)練系統(tǒng)，旨在從算法和系統(tǒng)層面解決問題。

1該公司創(chuàng)始人宣稱該想法是通過一種組合——“馬賽克(Mosaic)“方法來提高機(jī)器學(xué)習(xí)的效率，這些方法可以一起加速和改善培訓(xùn)。核心思路是，由于機(jī)器學(xué)習(xí)模型在云上、數(shù)據(jù)中心或本地是昂貴的，關(guān)鍵問題在于消除學(xué)習(xí)過程中的低效。

目前公司已經(jīng)構(gòu)建了兩個組件，將成為其未來產(chǎn)品的一部分。Composer是一個用于高效機(jī)器學(xué)習(xí)(ML)訓(xùn)練的開源方法庫，可以將這些方法組合成“食譜”，從大約20種不同的方法開始，并對它們的性能好處進(jìn)行嚴(yán)格的基準(zhǔn)測試。隨著產(chǎn)品的成熟，還會添加其他方法。

另一個MosaicML組件是Explorer，這是一個可視化工具和界面，企業(yè)開發(fā)人員可以通過比較成本、質(zhì)量和運(yùn)行實驗所需的時間來模擬、繪制和選擇運(yùn)行模型的最佳路徑。Explorer旨在為用戶提供在標(biāo)準(zhǔn)基準(zhǔn)上進(jìn)行的數(shù)千次訓(xùn)練運(yùn)行中所衡量的成本、時間和質(zhì)量權(quán)衡的可視化結(jié)果。用戶可以通過方法、云和硬件類型進(jìn)行篩選，以達(dá)到最佳的運(yùn)行測試協(xié)議。

關(guān)鍵是這些技術(shù)要讓傳統(tǒng)訓(xùn)練過程更高效。

這種想法和需求來自人工智能、機(jī)器學(xué)習(xí)和最初創(chuàng)建及測試模型的步驟。傳統(tǒng)方法中，人工智能開發(fā)人員想出了一些基本可行但效率相當(dāng)?shù)偷姆椒āＩ疃葘W(xué)習(xí)的世界一直在證明，東西可以工作，但不是高效的，但這無關(guān)緊要，因為計算(算力)相對便宜。問題是，這只在模型很小的時候是正確的。

一旦模型變得非常大，它的計算方面實際上變得非常昂貴，如今正處于人工智能行業(yè)的一個拐點，模型變得非常大，數(shù)據(jù)集也非常大，所以現(xiàn)在的費(fèi)用非常大。在GPT-3(延展閱讀：DaaS企業(yè)級GPT語言建模問世)的訓(xùn)練花費(fèi)500萬美元——這可能只是一個花費(fèi)500萬美元的實驗。

這就是MosaicML開始在人工智能和機(jī)器學(xué)習(xí)領(lǐng)域看到機(jī)遇的地方。

MosaicML首席執(zhí)行官表示：“我們關(guān)注的是那些核心競爭力不是人工智能的企業(yè)，但它們需要能夠以成本效益高的方式使用這些技術(shù)，從數(shù)據(jù)中提取價值。如果你是Meta(原Facebook)或谷歌，你有一個龐大的團(tuán)隊可以做到這一點，他們可以節(jié)省昂貴的計算，自己管理。他們最終可能也會使用這些工具，但他們并不真的需要我們。商用企業(yè)是我們的首要目標(biāo)。”

MosaicML發(fā)布了它的開源庫，以便潛在的客戶和開發(fā)人員可以使用它，并了解它的功能和特性。但目前產(chǎn)品尚未正式命名，預(yù)計將于2022年初推出免費(fèi)版本和付費(fèi)支持版本。

“當(dāng)你訓(xùn)練一個模型時，你真正關(guān)心的是成本。”他說。但之后你會開始考慮其他因素，包括事情需要多長時間以及它的效果表現(xiàn)如何。

這個Explorer可視化工具可以讓你看到不同。如果不想花那么多錢，只是做一些廉價的實驗，就可以試試它。這個想法是給用戶提供工具，讓他們了解東西的成本。但如果他們沒有任何想法，就真的無法計劃，進(jìn)行這些實驗就會變得非常困難。最初，MosaicML將在云計算中的模型上工作，因為這些變量更容易根據(jù)每個供應(yīng)商的費(fèi)率成本來衡量。

人工智能的流行將更多的組織帶到了高性能計算(HPC)領(lǐng)域，不管他們是否愿意。對于任何進(jìn)軍高性能計算領(lǐng)域的組織來說，模型創(chuàng)建和優(yōu)化都是最大的挑戰(zhàn)之一，這當(dāng)然比簡單地獲取硬件還要困難。

行業(yè)分析專家稱，這是一種可行的方法來幫助更多的人工智能用戶。MosaicML正在解決模型優(yōu)化問題，有一些優(yōu)化，如Nvidia TensorRT，針對特定硬件進(jìn)行優(yōu)化，但MosaicML則追求算法優(yōu)化。用于訓(xùn)練的人工智能硬件非常昂貴，而且是非常高端前沿的技術(shù)。如果你能將培訓(xùn)時間減少50%，就能相應(yīng)地降低成本。而且客戶也不需要以超高的價格聘請高端人才。