Databricks 這家軟件公司，在各個(gè)領(lǐng)域都有所建樹(shù)，尤其是在數(shù)據(jù)倉(cāng)庫(kù)和基于人工智能的解決方案方面。

最近，隨著 ChatGPT 橫空出世，Meta、谷歌甚至 Mozilla 都開(kāi)始效仿 ChatGPT。

而現(xiàn)在，Databricks 開(kāi)源了其 大型語(yǔ)言模型large language model（LLM）“Dolly”，也正在以自己的方式進(jìn)行嘗試。

我們一起來(lái)看看它。

發(fā)生了什么？ 在最近的公告中，Databricks 介紹了他們號(hào)稱 “廉價(jià)構(gòu)建” 的 LLM，使用 EleutherAI 的已經(jīng)開(kāi)源的參數(shù) 模型 提供功能。

他們?cè)谠撃Ｐ突A(chǔ)上稍作調(diào)整，賦予了 Dolly 指令諸如頭腦風(fēng)暴和文本生成的能力。

當(dāng)你拿它與 GPT-3 中的 1750 億個(gè)參數(shù) 比較時(shí)，Dolly 的 60 億個(gè)參數(shù) 就可能顯得微不足道。

但是，當(dāng) Databricks 的人看到即使數(shù)據(jù)量與 GPT-3 相差這么多，Dolly 也能 展示很多與 ChatGPT 相同的能力 時(shí)，他們感到非常震驚。

下面是他們展示的其中一個(gè)例子：

a screenshot of how dolly performs in an open question and answer scenario

原始模型使用了 ??Alpaca?? 的數(shù)據(jù)，該模型由斯坦福大學(xué)以 Meta 的 ??LLaMA?? LLM 為基礎(chǔ)建立。

但是，正如你所看到的，原始模型產(chǎn)生了一個(gè)非常雜亂無(wú)章的結(jié)果，而 Dolly，通過(guò)不同的模型和調(diào)整，能夠產(chǎn)生一個(gè)更為可用的答案。

?? 有趣的事實(shí)：“多莉Dolly” 名字取自世界上第一只克隆羊。

為什么是現(xiàn)在？ 根據(jù) Databricks 的說(shuō)法，他們認(rèn)為 **許多公司更愿意建立自己的模型，**而不是將數(shù)據(jù)發(fā)送給某個(gè)緊緊掌握模型只對(duì)外提供 API 的集中式供應(yīng)商。

許多公司可能不愿意將他們最敏感的數(shù)據(jù)交給第三方，然后在模型質(zhì)量、成本和所需行為方面進(jìn)行各種權(quán)衡。

你想看看嗎？

當(dāng)然，但有一個(gè)問(wèn)題。

你必須 使用他們的平臺(tái)來(lái)使用 Dolly，他們已經(jīng)開(kāi)源了一個(gè) ??Databricks 筆記本??，可以幫助你在 Databricks 上構(gòu)建它。

此外，如果你想獲得訓(xùn)練好的權(quán)重，你必須聯(lián)系他們。不過(guò)我不確定他們是否會(huì)免費(fèi)提供使用權(quán)。

總而言之，這種開(kāi)源其模型的舉動(dòng)應(yīng)該對(duì)其他公司有好處，可以保護(hù)他們的數(shù)據(jù)、節(jié)省運(yùn)營(yíng)成本，其他公司也能使用它創(chuàng)建自己的模型。

你可以查看其 ??公告博客??，以了解更多技術(shù)細(xì)節(jié)和其他計(jì)劃。