Dify是一款功能強(qiáng)大、易于使用的開(kāi)源AI平臺(tái)，它為開(kāi)發(fā)者提供了一個(gè)構(gòu)建、部署和管理AI應(yīng)用的便捷方式。憑借其可視化界面、多模型支持和可擴(kuò)展性，Dify正在成為越來(lái)越多開(kāi)發(fā)者和企業(yè)的首選，本篇我們一起來(lái)看看如何快捷方便地搭建Dify+Ollama本地聊天機(jī)器人。一、安裝部署Dify有兩種安裝方式，一種是DockerCompose部署，另一種是本地源碼編譯后再安裝，為了方便快捷，本次選擇在Ubuntu下用DockerCompose部署，Dify也支持Windows...

一、配置與安裝我在嘗試運(yùn)行AlpacaLoRA工具給大模型做微調(diào)時(shí)，發(fā)現(xiàn)了準(zhǔn)備篇中的一些方法存在問(wèn)題。經(jīng)過(guò)了反復(fù)摸索，有以下幾點(diǎn)需要重新配置一下。1.由于https:huggingface.co國(guó)內(nèi)無(wú)法訪問(wèn)，需要預(yù)先從鏡像站：https:hfmirror.com下載好模型文件，而且需要重新選擇baffo32decapodaresearchllama7Bhf模型進(jìn)行微調(diào)，因?yàn)檫@是AlpacaLoRA工具的推薦模型，為了提高成功率，本次先選它。2.我們準(zhǔn)備用huggingfacehub工具下載模型，先激...

當(dāng)我們想構(gòu)建高性能的機(jī)器學(xué)習(xí)和AI系統(tǒng)時(shí)，僅僅訓(xùn)練單個(gè)模型和系統(tǒng)往往是不夠的。通常在開(kāi)發(fā)中需要構(gòu)建多個(gè)模型，使用多種不同的算法，然后將不同的模型相互比較，看看哪個(gè)模型最好。此外，在比較過(guò)程中還需要“調(diào)整”每種不同算法的設(shè)置，以使它們以最佳方式（或接近最佳）執(zhí)行。所以大多數(shù)機(jī)器學(xué)習(xí)算法都有“設(shè)置”，我們可以稱之為超參數(shù)，使用超參數(shù)是機(jī)器學(xué)習(xí)的重要組成部分。一、什么是超參數(shù)在機(jī)器學(xué)習(xí)和人工智能中，超...

在當(dāng)下流行的各種大模型工具中，LlamaFactory是全球開(kāi)發(fā)者常用的一套工具集，它基于Transformer架構(gòu)，為我們提供了一套簡(jiǎn)單、快速而又高效的大模型定制化訓(xùn)練與部署工具，并且它提供了模塊化、可擴(kuò)展和流程化的框架，支持多種主流的大語(yǔ)言模型（如LLaMA、ChatGLM、Qwen等），一站式地集成了數(shù)據(jù)預(yù)處理、訓(xùn)練、微調(diào)、評(píng)估和推理等多種功能。本篇我們一起來(lái)看看LlamaFactory能為我們帶來(lái)哪些便利。一、核心功能1.多模型支持兼容主...

機(jī)器人流程自動(dòng)化（RoboticProcessAutomation，簡(jiǎn)稱RPA）是一種通過(guò)軟件機(jī)器人來(lái)自動(dòng)化地執(zhí)行重復(fù)性、規(guī)則性強(qiáng)、耗時(shí)的任務(wù)的技術(shù)。它模仿人類用戶在應(yīng)用程序界面上的交互行為，如點(diǎn)擊鼠標(biāo)、輸入數(shù)據(jù)、復(fù)制粘貼等，從而實(shí)現(xiàn)業(yè)務(wù)流程的自動(dòng)化處理。那應(yīng)該如何去理解這項(xiàng)技術(shù)呢？下面我們來(lái)一窺究竟。一、RPA的特點(diǎn)1.非侵入性：RPA不需要對(duì)現(xiàn)有的IT系統(tǒng)、軟件或應(yīng)用程序進(jìn)行修改或集成。它直接在應(yīng)用的用戶界面層（UI層）進(jìn)行操作...

在當(dāng)下流行的幾種大模型微調(diào)方法中，大家經(jīng)常會(huì)看到談?wù)揝FP與Unsloth的文章，那我們應(yīng)該如何了解它們？它們的技術(shù)特點(diǎn)又有哪些？各自應(yīng)用在哪些模型微調(diào)的場(chǎng)景呢？本篇我們帶著這些問(wèn)題，一起來(lái)了解一下。一、SFT微調(diào)技術(shù)介紹監(jiān)督微調(diào)（SupervisedFinetuning,SFT）是一種遷移學(xué)習(xí)（TransferLearning）技術(shù)，指的是在已經(jīng)預(yù)訓(xùn)練好的模型（例如大語(yǔ)言模型中的GPT、BERT等）基礎(chǔ)上，使用帶有人工標(biāo)注標(biāo)簽的監(jiān)督數(shù)據(jù)，對(duì)模型進(jìn)行進(jìn)...

在機(jī)器學(xué)習(xí)領(lǐng)域中，ChainofThought（思維鏈）技術(shù)是一種在大語(yǔ)言模型（LLM）推理任務(wù)中非常重要的方法，它誕生的目的是使模型能夠像人類一樣，通過(guò)一系列中間推理步驟來(lái)得出最終答案，而不是簡(jiǎn)單地給出一個(gè)直接的答案。這種能力對(duì)于提升模型的解釋性、可信度和解決復(fù)雜問(wèn)題的能力至關(guān)重要，尤其是在涉及邏輯推理、數(shù)學(xué)計(jì)算、問(wèn)答等需要多步推理的應(yīng)用場(chǎng)景中。本篇我們一起來(lái)了解一下CoT技術(shù)。一、什么是思維鏈技術(shù)1.基本概念思...