近年來(lái)，大語(yǔ)言模型在自然語(yǔ)言處理任務(wù)中取得了顯著進(jìn)展。然而，對(duì)于開(kāi)發(fā)者和中小型企業(yè)，模型微調(diào)的資源需求仍是一個(gè)挑戰(zhàn)。本文將討論如何利用 Unsloth 框架，在有限的硬件資源下完成 Qwen3-14B 的高效微調(diào)，并支持后續(xù)部署。通過(guò)以下分段內(nèi)容，我們將依次介紹 Unsloth 的核心特性、以 Qwen3 為例的實(shí)際應(yīng)用、代碼示例以及訓(xùn)練流程總結(jié)。

Unsloth 框架概述

Unsloth 是一個(gè)針對(duì) LoRA 微調(diào)優(yōu)化的輕量級(jí)框架，其設(shè)計(jì)目標(biāo)是提升訓(xùn)練效率并降低資源消耗。具體而言，Unsloth 通過(guò)內(nèi)置的 4-bit 或 8-bit 量化技術(shù)，將微調(diào)速度提高至原生 Transformers + PEFT 框架的 2 倍以上，同時(shí)顯存占用可降至 12GB。它支持一鍵加載 LoRA 適配器，并兼容多種模型類(lèi)型，包括 Qwen、LLaMA 和 Gemma 等。該框架還提供導(dǎo)出功能，支持生成 GGUF 或 vLLM 格式的文件，便于模型的后續(xù)推理和部署。對(duì)于資源受限的環(huán)境，Unsloth 是一種高效的解決方案。

為什么選Qwen3為底座模型 

Qwen3 系列是阿里通義千問(wèn)的第三代模型，涵蓋從 0.5B 到 72B 參數(shù)的多種規(guī)模，支持 base 和 instruct 格式，并兼容 ChatML 模板。該系列模型在中文任務(wù)（如寫(xiě)作、問(wèn)答和摘要）上表現(xiàn)出色，同時(shí)在多語(yǔ)言和代碼處理領(lǐng)域具有較強(qiáng)競(jìng)爭(zhēng)力。我再文章通義千問(wèn)Qwen3開(kāi)源8款全新模型，揭秘混合推理背后的黑科技中對(duì)Qwen有一個(gè)詳細(xì)的介紹，目前作為公司內(nèi)部或者tob、tog項(xiàng)目來(lái)說(shuō)，Qwen3可以說(shuō)是最適合的底座模型了。

而Unsloth 的適配性使其特別適合 Qwen3-14B 的微調(diào)：在單張 A100 顯卡上，通過(guò) LoRA 技術(shù)，用戶(hù)可以高效地優(yōu)化模型參數(shù)，提升特定任務(wù)的性能。例如，對(duì) Qwen3-14B-Instruct 進(jìn)行微調(diào)后，模型在保持原有通用知識(shí)的同時(shí)，能夠顯著改善在企業(yè)知識(shí)庫(kù)或?qū)υ?huà)系統(tǒng)中的表現(xiàn)。該過(guò)程避免了高資源消耗，并確保微調(diào)結(jié)果的穩(wěn)定性和可復(fù)現(xiàn)性。

微調(diào)實(shí)踐

以下是使用 Unsloth 微調(diào) Qwen3-14B 的核心代碼示例。首先，確保安裝必要的依賴(lài)包：  

pip install -U unsloth datasets bitsandbytes  
pip install -U accelerate peft trl

然后加載模型并導(dǎo)入LoRA

from unsloth import FastLanguageModel  
import torch  
model, tokenizer = FastLanguageModel.from_pretrained(  
    model_name="Qwen/Qwen1.5-14B-Chat",  
    max_seq_length=4096,  
    dtype=torch.float16,  
    load_in_4bit=True,  # 啟用 4-bit 量化以節(jié)省顯存  
)  
model = FastLanguageModel.get_peft_model(  
    model,  
    r=16,  # LoRA 秩  
    target_modules=["q_proj", "k_proj", "v_proj", "o_proj", "gate_proj", "up_proj", "down_proj"],  
    lora_alpha=16,  
    lora_dropout=0.05,  
    bias="none",  
    use_gradient_checkpointing=True,  
)

準(zhǔn)備數(shù)據(jù)集  

from datasets import load_dataset  
from unsloth.chat_templates import get_chat_template  
dataset = load_dataset("ldjlj/sharegpt_zh", split="train")  
dataset = dataset.select(range(10000))  # 選取前 10000 條數(shù)據(jù)作為示例  
chat_template = get_chat_template(tokenizer, "chatml")  
def format(example):  
    messages = [  
        {"role": "user", "content": example["instruction"]},  
        {"role": "assistant", "content": example["output"]},  
    ]  
    return {"prompt": chat_template(messages)}  
dataset = dataset.map(format)

啟動(dòng)訓(xùn)練  

from trl import SFTTrainer  
from transformers import TrainingArguments  
trainer = SFTTrainer(  
    model=model,  
    tokenizer=tokenizer,  
    train_dataset=dataset,  
    dataset_text_field="prompt",  
    max_seq_length=4096,  
    args=TrainingArguments(  
        per_device_train_batch_size=2,  
        gradient_accumulation_steps=4,  
        warmup_steps=5,  
        learning_rate=2e-5,  
        num_train_epochs=2,  
        save_steps=100,  
        logging_steps=10,  
        output_dir="./qwen3-lora",  
        bf16=True,  
        optim="adamw_8bit",  
        report_to="none"  
    ),  
)  
trainer.train()  # 執(zhí)行訓(xùn)練過(guò)程

在這個(gè)代碼示例中我們演示了模型加載、數(shù)據(jù)準(zhǔn)備和訓(xùn)練啟動(dòng)的完整流程，大家實(shí)際使用時(shí)可根據(jù)實(shí)際需求調(diào)整參數(shù)。

總的來(lái)說(shuō)，Unsloth 的微調(diào)流程可分為三個(gè)主要階段：模型加載與優(yōu)化、數(shù)據(jù)集準(zhǔn)備以及訓(xùn)練與導(dǎo)出。

在實(shí)際測(cè)試中，對(duì) Qwen3-14B 進(jìn)行 1-2 個(gè) epoch 的 LoRA 微調(diào)，通常耗時(shí) 2-3 小時(shí)，顯存占用控制在 50GB 左右。

微調(diào)后，模型在相關(guān)任務(wù)上的性能（如中文問(wèn)答和摘要）得到提升，且未觀(guān)察到顯著的知識(shí)遺忘。

權(quán)重的導(dǎo)出命令如下，可生成適用于 vLLM 或 GGUF 的模型權(quán)重文件，支持部署到各種推理環(huán)境中。該結(jié)構(gòu)確保了微調(diào)過(guò)程的效率和可擴(kuò)展性。 

unsloth merge --model ./qwen3-lora --save_as ./qwen3-merged --format vllm

寫(xiě)在最后

2025年的今天，AI創(chuàng)新已經(jīng)噴井，幾乎每天都有新的技術(shù)出現(xiàn)。作為親歷三次AI浪潮的技術(shù)人，我堅(jiān)信AI不是替代人類(lèi)，而是讓我們從重復(fù)工作中解放出來(lái)，專(zhuān)注于更有創(chuàng)造性的事情，關(guān)注我們公眾號(hào)口袋大數(shù)據(jù)，一起探索大模型落地的無(wú)限可能！