Chinese Brief
中文案例导读
University of Washington UW NLP / QLoRA authors 公开的真实任务执行案例,来源为 公开代码库、Hugging Face 公开空间,复核于 2026-06-27T08:32:44Z。 Model Atlas 将它标记为 A 类证据,因为它同时具备具体使用者、具体任务、公开原始证据和可访问产物。 Model Atlas 不把 benchmark、教程、发布说明或集合页包装成真实案例。
CASE EVIDENCE / A RECORD
University of Washington UW NLP / QLoRA authors 公开的真实任务执行案例,来源为 公开代码库、Hugging Face 公开空间,复核于 2026-06-27T08:32:44Z。
原始记录:University of Washington 用 LLaMA 65B 通过 QLoRA 训练 Guanaco 65B 指令聊天模型
Chinese Brief
University of Washington UW NLP / QLoRA authors 公开的真实任务执行案例,来源为 公开代码库、Hugging Face 公开空间,复核于 2026-06-27T08:32:44Z。 Model Atlas 将它标记为 A 类证据,因为它同时具备具体使用者、具体任务、公开原始证据和可访问产物。 Model Atlas 不把 benchmark、教程、发布说明或集合页包装成真实案例。
任务
UW NLP 的 QLoRA 项目以 LLaMA 65B 作为底座之一,使用 4-bit quantized pretrained language model 加 LoRA 的方式,在单张 48GB GPU 上微调 65B 参数模型,训练 Guanaco 指令跟随/聊天模型系列。
公开产物包括 QLoRA 代码库和 timdettmers/guanaco-65b-merged Hugging Face 模型页面;项目 README 明确描述 Guanaco 作为最佳模型家族,并说明 65B 规模可在 24 小时单 GPU训练完成。
LLaMA 65B 提供 65B 参数级别的基础语言能力;QLoRA 在冻结且 4-bit 量化的 LLaMA 65B 上训练 LoRA 适配器,把基础模型转化为可对话的指令模型 Guanaco 65B。
LLaMA 1 权重许可/访问历史上受限;证据绑定到 65B 参数 LLaMA 和 Guanaco 65B 产物,但部分权重页面可能需要遵守原始 LLaMA 许可。