Chinese Brief
中文案例导读
Kuleshov Group / MiniLLM project 公开的代码代理与软件工程案例,来源为 公开代码库、Hugging Face 公开空间,复核于 2026-06-27T08:32:44Z。 Model Atlas 将它标记为 A 类证据,因为它同时具备具体使用者、具体任务、公开原始证据和可访问产物。 Model Atlas 不把 benchmark、教程、发布说明或集合页包装成真实案例。
CASE EVIDENCE / A RECORD
Kuleshov Group / MiniLLM project 公开的代码代理与软件工程案例,来源为 公开代码库、Hugging Face 公开空间,复核于 2026-06-27T08:32:44Z。
原始记录:Kuleshov Group MiniLLM 发布 LLaMA 65B 4-bit 权重和命令行生成工具
Chinese Brief
Kuleshov Group / MiniLLM project 公开的代码代理与软件工程案例,来源为 公开代码库、Hugging Face 公开空间,复核于 2026-06-27T08:32:44Z。 Model Atlas 将它标记为 A 类证据,因为它同时具备具体使用者、具体任务、公开原始证据和可访问产物。 Model Atlas 不把 benchmark、教程、发布说明或集合页包装成真实案例。
任务
MiniLLM 项目提供安装包、命令行工具和预量化模型,用于下载并运行 LLaMA 7B/13B/30B/65B 的 4-bit 权重;README 明确给出 llama-65b-4bit.pt 下载地址和 minillm generate 文本生成流程。
公开产物包括 GitHub repo 和 Hugging Face 上的 kuleshov/llama-65b-4bit 模型页;用户可用 MiniLLM 下载 4-bit LLaMA 65B 权重并执行本地文本生成。
LLaMA 65B 提供高容量基础语言模型;MiniLLM 的量化和 CLI 封装让 65B 模型能够以 4-bit 形式用于本地生成任务。
这是模型运行/量化工具链案例,不是垂直行业业务案例;artifact 公开可访问,且 README 直接列出 llama-65b-4bit。