CASE EVIDENCE / A RECORD
xorbitsai/inference GitHub user community 公开的真实任务执行案例，来源为 公开代码库，复核于 2026-06-27T07:46:08Z。
原始记录：Xinference user launches replicated Qwen1.5-110B-Chat-GPTQ-Int4 serving on 8×4090 GPUs
Chinese Brief
xorbitsai/inference GitHub user community 公开的真实任务执行案例，来源为 公开代码库，复核于 2026-06-27T07:46:08Z。 Model Atlas 将它标记为 A 类证据，因为它同时具备具体使用者、具体任务、公开原始证据和可访问产物。 Model Atlas 不把 benchmark、教程、发布说明或集合页包装成真实案例。
任务
这是一个围绕真实任务执行的真实任务，公开材料可以回溯到具体使用者和具体产物。 原始资料写作：A user launched Qwen1.5-110B-Chat-GPTQ-Int4 through Xinference with model_uid qwen1.5-110b-4090, model_format gptq, quantization Int4, n_gpu=4, replica=2, gpu_memory_utilization=0.9, max_model_len=12000, and model_size_…
公开材料提供公开代码、README 或项目配置，可用于核验任务结果、项目形态和模型绑定关系。 原始资料写作：The issue records the serving logs, including caching qwen/Qwen1.5-110B-Chat-GPTQ-Int4 from ModelScope and loading the model with vLLM configuration before an NCCL error when using replicas.
Qwen1.5 Chat 110B 在该案例中承担真实任务执行相关的生成、分析、编排或实现角色。 原始资料写作：Qwen1.5-110B-Chat-GPTQ-Int4 was the large chat model being exposed through Xinference/vLLM for local multi-GPU serving.
当前判断基于公开材料；若产物下线、仓库变更或模型参与比例仅来自作者自述，需要在引用前重新复核。 原始资料写作：This is an operational bug report and not a success story; it remains a real public deployment artifact with exact model identifier, serving parameters, hardware, and logs.