LLM 本地化部署5:安装 xinference 模型推理平台 安装 xinference 模型推理平台,统一管理与查询 vLLM、GGUF 等多种推理引擎及参数组合。 2025-08-29 技术札记 llm 字数: 516 字 阅读时长: 2 分钟