LLM 本地化部署4:Transformers 模型量化 将 Transformers 模型导出为 GGUF 格式并完成量化,在推理精度与显存占用之间取得平衡。 2025-08-28 技术札记 llm 字数: 619 字 阅读时长: 2 分钟