元象大模型开源30款量化版本 可更低成本部署 元象大模型开源了30款量化版本，支持vLLM和llama.cpp等主流框架的量化推理，无条件免费商用。对量化前后的模型能力、推理性能进行评估，以XVERSE-13B-GPTQ-Int4量化版本为例 元象大模型 2024年04月13日 165 点赞 2 评论 250 浏览
