标签： GPTQ算法

在神经网络模型部署的实际场景中，模型量化技术正面临着前所未有的精度与效率平衡挑战。本文针对当前最受关注的两大量化方案——AWQ（Activation-aware Weight Quantization）与GPTQ（GPT-style...