跳到主要内容

全整数量化

2025年02月09日
柏拉文
越努力,越幸运

一、认识


全整数量化(Full Integer Quantization 不仅量化权重,还量化激活函数的输出。这种方法可以进一步减少模型大小和提高推理速度。