单算子模式量化配置参数说明【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct表 1retrain_enable参数说明作用该层是否进行量化感知训练。类型bool取值范围true或false参数说明true该层需要进行量化感知训练。false该层不进行量化感知训练。推荐配置true必选或可选可选表 2retrain_data_config参数说明作用该层数据量化配置。类型dict取值范围-参数说明包含如下参数batch_num量化使用的batch数量。clip_max截断量化算法上限默认不选。clip_min截断量化算法下限默认不选。fixed_min截断量化算法最小值固定为0默认不选。dst_type当前仅支持INT8量化位宽默认为INT8。推荐配置-必选或可选可选表 3retrain_weight_config参数说明作用该层权重量化配置。类型dict取值范围-参数说明包含如下参数weights_retrain_algo量化算法选择默认是arq_retrain。channel_wise是否对每个channel采用不同的量化因子。dst_type当前仅支持INT8量化位宽默认为INT8。推荐配置-必选或可选可选表 4weights_retrain_algo参数说明作用该层选择使用的权重量化算法。类型string取值范围-参数说明ulq_quantizeulq截断上下限量化算法。arq_retrainarq量化算法。推荐配置arq_retrain必选或可选可选表 5channel_wise参数说明作用是否对每个channel采用不同的量化因子。类型bool取值范围true或false参数说明true每个channel独立量化量化因子不同。false每个channel同时量化共享量化因子。推荐配置true必选或可选可选表 6batch_num参数说明作用量化使用的batch数量。类型int取值范围大于0参数说明如果不配置则使用默认值1建议校准集图片数量不超过50张根据batch的大小batch_size计算相应的batch_num数值。batch_num*batch_size为量化使用的校准集图片数量。其中batch_size为每个batch所用的图片数量。推荐配置1必选或可选可选表 7fixed_min参数说明作用设置数据量化算法下限的开关。类型bool取值范围true或false参数说明true数据量化算法固定下限并且下限为0。false数据量化算法不固定下限。推荐配置不选此项必选或可选可选表 8clip_max参数说明作用数据量化算法上限。类型float取值范围clip_max0根据不同层activation的数据分布找到最大值max推荐取值范围为0.3*max~1.7*max参数说明截断上下限数据量化算法如果选择此项则固定算法截断上限。如果不选此项通过ifmr算法学习获取上限。推荐配置不选此项必选或可选可选表 9clip_min参数说明作用数据量化算法下限。类型float取值范围clip_min0根据不同层activation的数据分布找到最小值min推荐取值范围为0.3*min~1.7*min参数说明截断上下限数据量化算法如果选择此项则固定算法截断下限。如果不选此项通过ifmr算法学习获取下限。推荐配置不选此项必选或可选可选表 10dst_type参数说明作用量化位宽的类型。类型string取值范围当前只支持INT8默认为INT8。参数说明量化时用于选择量化位宽。推荐配置-必选或可选可选【免费下载链接】amctAMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。项目地址: https://gitcode.com/cann/amct创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考